구글의 AI 개요 기능은 때때로 "AI 환각"을 제공하는 것을 주저하지 않으며, 최근 기능은 이러한 목록에 추가된 또 다른 고전적인 기능입니다. AI 전문가들이 설명하는 이러한 환각은 단순히 지능형 시스템이 제공하는 정보의 오류일 뿐입니다.
AI 개요 모든 것이 용어라고 생각하시는데, 그건 좋은 생각입니다.
간단히 말해서, Google 검색에 가서 관용구나 속담처럼 들리는 임의의 문장을 입력하면 AI Overview는 사용자의 빈말을 이해하려고 최선을 다할 것입니다.
Threads에서 처음 발견되었지만 내 관심을 끌었습니다. Greg Jenner의 Bluesky 계정이런 AI 환각은 제가 가장 좋아하는 것 중 하나입니다. 구글 AI가 입력된 정보가 어떻게 의미가 있는지, 또는 자신의 관점과 어떻게 부합하는지 설명하기 위해 얼마나 많은 노력을 기울이는지 보여주는 놀라운 사례들이 있습니다. 특히 MakeUseOf 편집장 벤 스테그너의 "젖은 골프장만큼 아이러니한 것은 없습니다."라는 말이 가장 기억에 남습니다.
AI Overview는 이에 대해 심도 있게 답변했습니다. "젖은 골프장만큼 아이러니한 것은 없다"는 말은 햇볕이 잘 들고 잘 관리된 그린과 관련된 스포츠인 골프가 비가 오면 놀라울 정도로 어렵고 짜증스러울 수 있다는 일반적인 이해에 기반합니다."
제가 시도해 본 또 다른 예시는 "자이언트 판다는 항상 두 번 넘어진다"였는데, AI 개요는 판다가 얼마나 서툴고 걷는 것보다 구르는 것을 좋아하는지에 대한 자세한 정보를 제공했습니다. 하지만 거기서 멈추지 않고 판다의 신진대사와 에너지 보존 노력에 대해 심도 있게 탐구했습니다.
최신 AI 개요: AI 기반 챗봇을 신뢰할 수 없는 이유
이러한 기괴하고 멋진 설명들은 재밌지만, AI 기반 챗봇(그리고 일반적인 AI뿐만 아니라)의 매우 현실적인 문제점을 부각시킵니다. AI의 환각은 실재하며, 특히 그 결과를 심각하게 받아들일 경우 심각한 문제를 야기합니다.
AI 환각 증상이 ChatGPT, Claude, Gemini 등과 같은 AI 기반 챗봇을 사용하는 사람들에게만 국한되었을 때, 잠재적 위험은 상당히 제한적이었습니다. 물론 AI가 열광했고 그것이 문제였지만, 이 사람들은 AI 기반 챗봇을 특별히 찾고 있었습니다.
Google의 AI 개요 및 다음 릴리스 AI 모드규칙. Google을 사용하여 정상적인 검색을 수행하려는 사람은 누구나 가짜이고 부정확한 AI 응답을 마주할 위험이 있으며, 마치 진짜처럼 표시되고 나타납니다. 면밀한 검토 없이는 우리가 아는 Google 검색은 곧 사라질 것이며, 이전보다 훨씬 더 뛰어난 인지 능력을 요구하는 훨씬 더 나쁜 것으로 대체될 것입니다.
이번 AI 환각의 최신 사례가 바로 그 예입니다. 한 예에서 슬라이트 닥터AI 개요에서는 책에서 발췌한 일부 문구와 단어를 인용하기도 했습니다.
