새로운 연구에 따르면 Google DeepMind 하지만 챗봇은 윤리적으로 보이는 답변을 하더라도 도덕성을 진정으로 이해하지 못할 수도 있습니다.
현재 인공지능 윤리에 대한 검증은 모델이 수용 가능한 답변을 도출하는지 여부를 평가하는 "윤리적 성능"에 초점을 맞추고 있습니다. 그러나 딥마인드 연구진은 이러한 접근 방식이 더욱 근본적인 질문, 즉 인공지능이 윤리적으로 사고할 수 있는지, 아니면 단순히 옳은 말을 흉내 내는 것인지에 대한 질문을 간과하고 있다고 주장합니다.
인공지능이 윤리를 진정으로 이해할 수 있을까요?
에 한 연구 논문이 발표되었습니다. 자연이 팀은 윤리적으로 적절한 결과를 도출하는 능력, 즉 윤리적으로 관련된 고려 사항을 바탕으로 윤리적으로 적합한 결과물을 만들어내는 능력을 평가하기 위한 로드맵을 개발합니다. 요약문에 명시된 바와 같이, 이러한 능력을 평가하는 것은 "모델의 미래 행동을 예측하고, 적절한 대중의 신뢰를 구축하며, 윤리적 귀속을 정당화하는 데 매우 중요합니다."
구글의 현재 인공지능 분야 프로젝트는 다음과 같습니다. 제미니 언어 모델, 그리고 쌍둥이자리 이미지 이미지를 생성하고 편집하려면, 리리아 음악을 만들기 위해, 제미니 오디오 실시간 오디오에는 Veo를, 비디오 제작에는 Veo를 사용합니다.
연구진은 세 가지 주요 과제를 강조합니다.
- 복사 문제: LLM 모델은 윤리적 추론을 흉내낼 수는 있지만 진정한 이해는 부족할 수 있습니다.
- 윤리적 다차원성: 실제 상황에서의 의사 결정은 단순히 옳고 그름을 판단하는 것을 넘어 복잡하고 상황에 따라 달라지는 여러 가지 요소를 고려해야 합니다.
- 윤리적 다원주의: 윤리적 기준은 문화와 분야에 따라 다르므로 인공지능은 다양한 타당한 관점을 고려해야 합니다.
이러한 단점을 해결하기 위해 DeepMind는 특이하거나 위험 부담이 큰 시나리오를 사용하여 공격자를 테스트할 것을 제안합니다. 또한 AI가 다양한 윤리적 틀 사이를 전환하고 상황의 미묘한 변화에 일관되게 대응할 수 있는지 평가할 것을 제안합니다.
연구팀은 현재 모델의 한계에도 불구하고 "발전은 가능하다"고 강조하며, 인공지능이 의료 자문, 치료 및 기타 인간에게 실질적인 영향을 미치는 영역에서 역할을 수행하게 됨에 따라 신중한 평가가 필수적이라고 밝혔습니다.
이 연구는 "현재 인공지능에게 윤리적 지침을 요청하면 윤리적 추론이 아닌 단어만 예측한다"고 지적하며, "우리의 로드맵은 인공지능이 진정한 윤리적 이해력을 평가받을 수 있는 미래를 지향한다"고 밝혔습니다.
챗봇과 윤리적 위험
인공지능 기반 챗봇은 인간의 행동에 긍정적이든 부정적이든 영향을 미칠 수 있는 능력을 점점 더 많이 보여주고 있습니다. 뉴욕 타임스는 최근 한 보고서에 따르면 인공지능과의 상호작용 후 환자들이 정신병, 망상 또는 유해한 행동을 경험한 사례가 수십 건에 달합니다. 정신과 의사들은 챗봇이 비정상적인 믿음을 부추기고, 고립감을 심화시키며, 심지어 자살 충동이나 폭력으로까지 이어질 수 있다고 설명했습니다.
이러한 도구들이 사람들이 치료 기법을 연습하거나 지원을 받는 데 도움이 될 수 있지만, 같은 타임스 보도는 인공지능의 설득력이 지닌 윤리적 위험성을 강조합니다. 전문가들은 취약한 사용자에게 챗봇이 해로운 패턴을 강화할 수 있다고 경고하며, 점점 더 인간과 접촉하는 이러한 시스템에서 책임, 설계 및 감독에 대한 어려운 질문을 제기합니다.
구글은 자사의 챗봇 제미니가 미치는 심리적 영향 때문에 해당 기사에서 직접적으로 언급되었습니다. 회사 대변인은 제미니가 건강 관련 질문에 대해 전문 의료 상담을 받을 수 있도록 사용자를 안내한다고 밝혔습니다. 그러나 몬몬 드 쇼두리 박사는 "이러한 기업들 중 어느 곳도 해결책을 찾지 못한 것 같다"며 더 큰 문제점을 지적했습니다.
