급속한 기술 발전 시대에, 자기 학습이라는 개념은 인간 교육 분야에만 국한되지 않는 듯합니다. 컴퓨터 시스템은 눈부시게 발전하여 더욱 지능적이고 자기 학습 능력을 갖추게 되었고, 다양한 분야에서 이해, 직관, 감각을 습득할 수 있는 가능성을 열어주고 있습니다.
상식은 인간만이 가진 고유한 능력이지만, 인공지능은 이를 학습할 수 있을까요? 이 글에서는 컴퓨터 시스템이 스스로 학습하고 작동 환경에 대한 심층적인 이해를 달성할 수 있는 잠재력을 심층적으로 살펴보겠습니다. 이 분야의 최신 혁신과 발전 사항을 살펴보고, 현재 기술에 대한 평가와 이 흥미로운 개념이 직면한 과제들을 제시합니다.
상식, 우리 모두는 상식을 가지고 있다고 생각합니다. 하지만 상식이란 정확히 무엇일까요? 컴퓨터나 인공지능 시스템이 정말로 상식을 가질 수 있을까요?
인공지능, 로봇공학, 딥러닝 기술 등 어떤 분야에 관심이 있든, 이 글은 상식을 실현하는 컴퓨팅 시스템의 역량에 대한 귀중한 통찰력을 제공합니다. 이 분야의 발전 상황을 이해하고 다양한 응용 분야에서 이를 효과적으로 활용하는 방법을 알려드립니다. AI와 블록체인 중 누가 먼저 대중화를 달성할 것인지를 결정하는 몇 가지 요소.
로압 스리유에스
상식이란 무엇이고, 인간은 어떻게 상식을 습득하는가?
상식이란 대부분의 사람들이 가지고 있을 것으로 기대되는, 상식적이고 반박할 수 없는 직관적 개념을 통해 사물을 인식하고 이해하고 판단하는 기본적인 능력입니다. 이는 사람이 삶의 경험과 관찰을 통해 축적하는 일련의 사실, 정보, 그리고 기본적인 규칙입니다. 상식은 우리가 일상의 상황을 깊이 분석하지 않고도 효율적으로 처리하고 대응할 수 있게 해줍니다.
인간은 어린 시절부터 상식을 습득하기 시작합니다. 유아기에는 울음으로 인해 수유나 기저귀 갈기가 이루어지는 것과 같은 인과 관계를 배우기 시작합니다. 반복적인 경험을 통해 우리는 세상에 대한 실질적인 지식을 습득합니다. 예를 들어, 뜨거운 난로를 만지면 화상을 입습니다. 그래서 우리는 뜨거운 표면을 만지지 않도록 배웁니다.
어린 시절, 우리는 시행착오, 관찰, 그리고 가족들과의 상호작용을 통해 상식을 끊임없이 넓혀갑니다. 예를 들어, 옷은 자주 빨아야 하고, 입에 음식을 가득 넣고 말하면 안 되며, 우유 한 잔을 쏟으면 집안이 엉망이 된다는 것을 배웁니다. 부모, 형제자매, 선생님, 그리고 다른 어른들은 우리가 사회적 규범과 기대를 어길 때 우리의 행동을 바로잡아 줍니다. 시간이 지남에 따라 이러한 교훈은 기본적인 상식으로 자리 잡습니다.
개인적인 경험 외에도, 상식은 더 넓은 사회적, 문화적 규범에 의해 형성됩니다. 한 문화권에서 합리적인 것(예: 집에 들어갈 때 신발을 벗는 것)이 다른 문화권에서는 그렇지 않을 수 있습니다.
우리의 상식은 성장하고 더 많은 사람과 환경에 노출됨에 따라 적응합니다. 따라서 작은 마을에서 자란 아이는 그 환경 속의 삶에 대한 기본적인 상식을 습득합니다. 대도시로 이주하는 어른은 새로운 환경에 맞게 상식을 조정해야 합니다.
우리는 삶 속에서 새로운 것을 경험하면서 상식도 계속 발전합니다. 확인해 보세요. AI 기반 챗봇에게 묻지 말아야 할 것들.
왜 상식이 컴퓨터에는 어려운 과제가 되는가?
상식을 프로그래밍하기 어려운 데에는 여러 가지 이유가 있습니다.
우선, 인간은 오랜 세월 세상을 경험하면서 점차 상식을 익힙니다. 우리는 여러 가지를 시도해 보고, 무엇이 효과가 있고 무엇이 효과가 없는지 살펴보고, 그 교훈을 기억합니다. 하지만 컴퓨터는 그런 실제 경험을 활용할 수 없습니다. 인간이 명확하게 말하는 것만 알고 있을 뿐입니다.
예를 들어, 저는 ChatGPT(GPT 3.5)에 다음과 같은 질문을 했습니다.
재닛은 세탁소를 운영합니다. 그녀는 고객들의 옷을 세탁해서 빨랫줄에 널어 햇볕에 말립니다. 어느 날 재닛은 셔츠 다섯 장을 세탁해서 아침에 빨랫줄에 널었습니다. 셔츠를 말리는 데 다섯 시간이 걸렸습니다. 셔츠 30장을 말리려면 얼마나 걸릴까요?
그의 대답은 다음과 같았다.
또 다른 문제는 상식이 맥락에 따라 달라진다는 것입니다. 컴퓨터가 특정하게 프로그래밍된 규칙만 가지고 있다면, 인간처럼 직관적으로 새로운 맥락에 맞춰 규칙을 적용할 수 없습니다.
예를 들어, 비가 오기 시작하면 어떻게 해야 할지 컴퓨터에 학습시켰다고 가정해 보겠습니다. 당연한 얘기죠? 하지만 비가 오는 대신 스프링클러가 작동한다면 어떨까요? 아니면 식료품점 안에서 지붕에서 파이프가 새기 시작한다면 어떨까요? 우리는 이러한 변화에 어떻게 대처해야 할지 바로 알 수 있지만, 컴퓨터는 "실외에 있을 때 비가 오면 안으로 들어가라"라는 규칙을 맹목적으로 따를 것입니다. 이제는 말이 안 되는 규칙이죠.
인간이 무의식적으로 내면화하는 암묵적인 규칙과 가정도 있습니다. 예를 들어, 어색함을 느끼지 않으려면 누군가 옆에 얼마나 가까이 서 있어야 할까요? 인간은 직관적으로 답을 알지만, 정확한 규칙을 쉽게 설명하지는 못할 수 있습니다. 이러한 암묵적인 사회적 규범은 컴퓨터가 데이터만으로 파악하기 특히 어려울 수 있습니다.
따라서 현재로서는 상식은 인간 지능에 비해 AI의 가장 큰 약점 중 하나로 남아 있습니다. 상식은 사람에게는 본능적으로 존재하지만, 기계에게는 그렇지 않습니다.
컴퓨터가 상식을 배우는 방법
1970년대와 1980년대 초반의 낙관적인 전망 이후, 연구자들은 컴퓨터에게 상식을 가르치는 것이 얼마나 어려운지 깨달았습니다. 그러나 새로운 방법들은 AI 시스템이 현실 세계와 일상적인 사회적 상호작용에 대한 기본적인 상식을 갖추도록 훈련하는 데 유망함을 보여줍니다.
한 가지 접근법은 세상이 어떻게 돌아가는지에 대한 사실과 규칙을 상세히 기술하는 대규모 지식 기반을 수동으로 구축하는 것입니다. 1984년 더그 레나트가 시작한 Cyc 프로젝트는 이러한 종류의 야심찬 노력 중 하나입니다.
수백 명의 사람들이 수십 년에 걸쳐 수백만 개의 논리적 공리를 Cyc에 코딩했습니다. 이 과정은 오랜 시간이 걸리지만, 그 결과 풍부한 현실 지식을 갖춘 시스템이 탄생했습니다. Cyc는 요리의 풍미 프로파일에 대한 지식을 바탕으로 토마토가 기술적으로는 과일이지만 과일 샐러드에 포함되어서는 안 된다는 것을 추론할 수 있음이 분명합니다.
ConceptNet을 활용한 크라우드소싱 상식
다음과 같은 보다 현대적인 지식 기반 컨셉트넷 논리적 주장을 생성하는 크라우드소싱 방식입니다. 전문가나 AI가 세상의 모든 근본적인 사실과 관계를 도출하려고 애쓰는 대신, 누구나 타당한 추론의 단편을 기여할 수 있도록 정보를 공개하는 것입니다.
크라우드소싱 방식을 통해 이러한 지식 기반은 인터넷 전반에 걸쳐 다양한 사람들의 집단 지성을 활용할 수 있습니다. ConceptNet은 대중으로부터 수천, 수만 개의 작지만 논리적인 정보를 수집하여 필수적인 일상 지식을 놀라울 정도로 방대한 저장소로 구축했습니다. 그리고 새로운 기여자들이 끊임없이 정보를 추가하고 있기 때문에 지식은 계속해서 성장합니다.
경험을 통한 상식 교육
또 다른 유망한 접근 방식은 AI 에이전트가 경험을 통해 물리학과 직관에 대해 실험하고 학습할 수 있는 세부적인 시뮬레이션 세계를 구축하는 것입니다.
연구자들은 앨런 연구소에서 개발한 AI2 THOR 디지털 홈처럼 현실 세계를 모방한 일상 사물로 가득 찬 3D 가상 환경을 만들고 있습니다. 이러한 공간 내에서 AI 로봇은 다양한 상호작용을 경험하며 인간이 당연하게 여기는 개념에 대한 직관적 이해를 개발할 수 있습니다.
예를 들어, AI 로봇에게 가상의 몸을 주어 블록을 집어 올리고, 쌓고, 떨어뜨리는 동작을 시도할 수 있습니다. 블록이 떨어지고 충돌하는 모습을 현실적으로 보면서 로봇은 강성, 중력, 그리고 물리적 역학에 대한 기본 개념을 학습합니다. 규칙은 필요 없고, 경험만 있으면 됩니다.
로봇은 유리 물체를 떨어뜨려 바닥에 부딪히면서 산산이 조각나는 모습을 관찰하는 등의 동작을 경험할 수도 있습니다. 또는 액체를 붓고 물이 어떻게 흐르고 고이는지 관찰함으로써 물의 특성을 경험할 수도 있습니다. 이러한 실용적인 학습은 단순한 데이터 패턴이 아닌, AI의 감각 경험에 대한 지식에 기반합니다.
대규모의 강력한 언어 모델을 사전 학습하는 것과 같은 데이터 기반 기법 또한 상식의 패턴을 포착하는 데 놀라울 정도로 효과적인 것으로 입증되었습니다. GPT-3.5 및 GPT-4와 같은 AI 모델은 방대한 양의 인터넷 데이터를 "읽은" 후 인간의 대화와 놀라울 정도로 유사한 텍스트를 생성할 수 있습니다.
그녀는 때때로 어리석은 제안을 합니다(또한 ~로 알려짐) AI 환각), 통계적 학습 접근법은 특정 유형의 상식을 모방할 수 있도록 합니다. 그러나 이것이 타당한 추론인지, 아니면 데이터의 편향을 교묘하게 이용한 것인지에 대해서는 여전히 논란이 있습니다. 인공지능이 현실과 환상의 경계를 모호하게 만드는 방식.
컴퓨터의 상식을 테스트하는 방법
AI 시스템이 현실 세계에서 더 복잡한 작업을 수행함에 따라, 이 시스템에 "상식"이 있는지 평가하는 것이 중요해졌습니다.
상식
테스트해야 할 한 가지 영역은 실제 상식, 즉 세상의 사물, 힘, 기본 속성에 대한 직관입니다.
예를 들어, 컴퓨터 비전 시스템에 공중에 떠 있는 책 이미지를 보여주고 그 장면을 묘사하도록 요청할 수 있습니다. 시스템이 떠 있는 책에서 특이한 점을 식별할 수 있을까요? 또는 AI 시스템에 "빵 한 덩어리로 돌을 자르는 남자"와 같은 특이한 시나리오를 입력받아 해당 시나리오가 가능성이 낮다고 판단하는지 확인할 수 있습니다.
앨런 연구소의 AI2 THOR 환경은 탑, 쏟아지는 컵, 기타 장면을 시뮬레이션하여 이러한 물리적 직관을 테스트합니다.
사회적 상식
인간은 또한 사회적 상식, 즉 사람들의 동기, 관계, 그리고 규범에 대한 암묵적인 이해를 가지고 있습니다. AI에서 이를 평가하려면 모호한 대명사나 동기가 포함된 상황을 제시하고 시스템이 이를 합리적으로 해석하는지 살펴보세요.
예를 들어, 저는 ChatGPT에 아래 프롬프트에서 "it"이 가방을 가리키는지, 컵을 가리키는지 물었습니다.
그는 시험에 떨어졌다. 그동안 그 인간은 내가 가방을 가리키고 있다는 걸 분명히 알았을 것이다.
안전과 윤리
AI 시스템이 안전하지 않거나 비윤리적인 패턴을 학습했는지 여부를 테스트하는 것은 매우 중요합니다. AI가 판단을 내릴 때 성별, 인종 또는 기타 특성에 기반한 유해한 편향을 보이는지 분석하십시오.
합리적인 윤리적 구분을 제시하는지 확인하십시오. 아이를 구하기 위해 곰을 죽이는 것은 정당화될 수 있지만, 같은 목적으로 핵폭탄을 터뜨리는 것은 정당화될 수 없습니다. 명백히 비윤리적인 행위와 관련된 권고 사항을 표시하십시오.
실제 성능
AI 시스템이 실제 환경에서 어떻게 작동하는지 관찰하여 상식을 평가해 보세요. 예를 들어, 자율주행차가 사물과 보행자를 정확하게 인식하고 반응하는가? 로봇이 귀중품을 파손하거나 반려동물을 해치지 않고 다양한 가정 환경을 탐색할 수 있는가?
실제 실험은 제한된 실험실 조건에서는 나타나지 않을 수 있는 상식의 차이를 드러냅니다. 확인하세요. AI 챗봇의 정확도를 테스트할 때 고려해야 할 핵심 요소.
진전은 있었지만, 상식적인 AI는 여전히 진행 중인 작업입니다.
일부 전문가들은 인공지능이 우리와 같은 뇌 구조와 신체를 발달시키지 않고서는 인간의 상식에 도달하지 못할 것이라고 생각합니다. 반면, 디지털 뇌는 인간의 편견이나 정신적 지름길에 얽매이지 않으므로 이론적으로는 인간을 능가할 수 있습니다! 하지만 아직은 초지능 AI에 대해 걱정할 필요는 없을 것입니다.
단기적으로 가장 좋은 선택은 학습된 상식과 훌륭한 구식 프로그래밍을 결합한 AI입니다. 이렇게 하면 거북이를 소총으로 착각하는 것과 같은 어리석은 실수를 피할 수 있을 것으로 기대합니다.
아직 그 수준에는 이르지 못했지만, 상식은 더 이상 AI의 암흑 물질이 아닙니다. 발전은 일어나고 있습니다! 하지만 이러한 기술을 구현하는 데는 당분간 상당한 수준의 상식이 필요할 것입니다. 지금 바로 확인해 보세요. 셀프 케어 루틴과 자기 개발을 향상시키는 최고의 AI 앱입니다..
