이 이야기는 Substack 뉴스레터 Big Technology에서 신디케이트되었습니다. 여기에서 무료로 구독하세요 .
AI 챗봇이 점점 좋아지면서 사람들은 AI 챗봇을 인간으로 보기 시작했습니다. 최근 여러 사용자가 봇을 그들의 가장 친한 친구 , 다른 사람들은 사랑을 고백했다 , Google 엔지니어가 도움을 주기도 했습니다. 변호사를 고용하다 . 제품의 관점에서 볼 때 이러한 봇은 특별합니다. 그러나 연구 관점에서 인간 수준의 지능을 꿈꾸는 사람들은 현실을 확인해야 합니다.
오늘날의 챗봇은 텍스트에 대해서만 훈련되므로 쇠약해지는 한계가 있습니다. 쓰여진 단어의 산을 삼키다 ~할 수 있다 다음과 같은 놀라운 결과를 생성합니다. 다시 쓰기 셰익스피어 스타일의 에미넴이지만 비언어적 세계에 대한 인식을 방해합니다. 인간 지능의 대부분은 표시되지 않습니다. 우리는 독서가 아니라 삶을 통해 물리학, 공예, 감정에 대한 타고난 이해를 얻습니다. 훈련할 이러한 주제에 대한 서면 자료가 없으면 AI가 부족합니다.
Meta의 수석 AI 과학자이자 New York University의 컴퓨터 과학 교수인 Yann LeCun은 '언어가 표현하는 근본적인 현실에 대한 이러한 현재 시스템의 이해는 매우 얕습니다.'라고 말했습니다. '인간 수준의 지능을 향한 특별히 큰 진전은 아닙니다.'
LeCun은 종이 한 장을 들고 최근 ChatGPT의 세계에 대한 제한된 이해를 보여주었습니다. 빅 테크놀로지 팟캐스트 삽화 . 봇은 한 손으로 종이를 놓으면 무슨 일이 일어날지 모를 것이라고 LeCun은 약속했습니다. ChatGPT는 협의를 통해 종이가 '더 이상 잡지 않는 손의 방향으로 기울어지거나 회전할 것'이라고 말했습니다. 프레젠테이션과 자신감을 감안할 때 잠시 동안 그 대답은 그럴듯해 보였습니다. 그러나 봇은 완전히 틀렸습니다.
Lecun의 종이는 인간이 본능적으로 알고 있는 종이를 들고 있는 손을 향해 움직였습니다. 그러나 ChatGPT는 사람들이 텍스트로 종이를 놓아주는 물리학을 거의 설명하지 않기 때문에 공백입니다. (아마 지금까지).
LeCun은 '나는 유사한 상황을 엄청나게 많이 생각해 낼 수 있습니다. 각각의 상황은 어떤 텍스트로도 설명되지 않을 것입니다.'라고 말했습니다. “그러면 당신이 묻고 싶은 질문은 '인간의 지식이 얼마나 많이 텍스트에 존재하고 설명되어 있는가?'입니다. 그리고 이에 대한 제 대답은 아주 작은 부분입니다. 인간 지식의 대부분은 실제로 언어와 관련이 없습니다.”
세상에 대한 타고난 이해가 없으면 AI는 예측할 수 없습니다. 그리고 예측 없이는 계획할 수 없습니다. '예측은 지능의 본질입니다.'라고 LeCun은 말했습니다. 이것은 적어도 부분적으로 자율주행차가 완전히 이해하지 못하는 세상을 여전히 헤매고 있는 이유를 설명합니다. 그리고 의인화에도 불구하고 챗봇 지능이 여전히 강력하더라도 여전히 제한적인 이유는 무엇입니까?
