이 이야기는 Substack 뉴스레터 Big Technology에서 신디케이트되었습니다. 여기에서 무료로 구독 .
지난주 암스테르담에서 열린 World Summit AI의 붐비는 집 앞에서 저는 Meta, Google, IBM, Sussex 대학의 선임 연구원들에게 AI가 인간 지능을 반영하는 것을 원하지 않는다면 목소리를 낼 것을 요청했습니다. 잠시 침묵이 흐른 뒤에도 손이 올라가지 않았다.
대응은 AI 산업이 통제력을 상실하더라도 인간 수준의 인지를 구축하려는 야심을 반영했다. AI는 지금 지각이 없으며 앞으로도 그럴 것입니다. 하지만 결정적인 AI 산업은 이미 인간처럼 대화하고 보고 그릴 수 있는 프로그램을 출시하고 있습니다. 그리고 진행하면서 진행 상황이 위험한 미지의 세계로 흘러갈 위험이 있습니다.
IBM의 최종 인간 수준 AI의 수석 과학자인 Grady Booch는 '판도라의 상자를 닫을 수 없다고 생각합니다.'라고 말했습니다. '핵무기와 마찬가지로 고양이는 가방에서 벗어났습니다.'
AI의 발전을 핵무기와 비교하는 것은 적절하지만 불완전합니다. AI 연구원은 위험이 다른 수준에 있더라도 결과에도 불구하고 기술 발전을 달성하려는 핵 과학자의 열망을 모방할 수 있습니다. 그러나 핵무기를 보유한 소수의 정부보다 더 많은 사람들이 AI 기술에 접근할 것이기 때문에 유사한 억제 가능성은 거의 없습니다. 업계는 이미 이를 따라잡을 수 없음을 보여주고 있습니다. 돌파구의 광란 .
AI 담기의 어려움은 올해 초 OpenAI가 AI 아트 프로그램인 Dall-E를 도입한 이후 명백해졌습니다. 처음부터 OpenAI는 단점을 완화하기 위한 사려 깊은 규칙과 그 영향을 평가하기 위한 느린 롤아웃으로 Dall-E를 실행했습니다. 그러나 Dall-E가 관심을 끌면서 OpenAI조차도 모방에 대해 할 수 있는 일이 거의 없음을 인정했습니다. '저는 OpenAI와만 대화할 수 있습니다.' 말했다 OpenAI 연구원 Lama Ahmad는 잠재적 에뮬레이터에 대해 질문을 받았습니다.
Dall-E 카피캣은 더 적은 제한으로 곧 도착했습니다. 스테이블 디퓨전(Stable Diffusion), 미드저니(Midjourney) 등 경쟁사들은 장벽 없이 강력한 기술을 민주화했으며 여러분 AI 사진을 만들기 시작했습니다. 지난달 말까지 매주 1,000명의 신규 사용자만 등록했던 Dall-E, 모두에게 열린 .
원래 개발자가 사용하는 가드레일에 관계없이 더 많은 AI 기술이 발전함에 따라 유사한 패턴이 나타날 수밖에 없습니다.
AI가 인간의 지능을 반영할 수 있는지, 그리고 그 과정에서 어떤 이상한 일이 일어날지 논의하는 것은 확실히 이상한 시기입니다. 오늘날 AI가 하는 일의 대부분은 기초적인 것이기 때문입니다. 현재 시스템의 단점과 과제는 쉽게 지적할 수 있으며 현장의 많은 사람들은 즉각적인 문제에 에너지를 더 많이 사용한다고 믿기 때문에 AI가 지각력을 가질 수 있는지 여부와 같은 장기적인 질문에 참여하지 않는 것을 선호합니다. 단기주의자와 장기주의자는 AI 세계에서 두 개의 별개 파벌입니다.
그러나 올해 보았듯이 AI는 빠르게 발전하고 있습니다. 진행 상황 큰 언어 모델 챗봇을 더 똑똑하게 만들었고 이제 우리는 그들의 지각(또는 더 정확하게는 결핍)에 대해 논의하고 있습니다. AI 예술은 작년에 대중의 상상 속에 없었고 지금은 어디에나 있습니다. AI도 이제 비디오 만들기 텍스트 문자열에서. 당신이 단기주의자라 할지라도 장기는 예정보다 일찍 도착할 수 있습니다. 나는 얼마나 많은 AI 과학자들이 의식을 정의할 수 없고 정의하고 싶지도 않다고 큰 소리로 말하는 것에 놀랐습니다.
물론 핵무기 과학자들처럼 되지 않을 수도 있습니다. 원자폭탄 연구를 이끈 J. 로버트 오펜하이머가 말한 것과는 다르게 생각해보자. 그는 “기술적으로 달콤한 것을 보면 기술적으로 성공을 거둔 후에야 그것에 대해 무엇을 해야 할지 논쟁을 벌이게 됩니다.”라고 말했습니다.
아마도 이번에는 더 많은 생각이 더 나은 결과로 이어질 것입니다.
