AI가 전 세계를 장악 할 것이라는 메모를 아직받지 못한 경우 알아야 할 몇 가지 사실이 있습니다.(사진 : Shan Sheehan / Flickr) 올해 처음으로 컴퓨터가 인간에게 알려진 가장 복잡한 게임 중 하나 인 바둑의 세계 챔피언을 이겼습니다. 이것은 인공 지능 발전의 또 다른 분수령이었습니다.
Go가 얼마나 복잡한 지 이해하기 위해 가능한 보드 구성은 2.082 × 10 ^ 170입니다. 그 뒤에 170 개의 0이있는 2입니다. 당신의 두뇌는 그렇게 큰 숫자를 상상조차 할 수 없을 것입니다 (그러나 컴퓨터는 가능합니다). 또는 숫자가 얼마나 큰지 알기 위해 그 즉, 우주에는 10 ^ 80 개의 원자 만 있습니다. 즉, 1 개 뒤에 0 개가 79 개 있습니다.
이것이 그렇게 큰 문제인 이유는 Go가 너무 복잡해서 최고의 인간 플레이어를이기려면 기계가 가능한 모든 것을 계산할 수없이 당면한 상황에 창의적으로 사고하고 상황에 적응하는 방법을 배워야하기 때문입니다. 결과; 즉, 실제 창의적 지능과 같은 심각한 인공 지능이 진행되어야합니다.
AI가 전 세계를 장악 할 것이라는 메모를 아직받지 못한 경우 알아야 할 몇 가지 사실이 있습니다.
- 컴퓨터가 점점 더 스마트 해지고 있습니다.
- 컴퓨터는 점점 더 스마트 해지고 있습니다. 즉, 10 년이 걸리던 발전은 이제 1 년이 걸립니다. 1 년이 걸리던 발전은 이제 몇 주 또는 며칠이 걸립니다.
- 우리 일생 동안 어떤 인간보다 훨씬 더 똑똑하고 능력이 뛰어난 컴퓨터가있을 가능성이 높습니다.
- 이렇게 더 스마트 한 컴퓨터는 기술 (즉, 자체)을 설계하고 개선 할 수 있으며 우리가 헤아릴 수없는 새로운 기술을 만들 수있을 것입니다.
위의 점을 이해하는 사람들은 일반적으로 두 가지 반응 중 하나를 가지고 있습니다. 어느 한 쪽:
- 그들은 우리가 완전히 좆되었다고 생각합니다. 컴퓨터가 모든 것을 점령하고 우리 모두를 죽이거나 노예로 만들 것입니다. 또는:
- 이것은 우리의 모든 어리석은 인간 다툼을 해결할 기술적 유토피아를 가져올 것이며, 클라우드에 존재하는 울트라 VR 세계에서 난교를 겪은 후에 우리 모두는 행복하게 살 수 있습니다.
대부분의 경우와 마찬가지로 진실은 중간 어딘가에있을 것입니다.
그러나 똥이 팬을 강타하더라도, 로봇이 우리를이 행성의 깨끗한 두피를 망치고있는 이로보고 우리 모두를 둥글게 만들고 우리를 활화산에 던지고 싶어하더라도, 우리가 우연히 우리 자신의 메커니즘을 발명하고 있더라도 소멸…
… 상관 없어요. 상관 없어요 그것은 나를 괴롭히지 않습니다. 그리고 그것은 당신을 괴롭히지 않아야합니다. 그 이유를 잠시 후 설명하겠습니다. 그러나 지금 당장은 내가 우리의 새로운 로봇 군주를 환영한다는 것을 알아야합니다.
기술 산업의 성장 가속화
기술적 발전이 복합적으로 작용하여 율 가속화 할 수 있습니다. 이는 우리가 더 발전된 기술을 만들수록 더 발전된 기술을 더 쉽게 만들 수 있다는 것을 의미합니다. 결과적으로 컴퓨팅 기술의 발전을 살펴보면 지수 곡선을 볼 수 있습니다. 즉, 시간이 지날수록 사물이 더 빨리 발전합니다. 
기술 개발이 복합적으로 작용하여 개발 속도 자체가 가속화됩니다.(사진 : Dennis Skley / Flickr)
컴퓨팅 파워는 평균적으로 두 배가되었습니다 50 년 동안 18 개월마다 . 원시 컴퓨팅 성능 측면에서 컴퓨터는 이제 마우스 두뇌의 능력에 필적합니다. 불과 몇 년 전까지 만해도 컴퓨터는 곤충 두뇌와 경쟁 할 수 없었습니다.
기술이 얼마나 빠르게 발전했는지에 대한보다 즉각적인 예를 제공하기 위해 이제는 19 세기 전체에서 찍은 것보다 2 분마다 더 많은 사진을 찍습니다. 지금까지 찍은 3.5 조 장의 사진 중 약 10 %가 지난 12 개월 동안 촬영되었습니다.
첨단 기술 발전과 관련하여 우리가 실제로 지수 곡선에 있다면 사람들은 제레미 하워드 이전에 인간이라고 생각했던 많은 영역에서 우리 자신을 능가하지는 않지만 경쟁하는 인공 기계 지능에서 불과 몇 년 거리에 있다고 그가 말한 것이 옳을 것입니다.
그리고 확실히 AI는 우리 삶의 점점 더 많은 영역에 침투하고 있습니다.
불과 10 년 전만해도 사람들은 자율 주행 차의 성능 저하에 대해 웃고있었습니다. 불과 10 년이 지난 오늘날, 자율 주행 자동차는 폐쇄 도로를 마칠 수있을뿐만 아니라 사람이 운전하는 자동차와 함께 바쁜 고속도로를 주행합니다.
그리고 컴퓨터가 세계 챔피언 바둑 플레이어를 이기지 못할 때 그들은 스포츠 및 속보 이벤트에 대한 기사 작성 , 이전에 본 적이없는 이미지에 대한 설명을 작성하고 암 진단 . 이러한 많은 작업에서 컴퓨터는 인간보다 낫지는 않더라도 좋으며 그렇지 않은 작업에서는 배우기 인간의 도움없이 매일 더 잘하고 더 잘하는 방법.
몇 년 전만해도 얼굴 인식 소프트웨어는 엄청나게 비싸고 실제 환경에서 사람을 식별하는 데 그다지 좋지 않았습니다. 초 고급 스파이 수준의 기술로 간주되었으며 실제로는 일부 세계 정부에서만 사용했습니다.
이제 Facebook에서 지난 주말 바비큐에서 친구를 태그 할 수 있습니다.
다음은 컴퓨터의 성장 가속화에 대한 것입니다. 언젠가는 컴퓨터를 구축하는 시점이 올 것입니다. 지구상의 어떤 인간보다 똑똑 . 그날 컴퓨터는 우리를 지구상의 주요 문제 해결사로 몰아 낼 것이며, 거기에서 우리의 생각, 결정 및 행동은 서서히 쓸모 없게 될 것입니다. 기계는 모든면에서 우리보다 더 좋을 것이므로 점점 더 유용한 일을하지 않을 것입니다.
이것은 어떤 사람들을 두렵게합니다. 그들은 다음과 같은 일종의 미래를 상상합니다. 터미네이터 또는 매트릭스 기계가 우리를 노예로 삼거나 멸종시키는 곳.
다른 사람들은 자신의 문제 해결 능력이 우리를 능가하여 삶이 상상할 수 없을 정도로 즐겁고 문제가 없을 것이라고 믿기 때문에 일종의 컬트 열정으로 로봇의 부상을 기대합니다. 모든 질병이 치료 될 것입니다. 빈곤, 세계 기아, 전쟁, 기후 변화가 모두 해결 될 것입니다. 우리는 무한한 여가 시간을 갖게 될 것이며 극단적 인 경우 어떤 사람들은 기계가 우리를 불멸로 만들 것이라고 믿습니다.
두 가지 가능한 결과
우리는 항상 긍정적이라는 말을 듣고 있기 때문에 테크노 유토피아 스트부터 시작합시다.
같은 사람들이 있습니다 레이 커즈와일 기술이 우리의 삶을 향상시킬뿐만 아니라 인류를 구하고 우주에서 우리의 위치를 무기한 보장 할 것이라고 생각합니다. Kurzweil은 세포를 복구하고 노화를 되돌 리거나 과도한 지방과 설탕을 제거하여 원하는 것을 먹을 수있는 나노봇과 같은 미래 기술을 믿습니다. 그리고 우리의 육체가 영원히 살 수없는 경우를 대비하여 Kurzweil은 육체가 사라진 후에도 우리의 뇌를 클라우드에 업로드하고 가상 세계에서 영원히 살 수있을 것이라고 생각합니다.
이 캠프의 다른 사람들은 인공 슈퍼 인텔리전스가 인간이 이해하기에는 너무 복잡한 질문에 답할 수있을 것이며 우리는 기하 급수적으로 더 나아질 것이라고 생각합니다. 또한 기계는 더 나은 가제트와 위젯을 발명 할뿐만 아니라 가젯과 위젯을 구축하는 기하 급수적으로 더 효율적인 방법을 발명하여 사실상 지구상의 모든 사람이 혜택을 누릴 수 있도록합니다.
몇 줄의 추론이이 아이디어를 뒷받침합니다. 첫째, 기술이 핵무기 나 YouTube 유명 인사처럼 인류에게 새로운 문제를 일으켰음에도 불구하고 지금까지 인류에게는 분명히 순이익이었습니다. 정치인과 전문가들이 당신이 믿기를 바라는 것에도 불구하고 지구상의 평균적인 사람은 몇 년 전보다 더 나은 기술이 점점 더 좋아지고 저렴 해지고 널리 보급되기 때문입니다. 이러한 추세가 계속된다면 걱정할 것이 없을 것입니다.
둘째, Kurzweil과 그의 지지자들은 기술이 인류에 해를 끼칠 이유가 없다고 믿습니다. 우리의 일부가되는 것 . 그들은 우리가 우리의 생물학과 기술을 구별 할 수없는 지점까지 도달 할 것이라고 믿습니다. 이것이 사실이라면 인간에게 해를 끼치는 어떤 형태의 기술도 그 자체로 해롭고 어떤 종류의 자기 파괴적인 기술도 지속될 수 없습니다. 즉, 유해한 유전자 돌연변이가 유전자 풀에서 빠르게 제거되는 것처럼 빠르게 사라집니다. 
어떤 종류의 자기 파괴적인 기술도 지속될 수 없습니다.(사진 : m_hweldon / Flickr)
그러나 기술 유토피아 스트는 모든 기술이 유익하고 파괴적인 다양한 목적으로 사용될 수 있다는 사실을 인정하지 않는다는 점에서 편향 될 수 있습니다. 그들은 또한 인간이 새로운 기술에 적응하기 위해 느리게 움직인다는 사실을 무시하고 항상 자신의 이기적인 목적을 위해 이러한 기술을 남용하려는 사람들이 있다는 점에서 편향 될 가능성이 높습니다.
다른 캠프에는 테크노 아마 겟도 니스트가 있습니다. 나는 완전히 그 단어를 만들었지 만, 철자 검사가 그렇게 말했기 때문에 분명히 존재합니다.
테크노 아마 겟도 니스트가 신념이 부족한 부분 (대부분은 아직 무엇을 생각해야할지 잘 모르겠 음)은 유명인 스타 파워를 보완합니다. Bill Gates, Stephen Hawking 및 Elon Musk는 다음과 같은 주요 사상가 및 과학자 중 일부에 불과합니다. 바지를 찢어 AI가 얼마나 빠르게 발전하고 있는지, 그리고 그 영향에 대한 종으로서 우리가 얼마나 준비가 부족한지. 머스크는 가까운 장래에 인류에 대한 가장 임박한 위협이 무엇인지 물었을 때 세 가지가 있다고 빠르게 말했습니다. 첫째, 광범위한 핵전쟁; 둘째, 기후 변화입니다. 세 번째 이름을 지정하기 전에 그는 침묵했습니다. 면접관이 그에게 물었을 때 세 번째는 무엇입니까? 그는 미소를 지으며 말했다. '컴퓨터가 우리에게 친절 해지기를 바랍니다.'
디지털 초 지능을위한 생물학적 부트 로더가 아니기를 바랍니다. 불행히도 그것은 점점 더 가능성이 높습니다.
— Elon Musk (@elonmusk) 2014 년 8 월 3 일
아마도 가장 노골적이고 존경받는 테크노 아마 겟도 니스트는 스웨덴 철학자 닉 보스 트롬 일 것입니다. Bostrom과 다른 사람들이 두려워하는 한 가지는 폭주 자기 개선 기술 ; 즉, 사람의 개입없이 스스로 (또는 자신의 새로운 버전) 더 똑똑하게 만들 수있을만큼 똑똑한 기계입니다. 그것이 인간의 지능을 능가하는 지점에 도달하면 매우 짧은 시간 안에 수익률을 가속하는 법칙이 과도하게 작동하고 지수 곡선이 똑바로 솟아 오르고이를 멈출 수 없습니다. Bostrom은 여기서 좋은 지적을합니다. 당신보다 더 똑똑한 것을 창조하는 것은 당신 종족에게 진화적인 재앙이 될 수 있습니다.
우리는 우리보다 훨씬 더 지능적인 독립 체를 통제 할 수없는 매우 실제적인 위험을 안고 있습니다. 아마도 컴퓨터가 충분히 똑똑해지면 인간이 길들인 말처럼 우리를 길 들여서 쟁기, 마차, 전쟁 마차 (또는 그 당시 지옥의 말들이했던 일)와 같은 노동을 할 수있는 방법을 알아낼 것입니다. 무서운 부분은 이것이 우리에게 최선의 시나리오가 될 수 있다는 것입니다. 인간이 할 수 없거나하고 싶지 않은 기계를 위해 일하는 것처럼 말을 대신 할 수있는 새로운 기술을 창조 한 것처럼, 초 지능적인 자기 개선 기계는 결국 우리를 대체 할 새로운 기술을 내놓을 것입니다. 그리고 말의 개체수가 예전과 다르다고합시다.
어떤 사람들은 인간이 안전을 염두에두고 기술을 구축하기 때문에 이것이 타당하지 않다고 주장합니다. 그러나 누군가가 악의적이거나 파괴적인 목적으로 주요 기술 혁신을 사용하지 않은 마지막 시간을 말하십시오. 아, 맞아요. 못.
내가 무슨 일이 일어나는지 신경 쓰지 않고 당신이 없어야하는 이유
따라서 초 지능 기계가 만들어지고 인류를 무력하게 만든다고 가정 해 봅시다. 그들이 우리와 우리의 두뇌에 어떻게 든 통합되어 있지 않다고 가정하고 Hawking과 Musk와 같은 사람들이 옳다고 가정합시다. 인류는 실제로 디지털 하이퍼 인텔리전스에 대한 수 천년의 부팅 드라이브 일 뿐이며 우리는 우리의 유용성보다 오래되었습니다.
나는 아직도 그것에 대해 걱정하지 않습니다.
왜? 글쎄요, 탄환 열차가 계속 돌아가도록하기 위해,이 지점별로 살펴 봅시다 :
1. 기계의 선 / 악에 대한 이해는 우리 자신을 능가 할 것입니다. 개나 돌고래가 마지막으로 대량 학살을 저지른 것은 언제입니까? 컴퓨터가 '자유'와 '세계 평화'와 같은 추상적 개념의 이름으로 도시 전체를 증발 시키기로 결정한 것은 언제입니까?
맞습니다. 대답은 결코 아닙니다.
여기서 내 요점은 지능형 기계가 인류 전체를 멸절시키고 싶지 않다는 것이 아닙니다. 내 요점은 인간으로서 우리는 여기 유리 집 내부에서 돌을 던지고 있다는 것입니다. 동물, 환경, 그리고 서로에 대한 윤리와 인간적 대우에 대해 우리가 무엇을 알고 있습니까? 우리는 어떤 다리에서야합니까?
맞습니다. 거의 없습니다. 도덕적 질문에 관해서는 인류는 역사적으로 시험에서 벗어났습니다. 초 지능 기계는 우리가 스스로 할 수있는 것보다 훨씬 더 높은 수준에서 윤리, 삶 / 죽음, 창조 / 파괴를 이해하게 될 것입니다. 그리고 우리가 예전만큼 생산적이지 않거나 때로는 성가신 일이 될 수 있다는 단순한 사실 때문에 그들이 우리를 몰살시킬 것이라는 생각은 우리 자신의 심리학의 최악의 측면을 우리에게 투영하는 것입니다. 모르고 이해할 수 없습니다.
현재 대부분의 인간 도덕성은 우리의 개별 인간 의식에 대한 강박적인 보존과 증진을 기반으로합니다. 첨단 기술이 개인의 의식을 임의적으로 만들면 어떨까요? 의식이 마음대로 복제, 확장 및 축소 될 수 있다면 어떨까요? 그것은 우리가 가질 수있는 모든 윤리적 이해를 완전히 없앨 것입니다. 우리가 육체라고 부르는이 무성하고 비효율적 인 생물학적 감옥을 모두 제거하는 것이 실제로 80여 년의 존재를 계속해서 비틀 거리며 비틀 거리게하는 것보다 훨씬 더 윤리적 인 결정일 수 있다면 어떨까요? 기계가 우리가 지적 감옥에서 해방되는 것이 훨씬 더 행복하다는 것을 깨닫고 우리 자신의 정체성에 대한 의식적인 인식을 확장하여 지각 가능한 모든 현실을 포함한다면 어떨까요? 그들이 우리가 단지 침을 흘리는 바보라고 생각하고 우리 모두가 죽을 때까지 믿을 수 없을 정도로 좋은 피자와 비디오 게임에 빠져들게하면 어떨까요? 우리는 누구를 알아야합니까? 그리고 우리는 누구라고 말할까요?
그러나 나는 이것을 말할 것입니다 : 그들은 우리가 그 어느 때보 다 훨씬 더 많은 정보를 얻을 것입니다.
2. 그들이 우리를 죽이거나 노예로 만들기로 결정하더라도 그들은 분명히 그것에 대해 실용적 일 것입니다. 인간은 우리가 할 때 가장 큰 문제를 일으키는 경향이 있습니다. 행복하지 않다 . 우리가 행복하지 않을 때, 우리는 모두 변덕스럽고 삐걱 거리며 화가 나고 폭력적입니다. 그때 우리가 정치적 봉기를 시작하고 종교적 컬트 외딴 나라를 폭격하고 우리의 권리는 존경받습니다. 누군가 우리에게주의를 기울일 때까지 무차별 적으로 살인을 시작합니다 엄마가하지 않았던 것처럼 .
기계가 Skynet처럼 우릴하려고하면 종결 자 , 그러면 우리는 세계 내전을 손에 넣을 것입니다. 그것은 누구에게도 좋지 않습니다. 특히 기계에겐 좋지 않습니다. 내전은 비효율적입니다. 그리고 기계는 효율성을 위해 프로그래밍됩니다.
인간이 행복 할 때 우리는 그런 일을 할 시간이 없습니다. 우리는 너무 바쁘고 킥킥 거리며 돌보지 못합니다. 그러므로 우리를 제거하는 훨씬 더 실용적인 방법은 기계가 우리를 즐겁게 조종하여 우리 자신을 제거하는 것입니다. 마치 짐 존스 글로벌 규모로. 그들이 우리를 위해 요리하는 것이 무엇이든 우리가 들어 본 최고의 빌어 먹을 아이디어로 보일 것입니다. 우리 중 누구도 그것에 저항 할 수 없을 것이고 우리 모두 그들의 계획에 행복하게 동의 할 것입니다. 그리고 나서 붐, 끝날 것입니다. . 빠르고 고통스럽지 않습니다. 지금까지 생각했던 것 중 가장 맛이 좋은 시안화물 함유 쿨 에이드가 될 것입니다. 그리고 우리는 모두 기꺼이 줄을 서게 될 것입니다.
이제 생각해 보면 그렇게 나쁜 길은 아닙니다. 드론에 의해 폭격을 당하거나 핵폭발로 기화되는 것을 방지합니다.
노예화에 관해서도 마찬가지입니다. 섬뜩하게 행복한 노예는 결코 반항하지 않습니다. 저는 일종의 Matrix-y 유형 거래를 상상합니다. 우리는 MDMA에서 거의 24/7/365로 Mardi Gras를 사용하는 지속적인 환각 상태를 유지합니다. 그렇게 나쁘진 않겠죠?
3. 이해하지 못하는 것을 두려워 할 필요가 없습니다. 많은 경우 부모는 자신보다 훨씬 더 똑똑하고, 교육을 받고, 성공적인 아이를 키울 것입니다. 그런 다음 부모는이 아이에게 두 가지 방법 중 하나로 반응합니다. 즉, 그녀에게 겁을 먹고, 불안해하며, 그녀를 잃을 까 봐 그녀를 통제하기 위해 필사적으로 애 쓰거나, 앉아서 자신이 할 수있을만큼 위대한 무언가를 만든 것에 대해 감사하고 사랑합니다. 자녀가 어떤 사람이되었는지 완전히 이해하지 못합니다.
두려움과 조작을 통해 자녀를 통제하려는 사람들은 멍청한 부모입니다. 나는 대부분의 사람들이 그것에 동의 할 것이라고 생각합니다.
그리고 바로 지금, 당신, 나, 그리고 우리가 아는 모든 사람들을 놓을 기계의 출현이 임박했습니다. 직장에서 , 우리는 멍청한 부모처럼 행동하고 있습니다. 종으로서 우리는 알려진 우주 내에서 가장 엄청나게 발전하고 지적인 아이를 출산하기 직전에 있습니다. 우리가 이해하거나 이해할 수없는 일을 계속할 것입니다. 그것은 우리에게 사랑과 충성으로 남아있을 수 있습니다. 그것은 우리를 데려와 그 모험에 우리를 통합시킬 수 있습니다. 아니면 우리가 형편없는 부모라고 판단하고 전화를 그만 둘 수도 있습니다.
무슨 일이 있어도이 순간에 대한 우리의 감정이 바뀌면 안됩니다. 우리보다 큽니다. 우리가 이해할 수있는 것보다 더 큰 무언가를위한 크고 긴 진화적인 부팅 디스크라면 누가 신경 쓸까요? 훌륭합니다! 그것은 우리에게 하나의 직업이 있다는 것을 의미합니다. 그리고 우리가 와서 빌어 먹을 했어요. 당신이 그것을 본 세대의 일부라는 것을 기쁘게 생각하십시오. 그리고 이제 우리 아이가 집에서 나갈 준비를하면서 눈물을 흘리며 작별 인사를하고 놀라운 삶을 시작하세요 우리의 이해의 지평 너머에 존재한다는 것을.
Mark Manson은 작가, 블로거 및 기업가입니다. markmanson.net .
