이것은 Book Post의 두 부분으로 구성된 이야기 중 두 번째입니다. 첫 번째 게시물을 읽고 여기 .
허리 통증 완화에 가장 좋은 의자
실제 문학 예술 창작에서 컴퓨터가 작가를 대체할 수 있다는 사실을 부인하는 가운데, 이미 인공 지능을 사용하고 있는 작업 작가와의 여러 인터뷰는 잠정적으로 장밋빛이었습니다. 제이 캐스피언 강, 쓰기 뉴요커 챗봇에 대한 약간의 사전 지식과 일부 전문가 조언으로 ChatGPT를 사용한 가상의 시도에서 만족스러운 문학 작품에 도달할 수 없었지만 Kevin Roose 팟캐스트에서 하드포크 그리고 교육 작가 존 워너 입력을 수정하여 결과를 크게 개선할 수 있었습니다. 링컨 미셸 인터뷰한 소설가 Chandler Klang Smith 라는 GPT-3 기반 프로그램을 사용하고 있는 , Sudowrite 1년 정도 그녀의 소설 작업을 하기 위해. 그녀는 그 경험을 '로봇이 진행 중인 작업에 대한 꿈을 꾸고 그 꿈의 어떤 것이 당신이 하려는 것을 반영하는지 결정할 수 있는 것처럼' 기억에 남을 정도로 묘사했습니다. 그녀는 작업을 진행하기 위한 AI의 노력이 '이미 텍스트 어딘가에 묻혀 있는 것처럼 보이는 아이디어를 잠금 해제'할 수 있다고 말했습니다. Chandler Klang Smith는 AI가 '플롯 및 구조와 같은 매크로 요소'를 처리하는 데 도움이 되지 않는다는 사실을 발견했지만 에 더 버지 Sudowrite를 사용하고 막 ChatGPT를 실험하기 시작한 자가 출판 '코지 미스터리' 작가 Jennifer Lepp은 Josh Dzieza에게 그녀가 챗봇에 전제와 몇 가지 세부 사항을 제공할 수 있고 효과적인 스토리를 생성할 수 있다는 사실에 놀랐다고 말했습니다. 장르. 자체 출판 장르 작가는 종종 1년에 수백 권의 소설을 소비하고 대규모로 제작해야 한다는 압박을 받는 독자를 위해 글을 씁니다. 우리 포스트 자체 출판 및 로맨스). Jennifer Lepp은 그녀가 알고 있는 많은 작가들이 프로세스 속도를 높이기 위해 ChatGPT의 기능을 사용하는 것의 의미와 씨름하고 있다고 말했습니다. 이 독자들에게 인간과 기계 참여 사이의 균형이 중요합니까?
이러한 보다 유쾌한 시도에도 불구하고 생성 AI의 몇 가지 고유한 위험이 나타납니다. 두 가지가 ChatGPT 사이트 자체에 깔끔하게 요약되어 있습니다. 봇은 '때때로 잘못된 정보를 생성할 수 있습니다'와 '때때로 유해한 콘텐츠와 편향된 지침을 생성할 수 있습니다.' ChatGPT는 언어 모델입니다. ChatGPT가 하는 일은 인터넷에서 퍼낸 매우 큰 풀에서 식별하는 패턴을 기반으로 언어를 예측하는 것뿐입니다. 모든 실수와 추악함을 재현 그것은 거기에서 찾을 수 있고, 자신의 것을 더 추가 . (Google이 AI 연구원 Timnet Gebru을 해고했을 때 2020년 스캔들을 기억하십시오. 누구의 연구 큰 언어 모델의 다른 한계 중에서 편견의 재생산을 확인했습니다.) EU 법안 초안 '위험 범주'를 만듭니다. 새로운 AI 시스템을 채널화할 수 있습니다. 예를 들어 수술과 같은 '고비용' 활동을 시작하기 전에 온라인에서 장난을 치는 것과 같은 '저비용' 노력을 지향합니다. 그러나 AI 연구원 Chandra Bhagavatula로서 TechCrunch에 말했다 , 'AI 시스템은 이미 도덕적, 윤리적 의미가 담긴 결정을 내리고 있습니다.'
제너레이티브 AI는 인종 차별적 비유를 트로트 그리고 성적인 이미지 . AI 채용 도구 고용 편향을 인코딩할 수 있음 (지난 가을 Biden 행정부는 “ AI 권리 장전 ” 차별적이고 약탈적인 알고리즘으로부터 소비자 보호). GPT-3는 공격 결과를 제한하는 '가드레일'을 도입한 것으로 보이지만 이는 분명히 전복하기 쉬운 , 또한 마스터를 위해 생성 중재 문제의 종류 모든 콘텐츠에 구애받지 않는 플랫폼을 괴롭히고 있습니다. 제너레이티브 AI는 물론 악의적인 목적으로 배포될 수도 있습니다. 사이버 범죄 , 딥 페이크 , 합의되지 않은 포르노 . ChatGPT는 사용자에게 결과를 정치에 사용하지 않겠다고 약속하도록 요청합니다.
GPT-3와 같은 대규모 언어 생성 AI 시스템에 대한 또 다른 근본적인 과제는 지적 재산권 . ChatGPT가 수행하는 모든 작업은 이전에 누군가가 수행한 작업을 기반으로 하며, 미래의 제너레이티브 모델은 지속적으로 새로운 자료를 흡수하여 '훈련'할 것입니다. 학자들은 규제 및 저작권 기소가 AI 모델이 특정 예술가를 직접적으로 찬탈하고 모방할 때와 수집품이 더 다원적이고 '공정 사용'에 해당될 때 인식의 균형을 맞춰야 한다고 예측합니다. 모델은 라이선스를 받아야 하며 제작자는 보상을 받아야 합니다. Stability AI는 최근 아티스트가 이미지 생성기 Stable Diffusion을 교육하는 데 사용되는 데이터 세트를 옵트아웃할 수 있도록 허용할 것이라고 밝혔습니다. Getty Images는 법적 위험 때문에 AI 콘텐츠를 금지했습니다. 온라인 갤러리 DeviantArt는 AI 트롤 어선을 경고하기 위해 이미지에 대한 '메타데이터 태그'를 만들었습니다. 우리의 디지털 우주를 구성하는 정신 작업을 수행하는 사람들로부터 보상의 디지털 유혈의 또 다른 단계처럼 느껴지기 시작합니다. (관련, 음반사 최근에 로열티 인상을 요구했습니다. TikTok에서 그들의 비디오를 전염성 있게 만드는 음악에 대해.)
특히 기술 산업 내에서나 규제 없이 거버넌스와 관련하여 우리의 어지러운 기록에 직면하여 그러한 힘과 약속을 가진 도구를 휘두르는 것은 작가와 언어 및 예술을 다루는 사람들을 동시에 현기증이 나고 긴장하게 만듭니다. ChatGPT 및 기타 대규모 언어 도구가 문학 작품을 생산할 수 있는지 여부에 대한 논쟁(for: 스티븐 마르쉐 , 에 맞서: 이안 보고스트 , 월터 키른 )는 인간의 편집 손이 기계에 프롬프트를 제공하고 그 결과를 두드러지게 개선하는지 여부에 달려 있는 것 같습니다. Chandler Klang Smith가 사용하는 프로그램의 창시자 중 한 명인 Amit Gupta는 스티븐 마르쉐에게 말했다. , Chandler Klang Smith의 관심을 불러일으킨 기사에서 “작가의 직업은 거의 편집자가 됩니다. 당신의 역할은 좋은 것을 결정하고 당신의 취향에 따라 실행하는 것이 되기 시작합니다. 단어 하나 하나를 펌핑하는 낮은 수준의 작업이 아닙니다.” Marche는 AI를 사진과 비교하며 “돌이켜 보면 기계가 예술을 대체하지 않았다는 것이 분명합니다. 그들은 단지 그것을 확장했습니다.”
~ 안에 회의에서 발표 지난 가을 AI 군비 경쟁의 다른 대기업과 마찬가지로 훨씬 더 큰 기업이 아직 출시하지 않은 Google의 ChatGPT 버전은 모델의 많은 약점, 특히 Google의 경우 브랜드에 비우호적으로 결과에 따라 Douglas Eck 연구원은 친근한 이름으로 그들의 모델을 강조했습니다. 워드크래프트 작가 워크숍 는 대화식으로 설계되었습니다. 벤 딕슨(Ben Dickson) 기자는 “인간의 통제와 감독이 없으면 생성 모델과 같은 AI 시스템은 성능이 저하될 것입니다. 기본 개념을 동일하게 이해하지 못함 우리 인간이 그러하듯이.”
ChatGPT에 대한 많은 혼란은 팟캐스트에 널리 게시된 Stephen Marche와의 일관되지 않은 인터뷰에서 볼 수 있습니다. 지능 제곱 , 그는 둘 다 ChatGPT가 Coleridge와 구별할 수 없는 시를 만들 수 있고 그가 출판할 수 있는 에세이를 쓸 수 있다고 주장했습니다. 대서양 그리고 그것이 '인간의 글을 대체'할 수 있는 방법이 없으며, 바이럴리티가 결국 로봇 현상임에도 불구하고 컴퓨터는 결코 '바이럴할' 무언가를 만들 수 없을 것입니다. 그는 Amit Gupta가 챗봇의 유용성은 완전히 틀릴 수 있는 '첫 번째 초안'을 만드는 데 있을 것이라고 말했습니다. AI 지원 학생 작업을 평가할 때 봇이 '즉석에서 사용할 수 있는 작업을 생성하지 않음'에도 불구하고 '표현의 명확성보다 콘텐츠를 훨씬 더 많이 보게 될 것입니다.' 인간의 예술은 세련미에 있습니다. 사람이 사실을 확인하고 마무리를 다듬는다면 봇은 정확히 무엇을 기여합니까?
나는 기술적 도구를 사용하는 것에 대한 논쟁을 볼 수 있지만, '단어를 단어로 표현하는 것' 또는 아이디어를 형식과 순서로 조합하는 것이 글쓰기의 '낮은 수준의 작업'이라는 생각은 나에게 이해할 수 없습니다. ChatGPT와 그 형제의 위험은 인간 제품과 거의 구별할 수 없으며 Timnet Gebru과 그녀의 동료처럼 쉽게 할 수 있다는 것입니다. 식별 , 도구가 더 정교해짐에 따라 언어 모델이 실제로 아무것도 이해하거나 알지 못한다는 사실을 가리는 '의미의 환상'을 생성합니다. 그것은 단지 텍스트를 빌려 패턴을 모방하는 것입니다. Gupta와 Marche가 설명하는 아플리케 작가의 방법에서 의식적인 존재와 목적을 감지하는 것은 아마도 점점 더 이해하기 어려운 작업처럼 들립니다. 케이시 뉴튼과 케빈 루즈 불안하게 지적 팟캐스트에서 Cicero라는 큰 언어 모델이 Diplomacy—i 게임에서 사람들을 이기는 방법을 배웠습니다. e., 협상에서 인간 플레이어를 설득합니다.
넷플릭스에서 볼 수 있는 최고의 영화
나는 기계가 모차르트만큼이나 기쁨을 주거나 셰익스피어의 복잡성에 마음을 사로잡는 무언가를 작곡하는 세상을 거의 상상할 수 있습니다. 지금은 상상할 수 없는 이러한 경험의 가능성에 스스로를 닫아두어서는 안 된다고 생각합니다. 그러나 인간의 의도와 이러한 형태의 역사적 연관성에 대해 내 방식대로 생각하기는 어렵습니다. 학생의 에세이가 생각을 발전시킨 과정의 기록이 아니라면 발전된 생각을 기록하는 다른 방법을 찾아야 할까요? 아니면 발전된 사고를 전적으로 위임하는 아이디어입니까? 지적 열망이 더 이상 우리가 만들고 존경하는 것들의 핵심, 미지의 압력을 극복하는 노동, 부분적이거나 손상된 세상을 개선하려는 노력으로 인식되지 않는 세상으로 가는 길을 상상할 수 없습니다. , 전에 만든 것을 검색하고 함께 꿰매면 시도하지 않고도 무엇이든 만들 수 있기 때문입니다. 그러나 아마도 나는 내가 무엇을 놓치고 있는지 모를 것입니다.
