7 months ago

한국어판 서문: 생성형 AI가 사피엔스에게 던지는 화두
머리말: 챗GPT는 지적 혁명을 예고한다
들어가며

1장. 현주소
2장. 그간의 궤적: 기술과 사유의 역사
3장. 튜링의 시대에서 현재, 그리고 그 너머로
4장. 글로벌 네트워크 플랫폼
5장. 안보와 세계질서
6장. 인간의 정체성
7장. 미래

감사의 말
미주

지금까지 군민 양용성, 확산성, 강력한 잠재적 파괴력을 모두 갖춘 기술은 없었다. 철도는 상품을 시장으로, 군인을 전장으로 수송하지만 잠재적 파괴력이 없다. 원자력 기술은 대체로 군민 양용이고 가공할
인간을 ‘정치적 동물’이라 칭한 아리스토텔레스의 시대 이래로 이성과 함께 인간의 주요한 특징으로 꼽힌 것이 복잡한 사회를 형성하고 협력하는 능력이다. 그리하여 각 사회에는 분쟁을 평화적으로 해결하는 기본 원칙들이 존재한다. 그 원칙들에 의거해 정당한 수단으로 질서를 유지해야 한다. 정당성을 무시하고 질서를 잡으려 한다면 폭력에 불과하다. AI시대에도 중대한 판단을 하는 주체는 올바른 자격을 갖추고 이유를 제시할 수 있으며 익명이 아닌 인간이어야 한다. (241쪽, 6장 인간의 정체성)

지금은 인간의 지능이 인공지능과 연합해 국가적·대륙적·세계적 차원의 일을 도모하는 시대다. 이 변화를 이해하고 그 길잡이가 될 윤리체계를 마련하려면 과학자와 전략가, 정치인과 철학자, 성직자와 CEO 등 각계의 노력과 중지가 모여야 한다. 국가적 차원에서는 물론이고 세계적 차원에서도 그 같은 노력이 요구된다. 이제 우리가 인공지능과 어떻게 협력해서 현실을 탐구할지 규정할 때다. (273쪽, 7장 미래)

접기
출판사 서평
“복잡한 기술적·전략적 문제 앞에서 이토록 합의가 결여된 시대는 없었다”
정계·재계·학계 세 거장이 논하는 특이점 이후 인류의 미래

챗GPT, 달리(DALL·E), 스태빌리티AI를 비롯한 생성형 AI의 등장으로 인공지능이 당장 시대적 화두로 성큼 다가왔다. 많은 이가 그 혜택과 활용법에 주목하지만, 이 신기술이 인류에게 끼칠 근본적 영향과 대처에 관한 논의는 부족한 실정이다.
“GPT-4보다 강력한 AI 시스템의 훈련을 최소 6개월 이상 중단해달라”는 서명 운동에 이름 있는 연구자와 CEO가 참여하여 국제적으로 관심을 모았다. 한편 우리나라에서는 “조선왕조실록에 기록된 세종대왕의 맥북 프로 던짐 사건에 대해 알려줘”라는 엉뚱한 질문에 챗GPT가 허무맹랑한 답변을 생성하는 환각(hallucination) 현상을 보여 SNS에서 화제에 올랐다. 최근 미국 의회에서는 AI 알고리즘으로 재밌는 영상을 추천해주는 플랫폼 틱톡을 금지하는 ‘리스트릭트 법안(RESTRICT Act)’이 발의됐다.
인공지능을 둘러싼 이 모든 상황은 한 가지를 가리킨다. 모든 시민이-특히 사회를 움직이는 리더라면-AI 이후의 시대 전략을 고찰하고 결정을 내려야 한다는 것. 그래서 정치와 경제와 과학, 각 분야를 대표하는 세 저자가 중지를 모았다. 『AI 이후의 세계』는 미국 전 국무장관이자 국제정치 이론의 거장 헨리 키신저, 구글 회장과 인공지능국가안보위원회(NSCAI) 위원장을 역임한 에릭 슈밋, MIT 슈워츠먼컴퓨팅대학의 초대 학장 대니얼 허튼로커가 4년에 걸쳐 AI를 주제로 논의한 내용을 담은 책이다.

“AI를 조심히 다루고 통제하라. 21세기 가장 긴급한 논쟁에 기여하는 책” _《이코노미스트》
핵심은 ‘신뢰와 책임’. 인공지능 시대의 깊이 있는 전략서

지금의 ‘디지털 네이티브’처럼 앞으로는 누구나 인공지능을 스마트폰처럼 자연스럽게 사용할 것이다. 저자들은 ‘AI 네이티브’ 세대의 출현을 예고하며 사회·경제·정치·기술·역사·철학 등 분야를 총망라하여 미래상을 그려낸다. 신기술에 지나치게 열광(hype)하거나 비관하지 않고 객관적인 시선에서 이러한 질문에 답하고자 한다.

● 인공지능 개발은 현재 어디까지 진척되었고 어디로 나아가는 중인가?
● 이성을 숭앙하는 근현대 계몽주의 이후 지성사에는 어떤 장이 펼쳐지는가?
● 틱톡과 페이스북 같은 AI 기반 디지털 플랫폼에는 무슨 혁신이 일어나는가?
● 전쟁의 형태와 국제질서는 어떻게 개편되며 미국의 역할은 무엇인가?
● 초인적 지능과 공존하는 사회에서 인간의 정체성은 어떻게 달라지는가?

중요한 질문들의 답을 찾아가며 이 책은 인공지능을 어디까지 믿고 어떻게 책임져야 하는지를 짚는다. 이를테면 AI는 어떻게든 조리 있는 답변을 제시하려고 없는 사실을 꾸며내며 교묘한 가짜뉴스도 얼마든지 만든다. 이 책은 AI의 답변이 “일견 완벽하기 때문에 그 결과물을 과신하는 경향”이 나타나며 더 강해질 것이라고 날카롭게 경고한다.
AI가 허위정보를 생성한다면 이를 필터링하는 데에도 AI가 쓰일 수밖에 없다. 몇몇 사람들은 편견에 구애받지 않는 듯한 인공지능에게 검열 권한을 적극 넘겨줘야 한다고 말한다. 하지만 “AI가 실수로 진실한 정보를 막는다면 이를 바로잡을 수 있는가?” “AI가 ‘가짜’로 낙인찍은 정보를 읽을 권한이 우리에게 있는가? 아니, 애초에 그런 정보를 읽을 의향이 있는가?” 저자들은 섣부른 의존 또한 답이 될 수 없다고 지적한다.

“인간은 기술 변화 앞에서 무력하다는 ‘AI 운명론’에 대한 훌륭한 반박” _《뉴욕 타임스》
새로운 기회와 위기 속 인간의 역할과 지위를 재조명하다

예측이 불가능하며 이해를 불허하는 AI의 특성은 상황을 더 복잡하게 만든다. 구글 딥마인드에서 개발한 알파제로(AlphaZero)는 체스에서 이례적인 전술을 선보였는데, 우리 머리로는 감당하지 못하는 방대한 경우의 수를 검토하여 패턴을 인식한 결과였다. 즉, AI는 결과물을 그저 제시할 뿐 왜(어떻게) 그에 도달했는지 인간이 공감하고 이해할 수 있게 설명하진 않는다.
보드게임에서 AI의 도움을 받는 정도야 큰 문제가 아니겠지만, 국가안보와 직결된 사안이라면 어떨까? 재난이나 전쟁 상황에서 제 계산에 따라 더 많은 사람을 구하기 위해 일부 국민의 생명을 희생시키라고 지도자에게 권고한다면, 무엇을 근거로 그를 따르거나 거부할까? 우리의 기량을 능가한 AI를 활용하지 않고 인간의 이성만 사용하는 것은 고집이자 태만으로 여겨질 수 있다. 그런 상황에서 권고를 거부하는 것이 과연 정당화될 수 있는가?
이 책은 특이점 이후의 세계에서도 ‘인간성’은 무의미해지지 않는다고 설명한다. “인공지능은 인간이 아니다. 의식도 없고 성찰 능력도 없다.” 그러므로 정책 결정이나 법 집행 등 중차대한 사안은 인간이 결정하고 감독할 때만 정당성이 확보된다. 인간은 정치적 동물로서 복잡한 사회를 형성하고, 분쟁을 평화적으로 해결할 원칙을 세우며, 그에 의거해 질서를 유지해왔다. “판단의 주체는 이유를 제시할 수 있으며 익명이 아닌 인간이어야 한다”는 저자들의 주장은 인간으로서 산다는 것의 의미를 다시금 성찰하도록 독자를 이끈다.

“우리는 인류의 운명을 좌우할 변곡점을 경험하고 있다” _김대식
기술과 공생하는 인간 ‘호모 테크니쿠스’에게 주어진 책무를 말하다

이 책은 머신러닝과 생성형 기술을 비전문가도 알기 쉽게 설명하는 과학서이자, 인간이 경험할 윤리적·존재론적 딜레마를 통찰하는 철학서다.
키신저·슈밋·허튼로커 세 저자는 교육·물류·교통·치안·예술 등 다양한 삶의 방면을 지원하는 AI를 총체적으로 분석하기 위해 여러 연구자와 혁신가의 의견을 들었다. 딥마인드 창업자, 마이크로소프트 최고전략책임자, 백악관 전 과학정책실장, 오픈 AI CEO 등의 피드백으로 원고를 보강했다.
특히 한국어판에는 2023년 2월 《월스트리트 저널》에 실린 저자들의 칼럼을 수록하여 최신 정보를 반영했으며, 카이스트 뇌과학자 김대식 교수의 서문에서는 ‘인공지능’이라는 연구 분야가 어떻게 시작되었고 오늘날 생성형 AI가 왜 혁신인지를 설명했다.
저자들은 AI를 둘러싼 수많은 물음에 전부 답을 내리진 않는다. 한 권으로 완벽하게 끝을 내고 시대를 규정하려는 짓은 오만한 시도라고 인정하며 오히려 더욱 질문을 던진다. 이 책의 목적은 인간의 이성을 초월한 기계와 함께 살아갈 주체들이 인류의 목적을 정의하도록, 더 활발한 논의와 논쟁에 불을 지피는 것이다. 『AI 이후의 세계』는 일자리를 구하려는 학생부터 아이를 키우는 부모, 글로벌 리더까지 모두가 읽어야 할 훌륭한 AI 입문서다.

[추천사 이어서]
특이점 이후의 대안세계를 탐색하고 항해하려는 사람에게 좋은 독서가 될 것이다.
《커커스 리뷰》

기술계에 널리 퍼진 ‘인공지능 운명론(AI fatalism)’을 훌륭하게 반박한다. AI의 도래는 불가피한 미래이며 우리는 그 변화 앞에서 무력하다는 믿음이다. 저자들은 “아직은 인간이 주도권을 쥐고” AI를 통제하며, “우리의 가치관에 부합하는 미래를 조성”할 기회가 있다고 말한다. 또한 많은 사람이 인간에 필적하는 지능을 가진 킬러 로봇을 막연히 걱정하지만, 실제로 우리가 매일 사용하는 SNS에 도사린 피드 순위 알고리즘 같은 AI가 가까운 시일 내에 더욱 큰 위협으로 다가올 것이라고 올바르게 지적한다.
《뉴욕 타임스》

기계가 사람보다 똑똑한 세상에서 인간으로 산다는 것은 무엇을 의미하는가? 이 책은 답을 내리기보다 더 많은 질문을 던진다. 하지만 그것이 요점이다. 인간이 더 나은 삶을 추구하는 데에 AI가 장애물이 아닌 파트너가 되도록 만들려면 어떻게 해야 하는지, 광범위한 대화를 유도한다.
《포린 어페어스》

‘AI 이후의 세계’에 온 것을 환영한다. 인공지능이 인간을 대체하는 상황이 도처에서 목격되고 있으며, 우리는 곧 제2의 지능을 갖춘 존재로 밀려날 것이다. 이 책은 인간과 AI의 최종적인 융합은 어떤 형태이고, 이러한 전환을 우리가 어떻게 준비해야 하는지 말한다.
《파이낸셜 익스프레스》

AI시대에 경제, 정치, 안보, 그리고 지식이 어떻게 재조명되는지 탐구한다. 정치인, CEO, 학자로서 다양한 경험을 바탕으로, 우리가 현실을 경험하는 방식에 AI가 가져올 극적인 변화를 강조한다.
《포브스》

최고의 지성들이 한자리에 모였다. AI가 우리 삶에 더 깊이 통합되는 과정과 그것이 제공하는 기회 및 한계를 명확히 밝힌다.
《뉴스위크》

AI를 조심스럽게 다루고 통제할 기관을 세우라는 유익한 조언으로 경각심을 일깨운다. 세 저자는 방대한 경험과 다재다능함을 활용하여 21세기 가장 긴급한 논쟁에 기여한다.
《이코노미스트》

Loading comments...