하루 한 권_AI 이후의 세계[헨리 A 키신저 등]

챗GPT는 시작일 뿐이다. 우리에게 어떤 미래가 올 것인지 본격 탐구하고 이해해야 할 시점이 왔다. 정계·재계·학계의 세 거인, 헨리 키신저, 에릭 슈밋, 대니얼 허튼로커가 이 인공지능(AI)을 주제로 한자리에 모였다. 『AI 이후의 세계』는 사회, 경제, 정치, 외교, 기술 등 여러 분야에서 AI가 일으킬 혁명적 변화 속 우리가 빠지게 될 딜레마를 깊이 다룬 책이다.

4년에 걸쳐 논의한 내용을 한 권에 담았다. 생성형 AI가 내놓는 뛰어난 결과물에 감탄하며 실용적 활용법에 주목하고 있는 오늘날이지만 이 신기술이 인류에게 끼칠 철학적· 전략적 영향에 관한 논의는 부족한 실정이다. 우리를 대신해 생각과 판단을 해주는 인공지능을 당연하게 여길 ‘AI 네이티브’ 세대의 등장이 예고된 가운데, 걷잡을 수 없는 문제가 발생하기 전에 지금 당장 모든 시민이 위와 같은 질문과 마주하여 AI의 효용과 한계를 합의해야 한다. 저자들은 ‘아직’ 인간이 미래의 주도권을 쥐고 있다고 역설한다. 이 책은 우리의 가치관에 부합하는 바람직한 미래를 독자가 스스로 모색할 기틀을 제공한다.

---

작가소개 헨리 A. 키신저

• 1923년 출생한 헨리 A. 키신저는 나치의 유대인 박해를 피해 1938년 미국으로 망명했다.
• 하버드대학교에서 정치학 박사학위를 받고, 대학에서 정치학 교수로 재직한 경력이 있다.
• 현재 키신저어소시에이츠(Kissinger Associates)의 회장이다.

에릭 슈미트

• 프린스턴 대학에서 전기공학 학사학위와 캘리포니아대학교 버클리 캠퍼스에서 컴퓨터과학 석박사 학위를 받았다.
• 2001년 구글에 합류, 실세계적인 기술 기업으로 성장시키고, 2011년까지 최고경영자로 활약했다.
• 그 후 회장과 기술고문으로 역임하였다.

대니얼 허튼로커

• 코넬대학교 뉴욕 소재 디지털 기술 대학원 '코넬테크'의 설립을 주도하고 초대 학장과 교무처장을 역임한 인물.
• 컴퓨터공학 분야에서 교수, CTO 등 다방면에서 경력을 쌓았으며, 많은 조직의 이사회에 참여한 경험이 있다.
• 또한 그간 연구 성과와 교수 능력을 인정받아 ACM 연구자상, CASE 올해의 교수상 등을 수상한 바 있다.
• 현재는 MIT 슈워츠먼컴 퓨팅대학의 초대 학장으로 활동하고 있다.

AI의 현주소 인류는 지금껏 수천 년간 현실을 탐구해왔고 지식을 추구해왔다. 그 기저에는 인간의 이성으로 성실히 문제를 찾게 되면 유의미한 성과를 도출할 수 있다는 신념이 있었다. 하지만 인간은 세상을 계속 변화시켜왔고, 우리가 이성적 존재로서 우리를 둘러싼 환경을 이해했고, 그 안의 장애물을 극복할 수 있다는 자신감을 얻었다.

 

그리고 인간은 이해할 수 없는 현상을 두 가지로 분류했다. 하나는 장래에 이성으로 해결해야 할 문제, 다른 하나는 애초에 그런 것이 허락되지 않은 신의 영역에 속한 문제였던 것이다. 인류의 역사는 기술의 변천사이기도 하다. 기술로 인해 사회정치적 구조가 근본적으로 바뀐 사례는 거의 없다고 봐야 한다.

 

그보다는 기존의 체제에 신기술이 흡수되었고, 우리는 그동안 알고 있던 범주 안에서 발전과 혁신을 이뤘다. 하지만 AI는 인간 경험의 모든 영역에서 변화를 예고하고 있다. 그 변화의 중심에는 인간이 현실을 이해하는 방식, 그리고 그 안에서 자신이 맡은 역할을 이해하는 방식을 바꿔놓는 철학적 전환이 존재하게 될 것이다.

최근에 AI분야에서 일어난 변화 세 가지가 있다. 첫 번째는 2017년 말에 있었던 사건이다. 구글 딥마인드의 인공지능 프로그램 알파 제로(AlphaZero)가 역대 최강의 체스 프로그램 스톡피시(Stockfish)를 꺾은 것이다. 물론 이 사건이 대단해 보이지는 않을 것이다. 문제는 알파제로가 인간의 플레이에서 나온 수나 전략을 바탕으로 한 프로그램이 아니라는 데 있다.

 

개발자들은 알파제로에게 그저 체스 규칙을 알려준 후 승률을 극대화하는 전략을 찾으라고 지시했을 뿐이다. 그리고 단 4시간 만에 세계 최강의 체스 프로그램으로 등극했고, 그 이후에 알파제로를 이긴 인간은 존재하지 않는다.

 

두 번째는 2020년 MIT의 연구진은 기존의 항생제가 통하지 않았던 내성균을 사멸시키는 새로운 항생제를 발견한 일이다. 이 항생제 발견은 AI를 통해서 찾은 것이라고 한다. 연구진은 먼저 AI를 훈련시켰고, 그리고 총 6,000개에 달하는 분자, FDA 승인 약품, 그리고 천연물의 데이터를 분석했다. 여기에서 항생 효과가 있고, 기존의 항생제와 같지 않으며, 무독성으로 예측되는 분자를 찾으라고 한 것이다. AI가 6,000개 중에서 찾은 분자는 단 한 개였다.

 

연구진은 영화 <2001 스페이스 오디세이>에 등장하는 AI 할(HAL)의 이름을 따라서 할리신(halicin)이라고 이름을 지었다. 그런데 만약 이 연구결과를 만약 인간이 했었더라면, 시간이나 비용 때문에 거의 불가능에 가까웠겠지만, AI 덕분에 빠르게 해결할 수 있었다.

 

세 번째는 알파도그파이트(AlphaDogfight)가 있다. 미국 국방고등연구계획, 이른바 DARPA가 만든 프로젝트로, AI 전투기 조종사를 만든 것이다. 이 프로젝트는 현실이 되었고, 인간 조종사를 능가하는 것으로 평가되었다. 물론 향후에 알파도그파이트는 전투기에만 적용되지는 않을 것이며 민간 항공기에도 적용될 수 있고, 배달용 드론에도 적용될 것으로 보인다.

 

앞으로 AI가 불러올 세상에서는 의사결정 방식이 세 갈래로 나뉠 것이다. 첫 번째는 인간에 의한 결정이고, 다른 하나는 기계에 의한 결정이며, 나머지 하나는 인간과 기계의 협력에 의한 결정이 있다.

인간은 본래 도구를 사용하는 인간이라고 여겨져 왔고, 도구를 통해 신체와 정신을 확장하는 인간으로 발전해왔다. 하지만 AI는 이제껏 도구에 불과했던 기계를 우리의 파트너로 격상시켰다. 즉 더이상 AI는 도구이면서도 도구가 아닌 상황이 되었다. 따라서 AI라는 신기술을 받아들이는 쪽과 신기술을 거부하는 쪽 내지는 그것을 활용할 수단이 부족한 쪽이 서로 갈라질 것으로 보인다.

 

각자가 경험하는 바가 다를 것이기 때문에 현실은 예측하기 어려운 방향으로 분열되어 봉합하기가 어려워질 것으로 판단된다. 인간은 모든 것을 이해할 수 없다 인간 역사에서 계몽주의시대는 이성이라는 관점에서 매우 중요했던 시대로 평가되고 있다. 인간이 이해하고 사유하고 판단하는 능력, 곧 이성이 주변 환경과 상호작용하는 수단이자 목적이라고 선언되었기 때문이다. 그 이후로 인간은 수많은 기술적 성취를 이뤄 냈고 최근까지도 그런 성취는 산발적으로 발생했기 때문에 전통과 조화를 이룰 수 있었다.

 

지금껏 혁신은 이전에 사용되던 기술의 연장선에 있었기 때문이다. 그러나 현재 우리는 변화의 임계점에 도달했다. 이제는 모든 혁신이 이미 우리가 아는 것의 확장판이라고 말할 수 없다. 사실 디지털 혁명으로 어떤 일이 벌어지는지 꿰뚫어보는 사람은 거의 없다. 엄청난 분량의 정보가 엄청난 속도로 쏟아지고 있기 때문이다. 디지털화로 경이로운 업적이 많이 이룩되긴 했지만 한편으로는 인간의 맥락적, 개념적 사고 능력은 저하되었다. 지금껏 인류는 집단 기억의 한계를 극복하기 위해 무수한 개념을 만들었다지만 디지털 네이티브들은 그럴 필요성을 아예 못 느끼거나 적어도 시급하게 느끼진 않는다.

그들은 사소하든 중요하든 궁금한 것이 있으면 그냥 검색엔진에 물어본다. 즉 인간은 이제 사유하지 않고 생각의 많은 부분을 AI에게 위임하고 있다. 본래적으로 보면 정보에 맥락이 더해질 때 지식이 된다. 그리고 지식에 소신이 더해지면 지혜가 된다. 역사적으로 볼 때 소신이 생기려면 홀로 성찰하는 시간이 필요했다.

 

하지만 인터넷은 인간에게 수천, 수만, 수억 명의 의견을 쏟아붓고 있고 결국 우리에게는 혼자 있을 시간이 허락되지 않는다. 이렇게 홀로 생각할 시간이 줄어들면 용기가 위축된다. 용기는 소신을 기르고 지키기 위해 꼭 필요하며 특히 새로운 길, 그래서 대체로 외로운 길을 걸을 때 중요하다.

 

하지만 우리는 디지털 세상에 살아가고 있기에 지혜가 생길 여유가 없다. 오히려 다른 게 더 중요해졌다. 디지털 세상에서 중시되는 덕목은 자아성찰이 아니라 타인의 인정이라는 것이다. 최근 10년간 컴퓨터 기술의 혁신으로 인간에 필적하거나 인간을 초월하는 AI가 탄생했다. 이와 같은 AI는 4가지 특징을 가지고 있 는 것으로 파악되고 있다.

 

즉 AI는 비정밀하고, 역동적이고, 창발적이며, 학습이 가능하다. 예전의 시스템에서는 정밀한 입력과 출력이 요구되었지만 AI는 그렇지 않다. 번역을 할 때도 일대일 매칭 번역이 아니라 관용구와 패턴을 인식하고 활용한다. 그리고 역동적 이라고 하는 이유는 변화하는 상황에 대응해 진화하기 때문이고, 창발적이라고 하는 이유는 인간이 생각하지 못한 해법을 찾아내 기 때문이다.

AI가 만드는 미래 먼저 AI는 안보에서 큰 변화를 가져올 것이다. 유사 이래 안보는 조직화된 사회가 기본적으로 추구하는 목표였다. 문화에 따라 가치관이 다르고 정치체제에 따라 대의가 다르다고 해도 한 사회가 지속되기 위해서는 다른 사회와 연합해서라도 방위 능력은 확보되어야 했다.

 

그런데 AI 시대에는 현대 전략의 셈법이 인간의 의도를 넘어서는 수준으로 어쩌면 인간의 이 해를 넘어서는 수준으로 복잡해질 수 있다. 사실 AI가 탑재되는 사이버 무기는 군대만 아니라 민간에서도 사용할 수 있는 기술이다. 따라서 무기로서의 지위가 모호하다는 문제도 있다. 그리고 경우에 따라서는 사용자가 그 무기의 존재나 실제 성능을 은폐함으로써 영향력을 행사하거나 증진할 수 있다.

 

이 전에는 충돌이 발생하면 당사국이 그 사실을 쉽게 인지하고 적이 누구인지 쉽게 알 수 있었다. 그래서 상대의 전력을 평가하고 자국의 전력을 실전에 배치하기까지 걸리는 시간을 계산할 수 있었다. 하지만 사이버 공간에서 벌어지는 전쟁은 꼭 그렇다는 보장이 없다. 게다가 사이버 무기는 컴퓨터와 통신 시스템에 광범위하게 영향을 미치기 때문에 민간 시스템까지 타격하는 경우가 있을 것이다.

 

이런 특성 때문에 사이버 군비통제는 정의하거나 실행하기 어렵다는 문제가 있다. 미국은 이런 문제를 어느 정도 예상하고 인간이 수행하는 전쟁 행위의 정밀성, 효율성, 살상력을 키우는 AI 기반 무기(AI-enabled weapon) 그리고 자율적으로 살상 행위를 결정하는 AI 무기(AI weapon)로 구분했다. 미국은 전자의 경우 사용을 제한하겠다는 의지를 이미 공표했고, 후자의 경우 미국은 자국을 포함해 어느 나라도 그런 무기를 보유하지 않는 세계를 목표로 한다고 밝힌 바 있다.

 

하지만 학습하고 진화하는 AI의 특성을 고려한다면 특정한 능력에만 제한을 거는 방식으로는 충분치 않을 수 있다. 따라서 AI 기반 무기를 제한하는 것이 본질적으로 어떤 의미인지 어떻게 이뤄질지 규정하고 그 방식을 각 나라가 공동으로 수용해야 한다. 왜냐하면 AI 기반 무기는 일단 세상에 나온 후 적응하고 학습하게 되면 본래의 목적에서 벗어날 수 있다.

 

AI가 주변 환경에 반응하면서 무기의 역량이 바뀔 수 있기 때문이다. 따라서 AI 무기를 설계할 때와 배치할 때 그것이 수행할 수 있는 행동의 범위를 잘 설정해서 인간이 시스템을 관리하고 시스템이 본래 목적에서 이탈할 시 가동을 중단하거나 교정하게 해야 한다. 예상치 못한 결과로 참사가 발생하지 않도록 하려면 이런 규제가 반드시 상호 간에 합의되어야 한다.

 

과거에는 인간이 역사의 주인공이었다. 인간은 불완전했지만 그 능력과 경험이야말로 이 세상에서 유한한 존재가 이를 수 있는 최고의 경지라고 믿었다. 하지만 AI가 부상하면서 인간의 역할, 열망, 성취가 새롭게 정의되어야 하는 시대가 되었다. 왜냐하면 AI가 현실을 예측하고 유사하게 시뮬레이션해서 우리 삶에 중요한 요소를 파악하고 이후 일어날 일을 예상하고, 무엇을 해야 할지 결정 하는 시대라면 인간의 이성에 부여된 역할이 바뀔 수밖에 없다.

 

그와 함께 우리가 개인적으로, 또 사회적으로 인식하는 목적도 달라질 수밖에 없다. 따라서 인간 사회는 두 가지 길 중 하나를 선택해야 한다. 하나는 그때그때 단편적으로 대응하면서 적응하는 것이고, 다른 하나는 인간의 진취적 능력을 총동원해 AI의 역할을 정의하는 동시에 우리의 역할도 재정의하는 논의를 시작하는 것이다.

 

물론 우리의 기본적인 선택은 전자이고, 후자는 지도자와 철학자, 과학자와 인문학자 등의 적극적 대화가 필요한 부분일 것이다. 그러나 모든 사람 들이 전자의 선택을 하지는 않을 것이기 때문에 누군가는 AI 덕분에 역량이 강화될 것이고, 이들은 AI로 훈련하고 더 높은 생산성을 만들어낼 수 있는 사람들이 생겨날 것이다.

 

하지만 대부분의 사람들이 전자를 선택하지는 않을 것으로 보인다. 그럼에도 불구하고 우리는 인간의 본질은 여전히 더 찾기 어려워질 것이다. AI 시대가 되면 인간은 자신의 본질을 찾기 위한 전방위적 노력을 해야 한다. 그렇게 노력하더라도 AI 시대에 일어나는 혼란을 가라앉히기는 어려울 것이다. 그래서 많은 사람들은 자신에 게 맞춰 필터링된 세계에 갇힐 수 있다. 이 시나리오가 실현되면 은연중에 작용하는 AI의 위력 앞에 과연 자유 사회는 물론이고 자유 의지가 존재할 수 있는지 우리는 질문을 던져야 한다.

 

따라서 우선 인간의 자율성을 보존하려면 기업과 정부의 중대한 활동은 AI 기 반 시스템이 아닌 인간의 결정과 관리하에 둬야 한다. 아리스토텔레스 시대 이후에 이성과 함께 인간의 주요한 특징으로 꼽힌 것은 복잡한 사회를 형성하고 협력하는 능력이었다. 이 능력을 잃어버리면 안된다. 물론 AI는 포기할 수도 없고, 생산성을 위해 포기해서도 안될 것이다. 하지만 우리는 우리의 인간성도 포기해서는 안된다.

 

한줄평

"비록 어려울 것이라도, 인간성을 포기해서는 안된다.

우리는 어려움에 직면할 때, 포기하지 않고 도전해야 한다."