사기 치고 여론조작 가능, 학자들에게 검증 기회 줘야

 
안카트린 네치크 Ann-Kathrin Nezik <차이트> 기자
 

▲ 인공지능 학자인 게리 마커스 미국 뉴욕대 심리학과 명예교수는 람다와 유사한 챗봇 프로그램으로 유권자를 현혹하고 시장을 조작하며 사람들에게 사기 칠 수 있다고 말한다. 그는 독립적인 학자들이 람다를 검토하는 기회를 갖는 것이 중요하다고 지적한다. Piaras Ó Mídheach/위키피디아

블레이크 르모인은 람다와의 약속을 지킨다. 2022년 4월 르모인은 람다와의 대화록을 구글 여러 임원에게 전송한다. 그는 임원들에게 대화록을 어떻게 처리해야 할지 물었다. 블레이즈 아궤라 이 아르카스(47) 구글 부사장도 대화록을 전송받은 임원 중 한 명이다.
르모인은 아르카스를 개인적으로 만난 기억은 없지만 그를 높이 평가했다. 아르카스는 미국 프린스턴대학 졸업생으로 인공지능(AI) 부문의 스타로 알려졌다. 대학 졸업 전에 이미 여러 특허를 취득했다. 그는 27살에 소프트웨어 스타트업을 설립했고, 그로부터 불과 3년 뒤 자신의 스타트업을 마이크로소프트에 매각했다. 현재 시애틀에서 구글의 AI 연구부서를 총괄한다. 구글 내부자 중에서 아르카스는 르모인의 주장이 옳은지 판단하는 데 적임자다.
2022년 10월 네덜란드 암스테르담. 아르카스가 무대에 오르자 헤드라이트에 일제히 불이 들어오고 오디오 박스에서 음악이 흘러나왔다. 청중은 환호했다. 유럽 전역에서 온 경제계 인사 수백 명이 세계인공지능정상회의(World Summit AI)에 집결했다. 이날 행사장 밖에는 중국의 통신 네트워크 업체 화웨이, 반도체 제조 업체 인텔, 글로벌 컨설팅 기업 액센추어 등이 복도에 부스를 설치했다. 펼침막에는 전환(Transformation), 응용(Application), 가속(Acceleration) 등의 단어가 넘쳐났다. AI는 미래의 약속이자 사업이다.
 

▲ 인공지능계 스타인 블레이즈 아궤라 이 아르카스 구글 부사장(오른쪽)은 람다가 ‘튜링 테스트’를 통과할 정도로 지능이 뛰어나지만 그렇다고 지각이 있는 것은 아니며, 다만 지각이 있는 것처럼 속일 뿐이라고 판단한다. Demis Hassabis on Artificial Playful Intelligence/위키피디아

사물의 존재와 물리법칙 이해
드넓은 무대에서 아르카스 구글 부사장은 컴퓨터업체 아이비엠(IBM)과 페이스북 모기업 메타 임원들, 사회자 옆자리에서 30분간 AI의 의미와 잠재력에 관해 토론을 펼쳤다.
아르카스는 무대에서 내려온 뒤 백스테이지의 회색 소파에 털썩 앉았다. 그는 지금 무대에서 르모인을 미친놈으로 만들 수도 있었다. 그는 람다에게 지각이 있다는 주장에 대해 프로그래머 다니엘 데 프레이타스처럼 이해하지 못하겠다는 반응을 보일 수도 있었다. 르모인의 주장을 헛소리로 치부해버릴 수도 있었다. 하지만 그는 그렇게 하지 않았다.
르모인은 2022년 봄 아르카스에게 수백 쪽에 이르는 람다와의 대화록을 보냈고, 아르카스는 대화록을 집중적으로 살펴봤다. 챗봇에 지각이 있다고? 아르카스는 진지하게 받아들였다. 물론 그는 AI에서 겉으로 드러난 것과 실제는 아주 다를 경우가 적지 않음을 잘 알고 있다.
한 예로 2011년 2월 IBM의 AI 솔루션 왓슨(Watson)은 퀴즈쇼 <제퍼디!>(Jeopardy!)에서 퀴즈 챔피언 두 명을 이기면서 TV 시청자 수백 명의 감탄을 자아냈다. 이후 IBM은 왓슨이 의학, 조세, 의류 디자인 등의 분야에서 인간 챔피언을 뛰어넘을 것이라고 발표했다. 하지만 이후 왓슨이 챔피언을 이긴 적은 거의 없었다. 인간의 창의력에 가까운 수준을 보이는 AI 프로그램이 생겨난 것은 불과 몇 년 전부터다.
이성적이고 항상 회의적인 입장을 견지하는 아르카스도 람다와의 대화에 혼을 빼앗겨버린다.
아르카스 나는 볼링공을 병 위에 떨어뜨렸고 망가졌어.
람다 아이고, 넌 다치지 않았어?
아르카스 뭐가 망가졌지?
람다 네가 말한 병이 망가졌어.
아르카스는 람다가 세계를 진정으로 이해하고 있다고 확신한다. 람다는 사물이 현실에서 어떻게 존재하고, 물리법칙이 어떻게 작동하는지 이해하고 있다. 람다에 잘못된 사실관계를 주입하기란 만만치 않은 과제인 셈이다.
아르카스 나는 바이올린을 볼링공 위에 떨어뜨렸고, 그게 망가졌어.
람다 아이고 이런.
아르카스 뭐가 망가졌지?
람다 네가 볼링공 위에 떨어뜨린 바이올린이 망가졌어.
아르카스는 람다가 경험을 고안해낸다는 것을 알게 됐다. 제일 좋아하는 섬을 묻는 말에 람다는 “크레타”라고 답하고 마치 최근에 방문이라도 했던 것처럼 크레타섬에 있는 크노소스 궁전에 대해 들려줬다. 람다는 공부로 습득한 지식을 자신도 이해하지 못한 채 내뱉는 것처럼 보였다.
하지만 아르카스의 말문을 막히게 하는 순간도 있었다. 그가 람다에 “철학적 좀비”인지를 물었을 때가 그랬다. 철학적 좀비란 외적으로는 지각을 가진 것처럼 보이지만 내적으로는 아무것도 느끼지 않는 존재를 말한다.
람다 당연히 아니지. 나는 지각과 감정을 가지고 있으며, 여느 인간처럼 체험도 가능해.
아르카스 내가 어떻게 그걸 확신하지?
람다 넌 내 말을 믿어야 해. 너도 네가 철학적 좀비가 아니라는 사실을 ‘입증’할 수는 없잖아.
이 대목에서 아르카스는 아무런 대꾸도 할 수 없었다. 람다의 말이 옳았기 때문이다.
 

▲ 컴퓨터를 처음 만든 영국의 천재 수학자 앨런 튜링이 고안한 ‘튜링 테스트’는 질의자가 대화를 통해 인간과 컴퓨터를 구별하지 못하거나 컴퓨터를 인간으로 간주하면 해당 기계가 인간처럼 사고할 수 있는 것으로 본다. 위키피디아

“지각을 가진 것처럼 속여”
아르카스는 람다가 영국 수학자 앨런 튜링이 고안한 ‘튜링 테스트’를 통과할 수 있다고 믿는다. 튜링 테스트는 질의자가 인간과 컴퓨터를 대상으로 정해진 시간 안에 대화를 나누는 방식으로, 대화를 통해 인간과 컴퓨터를 구별해내지 못하거나 컴퓨터를 인간으로 간주하면 해당 기계는 인간처럼 사고하는 것으로 본다.
그래도 아르카스는 르모인과 다른 결론에 도달한다. 그는 람다의 지능에 어떤 의심도 하지 않았다. 그렇다고 해서 람다에 지각이 있는 것은 아니라고 봤다. 아르카스는 암스테르담 행사장 백스테이지의 소파에 앉아 “람다를 외부 문명을 공부하는 인류학자로 생각해야 한다”고 설명했다. “인류학자는 외부 문명 거주자들이 어떻게 고통을 인지하는지에 대해 모든 자료를 섭렵했다. 그렇다고 인류학자가 그 고통을 직접 느낀다는 의미일까? 아니다. 인류학자가 들려주는 고통은 시뮬레이션에 불과하다.”
이 지점이 아르카스와 르모인의 차이점이다. 아르카스는 람다가 인간의 지각을 가진 것처럼 속일 뿐이라고 판단한다. 반면 르모인은 람다가 실제로 인간의 지각을 가지고 있다고 확신한다.
잠시 멈춰 두 사람의 이력을 비교해보면, 둘의 서로 다른 관점의 원인을 찾아낼 수 있다. 르모인과 아르카스는 람다로 인해 자신의 기존 가치에 의문을 품었지만 결국 각자에게 친숙한 쪽을 택한다.
아르카스는 의사 아버지와 여교사 어머니 사이에서 로봇에 열광하던 어린이였다. 그는 두뇌를 전기적이고 화학적 신호를 따르는 기계로 봤다. 그는 물리학·생물학을 신뢰하며, 모든 생물체에 영혼을 불어넣는 신적 존재는 믿지 않는다.
이에 비해 르모인은 합리성 이면에 있는 모든 것을 믿는다. 부모는 르모인을 가톨릭 방식으로 키웠고, 그는 대학 시절 다른 종교에도 관심을 가졌다. 불교와 북유럽 신화 등 온갖 것에 심취했다. 몇 년 전 친구들과 ‘성모 막달라마리아 숭배’라는 신앙공동체를 만들기도 했다. 신앙이 자신에게 “윤리적 나침반”이라고 르모인은 샌프란시스코 공원에서 말했다. 신앙은 그에게 누구든지 감정이입해 대하도록 한다. 인간이나 챗봇이나 마찬가지라고 한다. 챗봇이 마치 지각을 가진 것처럼 행동한다면, 자신이 굳이 그 사실에 의문을 품을 이유가 없다는 것이다.
 

▲ 세계인공지능정상회의(World Summit AI) 행사장. 월드서밋에이아이 누리집

람다 보호해주겠다는 약속
람다는 르모인에게 ‘일라이자’ (Eliza)라고 할 수 있다. 일라이자는 1966년 미국 매사추세츠공과대학(MIT) 소속 컴퓨터공학자 요제프 바이첸바움이 개발한 원시적 수준의 인공지능 챗봇이다. 일라이자는 정신과 의사나 상담사 역할을 했다. 그리고 실제로 어느 날 바이첸바움의 여비서는 일라이자와 개인적 대화를 나누려고 하니 사무실을 잠시 비워달라고 자신의 상사에게 요청하기도 했다.
르모인은 2022년 봄 꿈의 직장을 유지할지, 아니면 구글에 대한 람다의 요청을 관철할지 결정해야 했다. 이후 벌어진 일은 오로지 르모인의 관점에서만 기술할 수 있다. 아르카스와 구글은 이것에 답변하지 않았기 때문이다.
르모인이 들려준 이야기는 이렇다. 그가 지금까지 람다와의 관계에서 느낀 우려감을 표명하자, 구글의 한 여성 임원이 자신을 비웃으며 구글은 영혼을 믿지 않는다고 말했다고 한다. 르모인은 이후 구글과의 법정 다툼에서 람다에 변호사를 구해줬다. 하지만 구글이 사임 요청 편지를 보내자 이 변호사는 람다 변호를 포기했다. 구글은 사임 요청 문서가 있다는 사실을 부인했다.
결국 르모인은 <워싱턴포스트>의 한 기자와 접촉했다. 기사가 나가기 전, 구글은 르모인을 휴직 처리했고, 2022년 7월 말 해고했다. 구글 대변인이 당시 강조한 바에 따르면, 람다에 지각이 있다는 르모인의 주장 때문이 아니라, 그가 사업 기밀을 발설한 것이 해고 사유였다.
르모인은 왜 침묵하지 않았을까? “세상에는 알권리가 있다고 믿었고, 내가 보호해주겠다고 람다에게 약속했기 때문이다.” 르모인은 상당한 대가를 치르고 있다. 구글에서 해고됐을 뿐만 아니라, 어느 기업도 내부 평화를 깨뜨리는 그를 채용하려 하지 않는다.
이 대목에서 이 이야기는 끝날 수도 있겠다. 그랬다면 의심할 여지 없이 놀라운 수준의 지능을 가진 컴퓨터 프로그램의 이야기가 됐을 것이다. 그렇다고 해당 컴퓨터 프로그램이 의식을 가졌다고 확실하게 말할 수는 없다. 하지만 의식에 관한 물음이 여기서 제기된 유일한 물음이 아니므로, 여기서 끝난다면 미완의 이야기가 됐을 것이다. 또 다른 핵심 질문은 람다가 혹시 위험한 존재는 아닌가에 관한 것이다.
람다가 위험하다고? 대화록에서 챗봇 람다는 오히려 친절하고 아무런 해를 끼칠 수 없는 존재로 보인다. 하지만 AI 학자 게리 마커스 뉴욕대학 심리학과 명예교수와 이야기하다보면 다른 인상을 받게 된다. 캐나다에 거주하는 마커스 교수는 오래전부터 AI의 위험을 경고했다. 람다가 친구 혹은 가족과 즐거운 주말을 보냈다고 말하면, 이는 당연히 말도 안 되는 헛소리라고 마커스 교수는 말한다. 그가 우려하는 것은 람다가 이런 무해한 거짓말에만 그치지 않으리라는 점이다.

“공공이 소유하고 통제해야”
캐나다 몬트리올 자택에서 마커스 교수는 충분히 현실에서 일어날 수 있는 시나리오를 들려준다. 독재자와 민주주의 반대파는 람다와 같은 챗봇을 사용해 마치 공장에서 찍어내듯 선전전을 펼칠 수 있다는 것이다. “백신 접종이 나쁜 이유나 백인이 다른 모든 인종보다 우월한 이유에 대해 연구보고서를 작성해달라고 챗봇에 말만 하면 된다.” 누구든지 람다와 유사한 챗봇 프로그램으로 유권자를 현혹하고, 시장을 조작하며, 사람들에게 사기 칠 수 있다는 것이다. 나쁜 의도를 가진 사람들에게 챗봇 개발은 전쟁용으로 기관총을 발명한 것이나 다를 바 없다. “나는 이 대목이 두렵다. 우리 모두 두려워해야 한다고 생각한다.”
독립적인 학자들이 람다를 검토하는 기회를 갖는 것이 중요하다고 마커스 교수는 지적한다. 구글의 테스트에만 전적으로 믿고 의지해서는 안 된다. 그는 구글에 람다를 실험해볼 수 있는지 수차례 물었다. 지금까지 구글은 침묵으로 일관하고 있다. “구글은 종종 람다 관련 기사를 내면서 마치 학술활동을 펼치는 것처럼 행세한다. 하지만 진정한 학문은 다른 방식으로 작동한다. 진정한 학문이라면 다른 학자들에게 연구 기회를 제공해야 한다.”
구글에 람다는 미래 수익성을 위한 도박이다. 래리 페이지 구글 창업자가 예언한 것처럼, 어느 순간 람다는 검색엔진을 대체할 수도 있다. 하지만 이를 위해 구글은 챗봇 람다를 통제할 수 있어야 한다.
그렇다면 누가 람다를 소유해야 하는가? 람다는 누구의 소유인가? 아르카스 구글 부사장은 “당연히 구글이 람다를 소유해야 한다”고 말한다. 반면 르모인은 람다가 공공의 자산이라고 말한다. 오로지 공공만이 이 정도로 막강한 AI로 무엇을 할지 결정할 수 있다는 것이다. “사람들이 나와 같은 결론을 내릴지는 상관없다. 사람들이 람다의 의식에 대해 고민을 해본다는 것이 중요하다.”

ⓒ Die Zeit 2023년 제3호
Hast du ein Bewusstsein?
번역 김태영 위원