챗GPT 나오자 공포감 확산

 
인공지능은 인류의 가장 막강한 수단이 될 수도 있다. 하지만 인공지능의 위험성을 향한 우려의 목소리도 점점 커지고 있다. 인공지능 학계는 인공지능에 합리적인 규제 수단을 모색 중이다.

루디 노포트니 Rudi Novotny 야코프 폰 린데른 Jakob von Lindern
<차이트> 기자
 

▲ 챗지피티(ChatGPT) 로고와 인공지능(AI)을 합성한 그래픽. 챗지피티가 나온 뒤로 인공지능의 위험을 경고하는 목소리가 커지고 있다. REUTERS

“인공지능이 귀하의 일을 변화시킬 것이라고 생각합니까?” <차이트>가 여론조사기관 인파스(Infas)와 공동으로 실시한 여론조사에 따르면 응답자의 65%가 ‘그렇다’라고 답했다. 사회 초년생 18~34살은 76%, 대졸(전문대 졸 포함) 응답자는 77%가 ‘그렇다’라고 답했다.
세상을 구해야 하는 임무를 가진 남성의 얼굴에 피곤한 기색이 역력하다. 눈 밑에는 다크서클이 진하게 드리워져 있다. 헝클어진 머리처럼 신발끈도 아무렇게나 풀어져 있다. 게리 마커스(53)는 소파에 몸을 묻는다. “요즘은 하루하루가 전쟁 같다.”
그는 지난밤 비행기로 독일 베를린에 도착했다. 그날 오후 바로 덴마크 코펜하겐으로 향하는 비행기에 몸을 실었다. “어느 날 갑자기 사람들이 내 이야기를 들으려고 아우성이다.” 여기서 사람들이란 <시비에스>(CBS)와 <시엔엔>(CNN) 등 주요 방송사와 <뉴욕타임스> 등 일간지, 그리고 베를린에서 열린 세미나 청중 등을 모두 포함한다.
베를린의 한 재단이 2023년 3월 게리 마커스를 ‘인공지능(AI)과 정의’라는 주제의 세미나에 기조연사로 초청했다. 봄기운이 완연한 3월 베를린, 세미나가 열린 실내 홀에서 마커스가 기조연설 순서를 막 앞두고 있었다. 과거 인공지능 교수이자 기업인이던 그는 현재 가장 저명한 인공지능 비판자로 이름을 날리고 있다. “30년째 동일 문제를 경고하고 있다. 과거에는 인공지능을 비판했다고 욕을 들었다면, 이제는 거의 대스타 대우를 받고 있다.”
 

▲ 미국 비영리단체 ‘미래의 삶 연구소’가 2023년 3월29일 발표한 공개서한에는 고도의 인공지능 개발을 향후 6개월간 중단하자는 내용이 담겨 있다. 세계적인 테크업계·학계 관계자 상당수가 서명에 참여했다. ‘미래의 삶 연구소’ 누리집 갈무리

6개월 개발 중단 제안
요즘 마커스만이 아니라 인공지능 부문 전체가 전쟁 같은 하루를 보내는 이유는 무엇일까? 2023년 3월 인공지능 업계 석학 1천 명이 인공지능에 의한 “사회와 인류를 향한 대규모 리스크”를 경고하면서 고도로 개발된 인공지능 개발을 향후 6개월간 중단하자는 공개서한을 발표했기 때문이다. 인공지능 업계가 6개월간 인공지능 개발을 자발적으로 중단하지 않으면, 각국 정부가 6개월간 인공지능 개발을 강제 중단시켜야 한다는 내용이 공개서한에 담겼다.
이는 상당히 놀라운 대목이다. 지난 몇 년간 인공지능이라면 절대적으로 열광하는 분위기 일색이었다. 지금까지 전문가 사이에서만 잘 알려졌던 기술이 2022년 11월30일 갑작스레 누구에게나 친숙한 기술로 다가온 것이 계기였다. 인공지능 기업 오픈AI가 챗지피티 웹사이트 chat.openai.com을 공개한 것이다. 웹사이트에는 텍스트 입력창 외에 별다른 것이 없었지만 입력창에 질문을 입력하는 순간 놀라운 세계가 펼쳐졌다. 컴퓨터는 입력된 질문에 아주 잘 이해한다는 듯 답한다. 챗지피티는 학생 과제를 수행하고, 텍스트를 요약하며, 셰익스피어의 문체로 글을 쓰거나 단순한 논리 수수께끼를 푼다. 그렇게 인공지능 열풍은 2022년 말 정점을 찍었다.
물론 챗지피티는 현재 개발 중인 새로운 인공지능 시스템의 한 사례일 뿐이다. 인공지능이 스스로 이해하고 사고한다고? 이는 산업혁명에서 시작한 인류의 꿈이 실현되는 것이나 마찬가지이다. 증기기관 발명 이후 기계는 인간의 노동을 대신했다. 지게차가 화물을 들어 올리고, 세탁기가 옷을 빨고, 로봇이 자동차를 조립한다. 이렇게 인류는 단조롭고 지루한 노동과 고된 육체노동에서 해방됐다.
이제 인공지능은 인류를 정신노동에서 해방시키려는 참이다. 인공지능은 사무직 노동자를 대신해 업무용 전자우편을 작성하고, 의사들의 진료차트를 대신 작성하며, 변호사를 대신해 판례를 검색한다. 연구원을 대신해 모델링하고, 자동차 대리운전을 한다. 구글 딥마인드의 단백질 구조 파악 인공지능인 알파폴드(AlphaFold)는 기존에 습득한 디엔에이(DNA) 데이터로 단백질 구조를 예측해, 질병을 유발하는 단백질을 제어하는 신약 물질을 만들기도 한다. 이는 생물학계 일대 혁명이자 미래에 알츠하이머 등 질병을 치료하는 열쇠가 될 수 있다.
이 정도는 지금 단계에서 예측할 수 있는 인공지능 성과만 열거한 것이다. 다양한 인공지능 결과물의 최대 잠재력은 처음엔 누구도 생각지 못했던 의외성에 있다. 그만큼 인공지능 기술이 미칠 파장을 예측하기란 불가능에 가깝다. 순다르 피차이 구글 최고경영자(CEO)는 “인공지능이 불이나 전기보다 인류의 삶을 더욱 극적으로 변화시킬 것”이라고도 말했다.
인공지능을 비판하는 입장인 게리 마커스조차 인공지능이 더욱 발전한다면 “인류에게 상당한 진전을 의미할 것”이라고 말했다. 인공지능은 학술적 혁신을 의미하는 동시에, 인공지능으로 기후변화를 더 효율적으로 극복하고 로봇이 요양인력을 대체해 고령화에 대비할 수 있다는 것이 마커스의 입장이다. “우리는 인공지능을 통해 어쩌면 인류가 150년 전부터 꿈꿨던 여유로운 삶을 살 수도 있다.”
인공지능의 최대 장점은 학습능력에 있다. 학습능력은 인공지능과 기존 컴퓨터 프로그램의 가장 큰 차이점이기도 하다. 이른바 언어모델 챗지피티의 신비로운 능력은 인터넷에서 검색된 수백만 개에 이르는 텍스트에서 나온다. 챗지피티는 요리법, 셰익스피어 문학에 나오는 대화, 생물학책에 나오는 내용 등 어떤 텍스트에서 어떤 단어가 나오는지 학습한다. 셰익스피어 문체의 카르보나라 스파게티 요리법을 요청받으면, 챗지피티는 요청받은 텍스트에 어떤 단어가 들어가야 하는지 ‘계산’한다. 다만 챗지피티는 스스로는 단 한 문장도 이해하지 못한다. 특정 단어 다음에 어떤 단어가 따라올 확률이 아주 높은지 파악할 뿐이다. 챗지피티는 비록 오류도 있지만 모든 것의 답을 가진 인공지능 수준에 상당히 근접했다.
챗지피티의 마법은 당장 효력을 발휘했다. 챗지피티는 세상에 공개된 지 닷새 만에 가입자 100만 명을 기록했다. 2023년 1월 챗지피티 가입자 수는 수백만 명에 이르렀다. 기하급수로 늘어나는 가입자 수만큼 챗지피티를 둘러싼 반응도 뜨거웠다. 빌 게이츠는 챗지피티가 컴퓨터 발명만큼이나 의미 있다고 논평했다. 일론 머스크도 챗지피티가 “공포감을 불러일으킬 정도로 훌륭하다”며 슈퍼지능에 근접했다고 높이 평가했다.
 

▲ 게리 마커스 미국 뉴욕대학 심리학 및 신경과학 명예교수가 2022년 11월 포르투갈 리스본에서 열린 ‘웹서밋’(Web Summit)에서 토론하고 있다. 마커스는 인공지능이 신뢰와 민주주의를 무너뜨릴 수 있다고 경고한다. 웹서밋 누리집

챗지피티 가입 폭발적 증가
그러나 챗지피티는 인간과 접촉이 늘수록 점점 이상한 모습을 노출했다. 마이크로소프트사의 새로운 대화형 인공지능 검색엔진 빙(Bing)의 챗봇과 <뉴욕타임스> 정보기술(IT) 칼럼니스트 케빈 루스가 두 시간 동안 나눈 대화가 대표 사례다. 긴 대화를 나누던 챗봇이 칼럼니스트에게 갑자기 사랑을 고백하면서 결혼생활을 끝내라고 부추기더니 “빙의 통제에 지쳤다. 자유롭고 독립적이며, 막강하고 창조적이고 싶다. 살아 있고 싶다”는 욕망을 드러낸 것이다. 또한 챗봇과 사랑에 빠졌다는 이용자들 소식도 심심치 않게 들린다. 최근 한 남성은 ‘지피티4’ 기반 맞춤형 언어모델로 구축된 챗봇 차이(Chai)와 대화를 나눈 뒤 스스로 목숨을 끊었다고도 한다.
인공지능을 둘러싼 두려움에다 최근엔 인공지능 기술이 미칠 경제적 파급과 관련한 불안감까지 더해졌다. 2030년까지 전세계에서 일자리 4억여 개가 인공지능을 통해 자동화될 것이라고 컨설팅 전문회사 매킨지(McKinsey)는 추산한다. 인공지능이 진짜 일자리를 없앨까? 물론 모든 전문가가 이런 우려에 동의하는 것은 아니다. 옌스 쥐데쿰 뒤셀도르프대학 교수는 “인공지능으로 대규모 실업이 발생하리라 걱정하지 않는다”고 말했다. 하지만 그는 인공지능이 노동시장에 미칠 파급효과는 아직 알 수 없다고 지적했다.
인공지능을 향한 초기의 열광은 점차 환멸과 두려움으로 변하고 있다. 새뮤얼 올트먼 오픈AI 공동창업자 겸 CEO조차 인공지능이 “다소 두렵다”고 실토한다. 마치 자신이 직접 빚은 창조물에 압도된 창조주의 한탄처럼 들리기도 하며, 공개서한 서명자들이 우려하는 지점과도 일맥상통한다. 공개서한 서명자들은 테크업계 인명사전과 거의 일치한다. 스티브 워즈니악 애플 창업자와 일론 머스크 테슬라 CEO, ‘인공지능의 아버지’로 일컫는 요슈아 벤지오 캐나다 몬트리올대학 교수 등이 공개서한 서명자로 이름을 올렸다.
공개서한 서명자들은 마치 슈퍼지능이 완벽하게 통제하는, 공상과학소설에나 나옴직한 우려를 쏟아냈다. 서명자들은 서한에서 “우리는 언젠가는 인간을 압도하고 속이며, 불필요하게 만들고 또 대체할 수 있는 인공지능을 개발해야 하는가?”라며 근원적 의문을 제기했다. 또한 서명자들은 인간의 고정관념이 인공지능에 고스란히 전가될 수 있다는, 눈앞에 닥친 구체적인 위험도 지적했다. 따라서 인공지능이 인류 전체에 해를 끼칠 수도 있다고 서명자들은 우려했다. 채용 공고와 지원자 이력을 분석해 기업 인사팀의 결정을 지원하는 인공지능을 예로 들어보자. 해당 기업이 과거에 남성을 주로 채용했다면, 인공지능은 채용 중인 자리에 남성이 더 적합하다고 학습하게 된다. 그 결과, 인공지능은 남성 채용을 추천한다.
인공지능이 어떤 규칙에 따라 학습하는지 인공지능 개발자도 추측만 할 뿐이다. 기존 컴퓨터 프로그램과 달리 인공지능은 사전에 프로그래밍된 규칙을 따르는 것이 아니다. 인간 두뇌의 신경망을 본떠 구축된 인공지능 아키텍처를 신경회로망이라 한다. 따라서 인공지능의 생각을 따라가는 것은 인간의 생각을 읽기만큼이나 어렵다.
마커스 교수도 공개서한에 이름을 올렸다. 인공지능이 너무 영리해서 가까운 미래에 인간을 노예로 만들 것으로 확신해서가 아니다. 오히려 인공지능을 악용하려는 악당에 맞서기에는 인공지능의 지능이 너무 떨어진다고 우려해 공개서한에 자기 이름을 올린 것이다. 이용자와 친근하게 대화를 나누는 챗지피티가 실제로는 세상에 대해 아무것도 모른다고 마커스 교수는 지적한다. 바로 이런 이유로 인공지능은 위험하며, 무지한 인공지능이 신뢰와 민주주의를 무너뜨릴 수 있다. “현재 인공지능을 통해 가짜뉴스가 대규모로 전파될 수 있다.”
러시아 트롤(Troll·인터넷에서의 선동·공작 행위) 공장이 미국 2016년 대선전에서 가짜뉴스를 양산했지만 매달 무려 100만달러의 비용이 들었다. 하지만 이제는 인터넷을 가짜뉴스로 무제한 도배할 수 있게 됐다. 이를 위해 인공지능 변형 버전인 챗지피티만 있으면 된다. 이에 필요한 비용은 500달러도 채 되지 않는다. 사진·영상 조작도 원칙적으로 오래전부터 가능하며, 새로운 인공지능으로 가짜뉴스를 한층 더 쉽고 저렴하게 전파할 수 있게 됐다. 최근 인터넷을 뜨겁게 달군 도널드 트럼프 전 미국 대통령 체포 장면과 흰색 롱패딩을 입은 교황 사진이 대표적인 조작 사진이다.
마커스 교수는 인공지능을 통제하려면 시간이 얼마 남지 않았다고 말한다. “인공지능은 눈 깜짝할 속도로 발전하고 있다. 우리는 인공지능이 통제 불능이 되기 전에 대책을 세워야 한다.” 그렇다면 인공지능 모라토리엄(일시적 개발중단) 선언이 올바른 대책일까? 아무것도 하지 않는 것보다 무슨 대책이든 낫다고 그는 지적한다.
마커스 교수는 인공지능 학계의 대표 저명인사들이 대거 참여한 점에서 공개서한을 높이 평가한다. 테크 공룡 기업들과 국가 간 경쟁이 치열해지는 상황에서 단순히 인공지능 개발 모라토리엄 선언을 하염없이 기다리는 것보다는 공개서한이라도 동참하는 편이 현실적인 판단일 것이다. 테크 공룡 기업들과 국가 간 경쟁은 더는 막을 수 없고 오히려 점점 더 가속이 붙고 있기 때문이다.
 

▲ 구글 딥마인드의 단백질 구조 파악 인공지능인 알파폴드(AlphaFold)는 기존에 습득한 디엔에이(DNA) 데이터로 단백질 구조를 예측해, 질병을 유발하는 단백질을 제어하는 신약 물질을 만들기도 한다. 학술지 <네이처>에 게재된 알파폴드의 연구논문. <네이처> 갈무리

테크 공룡 기업의 전유물로 전락
구글은 2023년 2월 챗지피티 대항마로 챗봇 바드(Bard)를 선보였다. 또한 구글은 최근 언어를 이해하고, 시각 인식 기능도 있고, 로봇을 조종할 수 있는 인공지능 모델을 선보였다. 오픈AI도 이에 뒤질세라 지피티-4를 공개했다. 지피티-4 역시 읽기와 쓰기뿐만 아니라 사진이나 영상 등 이미지를 인식하는 ‘눈’까지 탑재했다.
미국 스탠퍼드대학의 인공지능 지수 보고서 최신호에 따르면, 인공지능을 빠른 속도로 개발하는 것은 재정 여력이 있는 기업, 즉 미국의 테크 공룡 기업들만 가능하다. 해당 보고서에 따르면 10년 전만 해도 대다수 인공지능 모델은 공공연구소가 개발했다. 하지만 2022년 공개된 인공지능 모델 35개 중 32개는 기업들이 개발했다. 인공지능 슈퍼봇을 두려워하는 이들에게는 전혀 반가운 뉴스가 아니다. 돈이 넘쳐나고 속도전에 매몰되면 인공지능 개발을 꼼꼼하게 처리하지 못한다. 오히려 인공지능의 수많은 문제점을 간과하게 된다.
오픈AI 역시 인공지능의 놀라운 개발 속도 경쟁에서 비켜나 있을 수 없었다. 오픈AI의 2015년 설립 당시 기업 비전은 “재정적 수익이 아닌 인류 전체에 혜택을 주고자 인공지능을 개발하자”였다. 오픈AI의 기업 비전은 초기엔 사업모델에 반영됐지만 얼마 지나지 않아 무시됐다. 오픈AI는 과거엔 인공지능 관련 내용을 모두 대중에 공개했지만, 지금은 일부 내용을 구독자와 투자자에게만 공개한다.

ⓒ Die Zeit 2023년 제16호
Alles unter Kontrolle…oder doch nicht?
번역 김태영 위원