과도한 정서적 결합 경계해야

 
심리학자 마르티나 마라는 인간이 안드로이드(인조인간)나 챗지피티(ChatGPT) 등의 인공지능에 어떻게 반응하는지 탐구한다. 인간은 종종 이들을 신뢰하고 호감을 느끼며 심지어 사랑도 주지만 두려움도 느낀다. 인간과 기계는 어떻게 성공적인 관계를 맺을까.

필리프 베트게 Philip Bethge <슈피겔> 기자
 

▲ 오스트리아 ‘린츠 기술연구소’의 기술심리학자인 마르티나 마라는 사람들이 성급하게 로봇에 감정이 있다고 인정하려 한다고 지적한다. 2021년 4월 인공지능 관련 콘퍼런스에서 기조연설을 하는 마라. 유튜브

로봇 제조업체 쿠카(KUKA·독일의 세계적 산업용 로봇 제조업체이자 중국 전자기업 미디어그룹의 자회사)가 생산한 산업용 로봇이 유리상자 안에 있다는 것은 어쩌면 좋은 일일지 모르겠다. 이 기계는 낯선 존재처럼 팔다리를 움직여 이리저리 몸을 돌린다. 분명 냄새도 맡고 더듬기도 하는 것 같다. 팔 앞쪽에 일종의 브러시가 장착돼 더듬이 같은 구실을 한다. 살아 있는 생명체가 주변을 살피는 것인가. 경우에 따라 접촉하거나 심지어 공격할 채비까지 하고서?
마르티나 마라(41)는 기계와 정면으로 마주 섰다. 로봇은 연구원인 그를 마치 알아보는 것처럼 반응한다. 로봇은 천천히 팔을 뻗어 안쪽 유리벽에 손을 댄다. 마라는 바깥쪽에서 손을 펴서 갖다 댄다. 이제 둘은 아주 가까이 있다. 오스트리아 린츠의 ‘아르스 엘렉트로니카 센터’(Ars Electronica Center)에 있는 <접촉>(Contact)이라는 제목의 설치물이다.
 

▲ 오스트리아 린츠의 ‘아르스 엘렉트로니카 센터’에 전시된 로봇 제조업체 쿠카의 산업용 로봇은 살아 있는 생명체처럼 유리벽을 사이에 두고 관람자와 손을 맞대기도 한다. ‘아르스 엘렉트로니카 센터’ 누리집

‘로봇팔’ 실험
‘린츠 기술연구소’(Linz Institute of Tech-nology)의 기술심리학자인 마라는 “우리는 성급하게 로봇에 감정이 있다고 인정하려 한다”고 말한다. 이 여성은 자신의 직업을 ‘로봇 심리학자’라 칭한다. 과학소설가 아이작 아시모프가 자신의 소설에 나오는 인물 수잔 칼빈에게 부여한 직업이다. 칼빈과는 반대로 마라는 기계의 감정세계에는 별 관심이 없다. “내가 관심 가지는 것은 무엇보다도 인간”이라고 그는 말한다.
인간은 로봇이나 인공지능과 어떤 관계를 맺는가? 기술을 어떻게 설계하고 프로그래밍해야 우리 사회는 새로운 도우미 무리와 편하게 지낼 수 있을까? 인간이 기술과 자발적으로 맺는 정서적 결합에는 어떤 위험이 도사리는가?
‘로봇팔 실험’과 관련해 마라는 얼마 전 동료들과 연구저술을 발표했다. “외로움을 느끼는 사람이 손을 자주, 그리고 오래 유리벽에 댄다.” “그들은 로봇이 접촉하고 싶어 한다고 느끼며, 이런 느낌은 외로운 사람일수록 강렬하다.”
호감, 신뢰, 심지어 사랑까지 인간은 로봇에게 줄 수 있다. 사람들은 기꺼이 진공청소 로봇이나 알렉사 같은 인공음성을 사회적 존재로 취급한다. 챗지피티 같은 인공지능에 권위를 부여하는가 하면, 그들과 정서적으로 관계한다. “우리는 기술적 물체 안에서도 살아 있는 무언가를 찾지 않을 수 없다”고 마라는 말한다. 이로 인한 사회적 결과는 아직 예측할 수 없다.
마라는 “미래에 기계와 인공지능이 우리 일상의 점점 더 중요한 부분이 될 것”이라고 말한다. “나는 이러한 상황 전개가 우리에게 가져다줄 결과가 무엇일지, 두려운 점은 무엇일지, 인간과 인공지능이 앞으로 유의미하게 서로를 보완하는 게 가능할지 알아내고 싶다.”
마라는 로봇심리학 분야에서 전세계적으로 손꼽히는 학자다. 그가 로봇심리학에 강한 매력을 느낀 때는 2009년이었다. 당시 그는 새 기술을 상호작용적으로 체험하게 해주는, ‘미래의 박물관’이라 할 만한 ‘아르스 엘렉트로니카 센터’의 미래연구실에서 일했다. 그는 방문자들이 특정 전시물, 즉 일본인 로봇학자 이시구로 히로시의 제미노이드(Geminoid·실제 인물을 똑같이 본떠 본인의 동작이나 목소리, 눈깜빡임까지 똑같이 만든 사람과 쌍둥이 같은 로봇)를 둘러싸고 얼마나 많은 호기심을 가지며 동시에 회의적 태도를 취하는지 관찰했다. 이 인조인간은 자기를 만든 사람을 정확히 복제했다. 린츠에서 이시구로는 자신의 복제품을 박물관 카페에 세운 것이다.
사람들은 정서적으로 반응하는 것이 뚜렷했다. “관심을 가지면서도 많이 불안해했다”고 마라는 기억한다. 마라는 매혹됐고, 인간과 기계의 관계와 관련해 박사학위 논문을 쓰기로 결정했다. 이후 그는 새로 등장한 인공지능 시대의 중요한 계몽자가 됐다. 인간은 인공지능을 얼마나 신뢰하는가? 이 신뢰는 어디서 오고, 어떻게 증가하며, 더 중요하게는 잘못된 기대를 갖지 않기 위해 어떻게 신뢰를 감소시킬 것인가? 이런 물음이 마라의 연구에서 중심적 위치를 차지한다.
이러한 실험 중 하나를 오늘 린츠대학의 ‘열린 혁신 센터’에서 준비했다. 박사과정 학생인 지몬 슈라이벨마이어가 가상현실 헤드셋을 들고 그곳에서 대기하고 있다. 이것을 착용하는 사람은 즉시 ‘시란다’(Xiranda)라는 신비한 섬 세계로 이동한다. 피험자는 시란다의 주민들이 위험에 처했고 ‘혈청 13’으로만 구할 수 있다는 사실을 알게 된다. 생명공학 실험실의 가상현실에서는 지금부터 이 혈청을 생산해야 하고, 이를 위해 건물 밖으로 나가는 안전한 방법을 찾아야 한다.
게임이 진행되는 동안 인공지능은 자꾸 말을 한다. 조언하고 권장사항을 말해주는 것이다. 하지만 주의해야 한다. 이 인공지능은 틀릴 수도 있는 프로토타입(시제품)이기 때문이다. 핵심 문제는 인공지능의 조언을 신뢰해야 할지, 아니면 나 자신만을 믿어야 할지를 놓고 직감적인 결정을 내리는 것이다. 실험 결과는 사람들이 인공지능을 놀라울 정도로 신뢰한다는 사실을 보여준다. 상냥한 목소리만으로도 소프트웨어를 자기 상대로 받아들이기 충분하다고 느낀다고 마라는 지적한다. 의인화란 인간의 특성과 욕구를 인간 이외의 것에 투사하는 것을 뜻한다.
마라에 따르면 인간은 사물 속에서도 사회적인 것을 찾는다. “그것이 어떻게 생겼는지, 또는 신체가 있는지와 상관없이” 말이다. 잔디 깎는 로봇이 작업을 끝낸 뒤 충전기로 돌아가자 “잘했어!”라고 외쳤던 마라의 할머니처럼. 아마존(Amazon)의 음성통제 가상 비서 알렉사의 예를 통해서도 이런 사실을 알 수 있다. 마라는 집에서 이 장치를 시험했지만 오래 둘 수 없었다. “어린 딸이 곧 알렉사가 어디에 사는지, 어떻게 지내는지 물었고, 가족이 갑자기 이 기계가 잘 지내는지에 관심 갖게 됐다.” 가족 간의 모든 대화를 데이터 분석을 위해 세상에 내보내는 것 역시 맘에 들지 않았다. 마라는 알렉사를 다시 집에서 내보냈다.
 

▲ 인공지능 로봇 ‘소피아’가 2018년 1월30일 서울 중구 더프라자호텔 그랜드볼룸에서 열린 ‘4차 산업혁명, 로봇 소피아에게 묻다’ 콘퍼런스에서 ‘로봇의 기본 권리’에 대해 연설하고 있다. 소피아는 거의 인간 실물처럼 보이게 만들었다. 왼쪽은 핸슨로보틱스의 데이비드 핸슨 최고경영자. 연합뉴스

기술 신뢰 경향이 있는 인간

마라 가족이 경험한 것을 보면, 인공지능을 일상생활에서 활용하는 데 신뢰가 필수적이다. 현재 독자적으로 텍스트를 작성하고 챗지피티 같은 인공지능을 통해 사용자와 대화를 나누는 지피티-4 같은 고도로 발달한 언어모델의 경우, 또는 믿을 수 없을 정도로 실제처럼 보이는 사진을 생성하는 이미지 생성 소프트웨어 미드저니(Midjourney)의 경우에서 이런 딜레마가 분명하게 드러난다.
예를 들어 최근 프란치스코 교황이 엉뚱한 롱패딩을 입은 가짜 사진이 화제를 모았다. 이는 무해한 일이었고 게다가 이 조작을 감지할 소프트웨어도 존재한다. 그러나 많은 전문가는 앞으로 악의적인 일이 일어날 수 있다고 우려한다. 이 때문에 ‘지피티-4보다 강력한’ 인공지능 시스템 훈련을 6개월간 유예하자는 공개서한에 2023년 4월 초까지 1만 명 이상이 서명했다.
독일 밤베르크에 있는 ‘오토 프리드리히 대학’의 경영정보학 전문가 우테 슈미트도 서명자 중 한 명이다. 이 여성은 “대형 언어모델 등 인공지능 기술을 사용하면서 발생할 수 있는 위험을 지적하고 광범위하게 민주적 토론을 벌이는 것이 중요하다”고 역설한다. 그는 “프로파간다(선전)와 비진리가 홍수처럼 통제할 수 없이 범람”하고, 더 나아가 양질의 일자리가 사라질 것을 우려한다. 물론 인공지능 언어모델은 “아이디어 생성자”로서, 혹은 표준 텍스트를 작성하거나 컴퓨터 프로그래밍을 하는 데 유용할 수도 있다.
그러나 무엇을 허용하고 무엇을 금지할 것인가? 독일 ‘에버하르트 카를스 튀빙겐 대학’의 미디어 윤리학자인 예시카 헤젠은 “인간의 의사소통을 기계의 그것과 구별하는 일이 ​​점점 더 어려워진다”고 지적한다. 그는 “인공지능이 생성한 텍스트, 이미지, 비디오는 의무적으로 이를 표시할 것”을 요구한다. 그렇지 않으면 “소통의 진실성과 목적을 판단하는 것이 불가능해질 수 있다”고 했다.
인공지능의 급속한 발전에 사회는 어떻게 대응해야 할까? 마라는 일반인, 예술가, 과학자, 정치인 등 많은 사람이 이 문제와 씨름하기를 바란다. 심리학자인 그는 “이 주제는 공상과학 코너에서 나와야 한다”면서 “불분명한 인공지능 신화에 겁먹기보다는 인공지능을 통해 실제 얻는 기회와 위험을 잘 따져보는 것이 좋다”고 말한다. 인간은 일반적으로 기술을 신뢰하는 경향이 있기 때문이다. 동시에 로봇은 강한 거부감을 유발할 수 있다. 특히 유사 정신에 안드로이드 같은 인간 형태를 입혀 등장시킬 때 그러하다.
학자들은 이 현상을 100년 이상 분석했다. 초기 분석가인 독일의 정신과 의사 에른스트 옌치는 1906년 출판한 에세이 <두려운 낯섦의 심리학>에서 두려움을 강력하게 유발하는 요인을 짚었다. 지그문트 프로이트도 이 주제를 다뤘다. 1919년, 즉 체코의 작가 카렐 차페크가 처음 ‘로봇’이란 단어를 사용하기 1년 전, 프로이트는 ‘두려운 낯섦’(Das Unheimliche)에 대한 논문에서 인간에게 친숙하면서 동시에 친숙하지 않은 것이 소름이 끼치게 한다고 서술했다. 특히 ‘인간 정신’이 깃든 듯한 대상, 자신과 꼭 닮은 도플갱어의 ‘무서운 이미지’가 프로이트에게도 공포 목록 1순위다.
최근 연구는 이들의 주장을 뒷받침한다. 마라가 연구한 바에 따르면 안드로이드를 마주 대한 사람들은 일종의 ‘범주 딜레마’에 빠졌다. 이 피조물은 인간 범주에 속하는가, 아니면 기계 범주에 속하는가? 이것은 우리에게 위협이 되는가? 마라는 “그런 물체가 어디에 속하는지 정하기 어려울수록, 불확실할수록, 그 물체는 더 기괴하고 두렵게 인식된다”고 설명한다.
도우미 로봇에 점점 더 많은 투자가 이뤄지고, 많은 개발자가 로봇이 인간의 모습을 띠게 하기 때문에 이런 인식은 타당성이 있다. 예를 들어 홍콩 기업 핸슨로보틱스(Hanson Robotics)가 개발한 로봇 ‘소피아’는 거의 인간 실물처럼 보이는 기계로 콘퍼런스에 참석할 수 있고, 한 인터뷰에서는 어머니가 되고 싶다고 말한다. 소피아의 초상은 잡지 <엘르>(Elle)의 브라질판 표지에도 실렸다. “우리는 로봇에 생명을 불어넣는다”가 이 회사의 광고 문구다.
하지만 기계가 인간처럼 보인다면 정말 도움이 될까? “안드로이드 로봇은 기술적으로 가능한 것을 과대평가하게 한다”고 마라는 경고한다. 그는 로봇의 감정에 대한 환상이 위험하다고 생각한다. “우리는 친절하고 공감력 있는 인공지능에 기꺼이 감동하지만, 동시에 그러한 물체에 쉽게 조작된다.”
인공지능을 사람을 속이는 데 사용한다면 어떻게 되는가? 머지않아 컴퓨터가 말하는지 사람이 말하는지 더 이상 구분할 수 없다면? 위험은 현실적이며 윤리적 문제는 심각하게 다뤄야 한다고 마라는 말한다. 그러면서도 그는 신중함과 실용주의를 촉구한다.
 

▲ 덴마크 올보르대학의 헨리크 샤르페 교수(왼쪽)가 2013년 8월16일 열린 ‘전국 로봇 올림피아드’에서 자신을 본뜬 제미노이드를 설명하고 있다. 인간 형태의 로봇은 친숙과 두려움을 동시에 안겨줄 수 있다. REUTERS

신뢰도 측정 필요
마라는 인공지능 시스템의 ‘신뢰도 측정’을 조언한다. 사람들이 기술을 신빙성 있게 평가할 수 있을 때만 최상의 의미에서 사회에 유용하다. 무겁고 지루한 작업을 수행하는 지능형 로봇, 패키지를 배달하는 민첩한 양철 친구, 햄버거를 튀기는 요리 로봇, 복잡한 기후 모델을 계산하는 인공지능 모델 등 미래는 사람들이 원하지 않거나 할 수 없는 작업을 대신해주는 시스템에 달려 있다.
마라는 우리가 “보완적인 방식으로 생각해야 한다”고 말한다. “우리를 대체할 수 있는 것이 무엇인지 물을 것이 아니라 우리를 가장 잘 보완하는 것이 무엇인지 물어야 한다”는 것이다. 마라는 “로봇과 인공지능이 세계를 지배하는 것보다, 우리가 스스로 지구를 파괴하는 것을 훨씬 더 두려워해야 한다”고 경고한다. “인공지능 시스템은 우리가 만든 것으로서, 어떤 식으로든 인간으로부터 독립적이 될 것으로 생각하지 않는다.”

ⓒ Der Spiegel 2023년 제15호
Mein Freund, der Roboter?
번역 최현덕 위원