폭행·음란물 골라내다 악몽

 
인공지능(AI)은 우리 인간을, 우리의 경제를, 우리의 문화를 어떻게 변화시킬까? 그리고 여기서 이득을 보는 건 누구고 참패하는 건 누굴까? 클릭워커(Clickworker)와 콘텐츠 모더레이터(Content Moderator·온라인상의 유해 콘텐츠를 검열해 플랫폼을 관리하는 사람)는 챗지피티(ChatGPT) 등 앱 훈련 프로그램에 필요한 디지털 막노동을 도맡아 하는 직업군이다. 저임금으로 일하면서 막대한 심리 부담에 시달리는 이들이 열악한 노동조건에서 자신을 지키기 위해 일어섰다.

파트리크 보이트 Patrick Beuth 하이너 호프만 Heiner Hoffmann
막스 호펜슈테트 Max Hoppenstedt <슈피겔> 기자
 

▲ 인공지능(AI)을 훈련하기 위해 그림에 레이블링을 하고, 글과 비디오를 정해진 범주 안에 분류해 넣는 클릭워커들은 대체로 해당 국가의 최저임금에도 못 미치는 돈을 받으며 일한다. REUTERS

모파트 오키니이(27)가 우리에게 들려줄 끔찍한 이야기는 매일 아침 8시에 시작한다. 케냐의 수도 나이로비 변두리에 자리잡은 한 고층 빌딩. 빽빽이 채워진 이 사무실 건물의 4층에서 그가 노트북을 열기 무섭게 화면에 텍스트가 줄줄이 올라온다. 한번 보기만 하면 밤에 잠을 설칠 게 분명한 내용이다. 아동학대 보고서, 사체 훼손에 관한 이야기들, 근친상간을 묘사하는 글 등이다.
아무리 역겹더라도 꾹 참고 이런 텍스트를 처음부터 끝까지 읽는 대가로 그에게 돈이 지급된다. 잔인한 사건을 하나하나 검토해 범주별로 나누어 정리하는 것이 그의 일이었다. 수간이나 성인의 강간은 이 회사 분류 시스템에서 C3 단계로 정리하고, 아동 성폭행은 C4 단계로 따로 분류한다.
폭행과 성폭행을 각각 따로 구분하고, 오키니이처럼 이 일을 전담할 사람이 필요한 이 모든 변화는 AI 붐과 관련이 있다. 케냐 출신인 그는 오픈에이아이(OpenAI)의 주문을 받아 작업한다. 오픈AI는 세계적으로 손꼽히는 생성형 AI 기업이다. 오픈AI의 하청업체들은 자사가 고용한 일꾼에게 앞에서 언급한 심란한 내용의 텍스트를 매주 수백 건씩 보내 분류 정리 작업을 시킨다. 오키니이도 그중 한 명이다.
2022년 3월 말까지 그는 6개월간 챗지피티를 훈련했다고 말했다. 그로부터 몇 달이 지난 뒤(11월30일) 오늘날 전세계로 이름을 떨친 소프트웨어가 시장에 출시됐다. 세미나용 논문, 짧은 이야기, 신문 기사도 써낼 수 있는 프로그램이다.
 

▲ 마이크로소프트리서치(Microsoft Research)의 연구원 메리 L. 그레이와 시다하트 수리는 정보기술(IT) 발전이 저임금 노동을 양산하는 현상을 ‘유령노동’(Ghost Work)으로 부른다. 같은 제목으로 출간된 두 사람의 저서. 아마존 누리집

시간당 임금 1달러
자율주행자동차가 자전거나 보행자를 치지 않기 위해 우선 보행자와 자전거가 무엇인지 알아야 하듯이, 오픈AI 시스템도 오키니이 같은 사람들이 폭행이나 포르노그래피가 무언지 우선 가르쳐줘야 한다. 챗지피티가 이런 내용을 자발적으로 만들어내지 못하도록, 만에 하나 자발적으로 그런 내용을 만들어도 검토 단계에서 확실히 걸러져 절대로 사용자에게 도달하지 않도록 하기 위해서다. 이를테면 기계에 도덕 과외를 해주는 셈인데, 이 과정을 거치지 않은 소프트웨어는 시장 진입을 허용하지 않는다.
오픈AI한테는 수십억달러의 투자금이 몰려들었지만, 오키니이가 그 일을 하면서 받은 임금은 시간당 겨우 1달러를 넘지 못했다. 당시 그가 가지고 있던 직책은 선정적 내용을 맡아 검토하는 ‘품질분석가’였다. 그는 디지털감독자로 동료들이 성과 폭력에 관한 텍스트를 평가할 때 실수한 점이 없는지 검사했다. 그는 하루에 700건의 게시물을 검토했다고 말한다.
오키니이는 모자가 달린 검은색 티를 입고 아파트 거실 소파에 앉아 이전에 경험한 직장의 일상을 우리에게 이야기해줬다. 그는 오래전에 ‘AI트레이’너 직업을 그만뒀다. 지금은 온라인 고객상담을 한다. 그런데도 과거에 보았던 게시물 내용이 아직도 그를 움켜쥐고 놓아주질 않는다. 지금까지도 말이다.
챗지피티 훈련에 사용한 데이터를 보면, 인터넷상에서도 가장 어둠침침한 구석에서 나온 내용이라는 데 의심의 여지가 없다. 용역을 주는 업체는 이런 자료가 어디서 나왔는지, 누가 그 텍스트를 썼는지 알려주지 않는다. 오키니이가 검토 자료로 받은 텍스트 가운데는 어머니가 병원에서 사망한 후 사체와 성관계를 한 아들의 이야기가 쓰여 있거나 근친상간을 해 죽임을 당하는 내용도 있었다. “그런 텍스트를 읽은 날은 점심시간인데도 술을 퍼마셨다. 견딜 수가 없었다.”
이런 경험을 거듭하자 이 세상과 자기가 하는 일에 의구심이 생겼다. “우리는 사람들의 안전을 책임지는 군인이었다. 소비자에게 안전한 챗지피티를 만들기 위해 위험한 총알을 우리가 몸으로 받아내야 했다. 우리는 그 상처를 안고 살아야 한다.”
그가 경험한 것은 이제 특별한 일이 아니라 슬픈 일상이 돼버렸다. 세계 굴지의 재력을 가진 기술 대기업이 사용자를 위해 자사의 시스템을 완벽하게 다듬는 작업에 저임금 인력을 투입한다. 모두 오키니이처럼 정사원으로 일할 수 있는 것도 아니다. 기업은 클릭워커의 노동력도 사용하는데, 이들의 임금은 콘텐츠 모더레이터보다 훨씬 적다. 심지어 현지 최저임금보다 낮은 경우도 있다. 클릭워커 대부분이 최소한 학사 학위 소지자인데도 말이다.
클릭워커와 콘텐츠 모더레이터, 이 두 직업군은 AI를 발전시키는 과정에서 중요한 역할을 한다. 아주 잔혹한 게시물이 작업 대상이 될 때도 있지만, 클릭워커가 하는 기본 작업은 대체로 새 시스템을 학습시키기 위해 반복해서 동일한 연습을 시키는 것이다. 그림에 레이블링하고, 얼굴을 표시하고, 글과 비디오를 정해진 대로 범주 안에 분류해 넣는다.
반면 콘텐츠 모더레이터는 주로 사후 검토 작업을 맡는다. 소셜네트워크에 돌아다니는 것 중에서도 이용자들이 음란물이나 불법 게시물이라고 신고한 내용을 처리한다. 이 작업은 콘텐츠 모더레이션이라고 부르는데, 이 용어 때문에 콘텐츠 모더레이션도 일종의 AI 훈련이라는 사실을 자칫 간과한다. 적지 않은 사람이 두 가지 일을 병행한다. 심지어 한 회사 안에서도 같이 하는 경우가 있다. 두 작업의 공통적인 특징은 아무도 작업자의 존재를 알지 못한다는 것이다.
 

▲ 샘 올트먼 오픈AI 대표 같은 최고경영자에 관한 이야기가 부각되지만, 무대 뒤 ‘유령노동자’가 없었다면 챗지피티는 빨리 시장에 나올 수 없었다. 올트먼 대표(오른쪽)가 2023년 6월22일 그의 파트너 올리버 물헤린과 함께 나렌드라 모디 인도 총리의 국빈방문을 기념하는 백악관 만찬 행사장에 들어오고 있다. REUTERS

아무도 모르는 ‘유령노동’
저임금 노동력인 콘텐츠 모더레이터와 클릭워커를 사용하는 ‘그림자 산업’은 계속해서 성장하고 있다. 그런데 샘 올트먼 오픈AI 대표 같은 천재 프로그래머이자 유명한 기술계의 최고경영자들에 관한 이야기가 부각되면서, 이 노동자들의 삶은 마치 존재하지 않는 것처럼 취급된다. 하지만 무대 뒤에서 일하는 새로운 직군의 노동자가 없다면 이 기업들의 앱은 그렇게 빨리 시장에 나올 수 없었을 것이다. 그게 진실이다.
마이크로소프트리서치(Microsoft Research)의 연구원 메리 L. 그레이와 시다하트 수리는 이 현상을 ‘유령노동’(Ghost Work)으로 부른다. 같은 제목으로 출간된 두 사람의 저서는 대체 불가능하고 동시에 논란이 분분한 이 사업모델에 관한 표준 저작으로 인정받는다. 이 업계에서 일하는 노동자들은 보이지 않는 투명인간, 곧 유령들이다.
전문가들은 이들의 수가 수만 명에 이를 것으로 추정한다. 특히 전세계에 1만 명 이상의 콘텐츠 모더레이터가 있다고 본다. 유럽과 미국에만 회사에 소속되지 않은 클릭워커 수백만 명이 독자적으로 일하고 있다.
유령노동자한테는 영향력 있는 로비도 권력도 없다. 이들은 이를테면 아르헨티나의 슬럼가나 핀란드의 교도소에서 일한다. 기술 대기업은 이들에 관해 이야기하기를 꺼린다. 자세한 부분은 아예 입을 다문다.
이들의 노동조건은 여러 문제를 안고 있다. 기술 대기업이 콘텐츠 모더레이터와 클릭워커를 대부분 직접 고용하지 않는 점도 문제 중 하나다. 대기업들은 이름이 없는 회사에 용역을 주어 인력을 동원한다. 예를 들어 사마(Sama)는 “오픈AI로부터 나이로비에서 챗지피티 트레이닝을 위임받은 미국 모더레이션 기업”이라고 소개한다. 사마가 <슈피겔>에 제시한 계약서를 보면, 오키니이 같은 작업반장 임금으로 오픈AI가 시급 12달러50센트(약 1만6천원)를 사마에 지불한다고 적혀 있다. 매달 1만5천 건의 게시물을 검토하는 조건이다. 그러나 여러 제보자가 이구동성으로 하는 말에 따르면, 사마 사원들이 실제로 받은 임금은 시간당 2달러가 못 된다고 한다.
게다가 콘텐츠 모더레이터들은 직장 상사가 애초 계약보다 훨씬 많은 양의 업무를 수행하라며 압박한다고 이야기한다. 사마가 해당 작업에 필요한 만큼 사원을 충분히 확보하고 있지 않기 때문이다. 사마에 근무한 적이 있는 사람들은 한결같이 주말은 물론 퇴근 시간 이후에도 검토 작업을 계속해야 했다고 말한다. 못하겠다고 거부했는데도 말이다. 계약서에는 교대제인 노동시간 외 작업에 오픈AI가 추가 임금을 줘야 한다는 조항이 없다. <슈피겔>이 이를 문의했지만, 오픈AI나 사마 중 어느 곳도 답을 주지 않았다.
디지털 작업을 하는 프레카리아트(Precariat·임시계약직·프리랜서 형태의 불안정한 단순 노동에 종사하면서 저임금으로 근근이 살아가는 계층)에 대한 착취가 비단 지구 남반구에서만 문제되는 건 아니다. 노동자 보호 규정과 노동자의 공동결정법을 잘 준수한다고 자랑하는 나라, 독일에서조차 이 주제는 논란의 대상이다.
독일 에센(루르 공업지대에 위치한 도시) 시내 근방, 수수한 사무실 건물에서 AI 시스템 훈련이 한창이다. 오마르가 일하는 이 회사의 이름은 CCC에센으로, 텔루스 인터내셔널그룹(Telus International Group)에 속해 있다. 텔루스는 미국 메타의 페이스북과 인스타그램 사업을 대리하는 회사다. 오마르는 전에는 AI 훈련용 데이터에 레이블링했고, 요즘에는 콘텐츠 모더레이터로 일하면서 인터넷 사용자들이 신고하는 게시물을 검토한다. 이 게시물 중에 참수 비디오나 다른 폭력 행위를 녹화한 비디오가 그의 손을 거쳐 위험 항목으로 분류된다. 이런 종류의 내용물을 앞으로 좀더 잘 인식하도록 AI를 훈련하는 것이다.
 

▲ 독일 CCC에센에서 일하는 켄지츠 하크죄츠는 디지털 위원회에 소속된 의원에게 열악한 노동조건을 상세히 보고했다가 강제 휴가를 당했다. 독일서비스노동조합 누리집

▲ 2022년 11월30일 오픈AI가 출시한 챗지피티는 사회·경제적으로 큰 반향을 일으켰지만, 저임금과 심리적 트라우마에 시달리며 AI를 훈련한 콘텐츠 모더레이터들의 열악한 노동환경은 조명받지 못했다. REUTERS

독일 등 북반구에도 프레카리아트
CCC에센의 노동조건이 어떠냐고 묻자, 오마르는 “조건을 들으면 사람들은 내가 독일에서 일한다고 믿을 수 없을 것”이라고 말했다. 그는 착취와 엄격한 목표 설정, 목표를 달성하지 못했을 때 가해지는 처벌, 끊임없는 부담에 관해 이야기보따리를 풀어놓았다. “많은 동료가 악몽에 시달린다. 우울증이라고 할 만큼 심리 문제도 겪는다. 이 현상은 시간차가 있지만 결국 동료 모두에게 닥칠 것이다.” 시간당 14달러40센트라는 작업비는 하는 일에 견줘 터무니없이 낮다고 그는 강변했다. “아동이나 마음 약한 일반인이 보는 것을 방지하기 위해 게시물을 검토하는 일을 하고 있으니 말이다.”
독일서비스노동조합(Ver.di)은 독일에서 일하는 콘텐츠 모더레이터가 최소 5천 명에 달할 것으로 추산한다. 기술업계는 (독일어로 된) 인터넷 게시물을 분석해 비속어와 그 외의 언어 특이점을 찾아내기 위해 독일 원어민에게 의존한다. 독일 내에는 독일어 작업은 물론, 해당 언어에 능통한 직원에게 러시아어나 투르키예어로 된 내용물도 분류하라는 업무 지시를 내리는 회사도 상당수다.
오마르는 <슈피겔>에 진짜 이름이 나오기를 원치 않았다. 노동계약서에 회사 내부 이야기를 외부에 말하는 것이 금지돼 있기 때문이라고 했다. 그는 일터에 들어서기 전에 휴대전화부터 물품보관함에 넣고 잠가야 한다. 열악한 회사의 노동조건이 외부에 알려지는 것을 이 미국 기업은 두려워한다.
메타는 기사 마감 시간까지도 우리가 보낸 질문에 답을 주지 않았다. 텔루스는 사원들에게 국제 모범 사례에 준하는 심리상담을 지원한다고 강조했다. “경험이 풍부한 심리학자가 운영하는 심리상담 프로그램은 독일 내에서 인터넷 게시물 검토에 종사하는 모든 노동자에게 열려” 있으며, 여기엔 “연중 무휴, 24시간 내내 사내 복지팀과 상담할 수 있는 서비스도 포함된다”는 것이다.
반면 오마르는 이 제안을 “우스꽝스럽다”고 일축한다. 최근 이 복지팀과 이야기해보았는데 “우리가 처리해야 하는 게시물이 얼마나 정신을 피폐하게 하는 내용인지 그 사람들은 까맣게 모르고 있었다”는 것이다. 나이로비에서 일하는 오키니이도 상사들에게 심리치료 지원을 물어본 적이 있는데 답변을 받기는 했단다. 그는 상사의 대답을 그대로 인용해 들려줬다. “상담받을 시간이 어딨나. 당신들은 주어진 일을 다 수행하기도 바쁜데.”
 

▲ 녹색당 디지털 전문가인 타베아 뢰스너 연방의원은 네트워크 정화 작업을 하는 이들은 우리 모두를 위해 일하고 있다며, 이 사람들을 우리 사회가 곤경에 빠트릴 수 없다고 강조했다. 위키미디어 코먼스

기업들은 모르쇠
이 분야의 산업이 변화를 원하지 않는다는 건, 2023년 6월 중순에 열렸던 독일 의회에서 여실히 드러났다. 오마르와 마찬가지로 CCC에센에서 일하는 켄지츠 하크죄츠가 디지털위원회에 소속된 의원에게 열악한 노동조건을 상세히 보고했는데, 그 직후 하크죄츠는 강제 휴가를 당했다. 그뿐만 아니라 그는 코앞에 닥친 직장평의회(Works Councils) 선거를 위한 선거관리위원회 사무실에 발을 들여놓는 것도 당분간 금지됐다. 하크죄츠는 이 위원회의 위원인데도 말이다. 하크죄츠와 서비스 노조가 이 문제로 소송한 결과 회사 쪽은 이 제한 조처를 취소하라는 판결이 나왔다.
정치권도 마침내 그가 법정에 섰을 시점에 이 주제를 정식으로 논의했다. “네트워크 정화 작업을 하는 이들은 우리 모두를 위해 일한다. 이런 사람을 우리 사회가 곤경에 빠트릴 수 없지 않겠냐”라고 녹색당 디지털 전문가 타베아 뢰스너는 강변했다.
디지털 분야 발전의 가속화는 거저 이뤄지지 않는다. 그 대가를 치르는 건 바로 무대 뒤 노동자들이라는 현실이 이제 드러나고 있다.

ⓒ Der Spiegel 2023년 제29호
Die Gesichter hinter der KI
번역 장현숙 위원