구글은 어떻게 ‘차별 증폭기’가 되었을까

원고를 판단할 때 기획자는 책에 담긴 메시지가 지금 시대에 어디쯤 위치하는지 생각해보곤 한다. 비즈니스 책은 주로 산업 성숙도와 연관해 판단 기준으로 삼는다. 특정 산업이 채 영글지도 않았는데, 너무 심화한 개념의 이론서를 내놓는다면 시장에서 외면받을 것이다. 독자가 이를 소화하지 못할뿐더러 관심도 없기 때문이다. 너무 앞서간 책은 물론이고 이미 성숙한 시장을 두고 뒷북치는 책도 외면받기 십상이다.

 

<구글은 어떻게 여성을 차별하는가>는 우리 시대에 어디쯤 위치하는 책일까. 편집팀에서 이 책을 처음 봤을 때 생각한 키워드는 ‘알고리즘’이었다. 인공지능과 사물인터넷, 딥러닝 같은 사업모델에 관한 책을 여럿 펴낸 우리 출판사는 그다음으로 독자의 관심을 불러일으킬 키워드를 찾고 있었다.

 

회의 테이블에 올라온 이 책은 기존에 검토하던 경제경영서와 사뭇 달랐다. 미국 캘리포니아대학교 정보학 전공 사피야 노블 교수가 수년간 구글 검색 알고리즘을 연구한 끝에 나온 결과물이다. 그러나 원제 <Algorithms of Oppression>에서도 드러나듯, 이 책은 알고리즘에 대한 기술적 접근보다 사회·정치적 메시지가 강했다. 알고리즘보다 ‘억압’과 ‘차별’에 방점이 찍힌 사회과학서에 가까웠다. 

 

책의 뼈대는 수학기호로 이루어진 알고리즘 기술이 우리 생각만큼 중립적이거나 객관적이지 않다는 것, 오히려 차별과 불평등을 심화하는 도구가 되었다는 것이다. 노블 교수는 ‘흑인 소녀’(black girls) 검색 결과가 온통 외설적인 것을 근거로 보여준다. 포르노와 연관된 키워드를 입력하지 않았지만 ‘달콤한 흑인 여성 성기닷컴’같은 성인 사이트와 데이트 사이트가 가장 상위 검색 결과로 나오고 ‘큰 가슴’ ‘큰 엉덩이’ 같은 단어가 연관검색어로 떠올랐다. ‘여성은 ~을 할 수 없다’(Women cannot)라는 검색어 자동완성 문구는 ‘운전할 수 없다’ ‘주교가 될 수 없다’ ‘신뢰할 수 없다’ ‘교회에서 말할 수 없다’ 등이었다. 

 

구글은 흑인 여성뿐 아니라 ‘동양 여성’ ‘라틴계 여성’ ‘유대인’ 등을 검색했을 때도 편향적인 검색 결과를 내놓았다. 이처럼 외설적인 정보뿐 아니라 일부 차별주의자의 폭력적이고 왜곡된 생각이 담긴 게시물이 검색 결과 첫 페이지에 나타나는 까닭은 무엇일까? 대부분 사람은 ‘인기 있는’ 순서대로 구글이 검색 결과를 보여준다고 생각한다. 하지만 실상은 다르다.

 

노블 교수는 구글이 광고료로 운영되는 영리기업임을 언급하며, 구글 같은 독점기업이 이해관계에 따라 검색 순위를 조정한다고 주장한다. 이때 뒷순위로 밀리는 것은 누구인가. 막대한 광고비를 낼 수 없는 소규모 회사, 여성·유색인종·이주민 등 사회적 약자다. 노블 교수는 “30년 동안 신자유주의적 기술지상주의에 힘입어 성차별과 인종차별이 더욱 확산됐으며, 인식하기 어려울 정도로 차별이 일상 속에 파고들었다”고 주장한다.

 

독자는 인권과 존엄은 사라진 채 디지털 기술만 월등히 발달한 시대의 비뚤어진 미래를 엿볼 수 있을 것이다. 

 

미국 아마존에 올라오는 테크놀로지 분야 신간을 살펴보면, 이처럼 급속히 성장한 기술의 반작용을 말하는 책이 더러 눈에 띈다. 그런 책이 보여주는 시대 상황은 어린 시절 보던 인공지능(AI) 침략 같은 디스토피아적 세계보다 더 현실적이고 구체적인 까닭에 더욱 섬뜩하다. 이러한 출판 흐름을 미뤄봤을 때, 우리가 관심 갖는 사업모델이 어디쯤 다다랐는지 알 수 있다. 알고리즘과 인공지능이 이미 성숙 단계에 이른 시점에서, 이제 우리는 더 나은 세상을 위해 무엇을 해야 하는지에 답해야 할 때다.

 

활동가들의 끈질긴 추적으로 구글이 흑인들 사진에 ‘#유인원(apes)’ ‘#동물(animal)’ 같은 단어를 태그로 붙인 사실이 밝혀졌다. 또 버락 오바마 전 미국 대통령 임기에 구글 지도에서 ‘검둥이 집’(N*gger House)을 검색하자 백악관이 뜬 것이 알려져 한때 논란이 됐다. 구글이 사용자의 과거 검색 자료를 추적해 특정 사용자 이름에 ‘유대인’ 항목을 의도적으로 추가한 일이 밝혀지기도 했다. 내 연관검색어에는 어떤 단어가 달려 있는지 궁금한 독자, 알고리즘과 인공지능이 나아갈 길이 궁금한 독자 등 검색 포털을 사용하는 모든 사람에게 일독을 권한다. 미래를 헤쳐나갈 새로운 시각이 열릴 것이다. 

 

멈추지 못하는 사람들

 

 

 

ⓒ 이코노미 인사이트 2019년 9월호