감정을 지닌 인공지능 로봇들이 주인공으로 등장하는 영국의 TV시리즈 <휴먼즈>(Humans)에는 ‘니스카’라는 캐릭터가 나온다. 니스카는 데이비드 앨스터라는 과학자가 만든 감정을 가진 로봇 중 하나로, 여성의 몸을 가지고 있다. 니스카는 데이비드로부터 당한 성적 학대에 대해 밝히며, 이렇게 말한다. “아버지는 날 만들었어. 그는 내가 누군지 정확히 알고 있었어. 내 감정의 범위가 어디까지인지, 내가 느끼는 감정이 얼마나 깊은지 말이야. 그런데도 그는 자신의 욕망을 위해서 날 이용했어.”

이 드라마를 보면서 든 의문이 있다. 왜 사람들은 인공지능 로봇에게 사람이 가지고 있는 젠더를 부여하는가? 왜 인공지능 로봇에게 성별에 따른 역할을 강요하는가? 인공지능 로봇에게도 젠더가 필요한 것일까?

이런 궁금증에 대해 이야기를 나눌 수 있는 자리가 한국SF협회(준)과 서대문자연사박물관 공동 주최로 열렸다. 지난 1월 26일 서대문자연사박물관에서 열린 SF토크콘서트 ‘인공지능과 젠더’ 강연에는 최고 한파에도 불구하고 많은 이들이 객석을 채웠다.

▶ 1월 26일 서대문자연사박물관에서 열린 ‘인공지능과 젠더’ 토론에 참가한 이진주 걸스로봇 대표, 이서영 SF작가, 권정민 데이터과학자, 오영진 문화평론가  ⓒ일다(박주연)

권정민 데이터과학자는 먼저 인공지능에 대한 정의를 설명했다. 인공지능(AI, Artificial Intelligence)은 기계로부터 만들어진 지능(인간과 동물의 자연 지능과 반대되는 말), 컴퓨터 공학에서 이상적인 지능을 갖춘 존재, 혹은 시스템에 의해 만들어진 지능이다.

인공지능 로봇에 왜 성별을 부여하는 거죠?

“이세돌 프로 바둑기사와 세기의 대결을 펼친 인공지능 바둑 프로그램 ‘알파고’는 남성일까요, 여성일까요?”

SF작가 이서영 씨는 강연을 시작하며 이렇게 물었다. 많은 사람들이 바둑을 두는 굉장히 똑똑한 이 인공지능을 남성으로 인식했다고 한다. 반면 애플의 시리(Siri), 구글의 어시스턴트(Assistant), 마이크로소프트의 코타나(Cortana) 등의 보조&지원 업무를 하는 음성인식 인공지능 기기는 여성의 목소리를 내며 여성으로 묘사되고 있다고 덧붙였다.

▶ 알파고의 젠더를 질문하는 이서영 SF작가 ⓒ일다(박주연)

사람들은 왜 인공지능에 젠더를 부여하고자 하는 걸까? 사람들이 상상하는 인공지능이란 대체 어떤 모습이길래? 이에 대해 이야기하기 위해 이서영 작가는 SF문학 속에서 인공지능이 다뤄진 방식을 몇 가지 소개하며 의미심장한 물음을 던졌는데, 그 내용은 다음과 같다.

SF문학의 대부라고 할 수 있는 필립 K. 딕의 <안드로이드는 전기 양의 꿈을 꾸는가?>를 원작으로 한 영화 <블레이드 러너>(Blade Runner, 1982년, 리들리 스콧 감독)에서는 인공지능 로봇이 뚜렷한 성별을 가지고 있다. 남성형 AI는 전투를 하고 여성형 AI는 섹스 서비스를 제공한다. 여성이 몸에 여성의 기억이 들어가 있으면 ‘여성’이 되고, 남성의 몸에 남성의 기억이 들어가 있으면 ‘남성’이 되는 방식이다. 그렇다면 여성의 몸에 남성의 기억이 들어가게 되면 어떻게 될까?

로버트 하인라인의 <달은 무자비한 밤의 여왕>에는 달이 지구의 식민지가 된 미래에서, 달의 독립운동을 하는 슈퍼 컴퓨터 AI인 마이크가 등장한다. 마이크와의 대화에 어려움을 겪던 독립운동가 여성은 마이크를 ‘미쉘’이라고 부른다. 그 후 그들은 마치 오랫동안 알고 지냈던 것처럼 ‘여성만의 대화’를 하며 친밀감을 쌓는다. 과연 그 여성만의 대화란 어떤 것이었으며, 마이크/미쉘은 이제 남성인걸까? 여성인걸까?

사이버펑크(Cyberpunk)의 창시자라고 불리는 윌리엄 깁슨의 <뉴로맨서>에는 사이버스페이스를 배경으로 한 이야기가 나오며, 자신을 스트리트 파이터라 부르는 암살자 여성 몰리가 등장한다. 그리고 주인공인 남성해커 케이스가 종종 몰리의 몸으로 들어가 어떤 임무를 수행한다. 이렇게 여성의 몸에 들어간 케이스의 인격은 여성의 신체를 가졌으니 그럼 그는 이제 여성인걸까? (※사이버펑크는 SF의 서브 장르 중 하나로, 미래를 배경으로 뛰어난 기술의 발전과 하위 문화의 결합을 주로 표현한다. 특히 인공지능, 사이버 세계에 대한 이야기가 많다.)

이서영 작가는 위와 같은 사례를 소개하며, 사람들이 성별이 없는 걸 견디지 못하는 것 같다고 말했다. 자신이 만나고 말하는 대상이 남성인지 여성인지 헷갈리면 불편해한다고 말이다. 그러니까 굳이 인공지능 로봇에게도 성별을 부여하고 있는 것이다.

인공지능은 젠더 문제에 어떤 영향을 미칠까

이서영 SF작가가 문학 속 인공지능을 통해 미래 사회에 대한 이야기를 꺼냈다면, 권정민 데이터과학자는 현재 빅데이터를 기반으로 이뤄지고 있는 인공지능 서비스에서 여성이 어떻게 다뤄지고 있는지를 설명했다.

▶ 구글의 잘못된 정보 표기 사건에 대해 설명하고 있는 권정민 데이터과학자 ⓒ일다(박주연)

지난 1월 8일, 일본군 ‘위안부’ 피해 증언자인 고(故) 문옥주 할머니의 이름이 구글 검색에서 ‘매춘부’ 표기된 것으로 알려져 논란이 됐다. 구글 측은 알고리즘에 따라 정보가 기재되는데 이 과정에서 오류가 있었다고 밝혔다.

이에 대해 권정민 데이터과학자는 현재 인터넷에 있는 무분별한 정보들을 데이터로 활용하다 보니 종종 이런 문제가 발생한다고 말했다. 2016년 마이크로소프트에서 운영한 테이(Tay)라는 트위터봇이 인종차별적이고 여성혐오적인 발언을 해 결국 운영이 중지된 사건도 언급했다. 일종의 인공지능 서비스였던 ‘테이’는 인터넷 상의 데이터를 바탕으로 트위터에서 자동으로 사람들의 질문이나 말에 응답을 했는데, 그 데이터에 인종차별적이고 여성혐오적인 말들이 포함돼버렸다는 것이다. 정제되지 않은 수많은 데이터를 기준 없이 긁어 와서 서비스한 결과다.

권정민 데이터과학자는 기술의 괄목할 만한 발전으로 개인들이 그 기술을 쉽게 사용할 수 있게 됨으로 인해 발생하는 또 다른 문제에 대해서도 이야기했다. 이제 프로그램을 활용해 쉽고 굉장히 자연스럽게 합성할 수 있게 됐다. 성인 동영상에 누군가의 얼굴을 덧입히는 일도 쉬워졌다. 벌써 피해를 입는 사람들이 생겨나고 있다.

인공지능 서비스에서 여성성을 강화하는 것도 문제라고, 권정민씨는 지적했다. 음성인식 인공지능 서비스에 여성을 목소리를 이용하는 것뿐만 아니라 여성 VR(가상현실)비서까지 등장해서 논란이 되기도 했다.

권정민 데이터과학자는 데이터를 생성하고 사용할 때, 기술의 발전을 가로막는 규제의 형태가 아니면서도 소수자 차별을 제재하기 위해 무엇을 해야 할지, 개인들이 인공지능 서비스를 쉽게 활용할 수 있게 되면서 발생하는 다양한 윤리적 문제를 어떻게 해결할 수 있을지 고민해야 한다고 화두를 던졌다.

▶ 여성 VR 비서 서비스가 나온 것에 대해 설명하는 권정민 데이터과학자 ⓒ일다(박주연)

인공지능도 사회를 반영한다

두 사람의 강연에 이어진 토론에서는 이서영 작가와 권정민 데이터과학자, 그리고 이진주 걸스로봇 대표와 오영진 문화평론가가 서로의 생각을 나눴다.

“인공지능(AI)에게 말할 수 있는 목소리/입을 어떻게 주는냐에 따라 우리 사회가 어떤 격을 가졌는지 되돌아 볼 수 있을 것이다. (중략) 고정관념을 굳이 뿌리치는 것은 여성에게도 도전적인 일이다. 그러므로 누군가에게 말할 수 있는 목소리/입을 주는 것과 동시에 ‘왜’ 그래야 하는가를 사회적 담론으로 발전시키는 것이 중요하다. 왜 비인간에게 인간이 가지고 있는 나쁜 것을 주지 않기 위해 노력해야 하는가에 대해 생각하고, 그에 대한 실험이 존재해야 한다.”(이서영 SF작가)

“그동안 많은 데이터들이, 많은 소설 영화 등의 콘텐츠들이 주로 남성, 말을 할 수 있는 사람에 의해 만들어져 왔다는 점을 생각해야 한다. 그러므로 그들의 생각과 사고방식이 그 안에 있었던 거다. 그래서 생산자와 수혜자 모든 측면에서 여성, 여성뿐만 아니라 소외된 계층, 다양한 젠더의 참여가 늘어나야 한다.”(이진주 걸스로봇 대표)

“지금 인공지능이라는 건 우리 사회의 누적된 데이터를 고스란히 보여주는 것이다. 이건 기술의 문제가 아니라 우리 사회의 문제다.”(오영진 문화평론가)

“데이터 윤리는 아직 한국에서는 공론화된 적이 없다. 현재도 빅데이터로 사용되는 데이터를 무분별하게 축적하고 있다. 실제로 나무위키, 오유 같은 사이트에서 정보를 긁어오기도 한다. 이런 것에 대한 논의가 필요하다. (중략) 사실 인공지능이라는 것도 인터렉션(상호작용)으로 만들어지는 것이다. 요즘 음악 추천, 영화 추천 류의 인공지능 기능이 있는데, 일방적으로 추천하는 것 같지만 개인의 패턴에 반응해서 추천하는 것임으로 사실은 인터랙션이다. 우리가 어떻게 하느냐에 따라 인공지능이 만들어진다는 걸 생각해야 한다.”(권정민 데이터과학자)

과학기술의 발전, 그 ‘방향’을 고민해야 할 때

SF토크콘서트답게 흥미로운 강연과 이어진 토론을 듣고, 예전에는 생각해 보지 못했던 많은 질문들이 머릿속에 남았다.

인공지능 로봇 이야기를 하면 늘 등장하는 ‘섹스 로봇’만 해도 그렇다. 사람이 아닌 기계와의 섹스라는 건 윤리적인 문제가 있는 걸까? 사람을 대신해서 로봇이 누군가의 욕망을 해소시켜 주는 거라고 받아들여야 하는 걸까?

앞서 언급했던 TV시리즈 <휴먼즈>(Humans)에서는 사고로 몸의 움직임이 부자연스러워진 여성과, 그의 재활을 돕기 위해 보험사가 제공한 남성형 인공지능 로봇이 나온다. 이 여성은 사고 이후 자존감이 떨어져 남편과 사이가 서먹해졌고 섹스도 하지 못했다. 결국 남편에게 별거를 선언하고 로봇과 섹스를 한다. 로봇은 “당신에게 맞는 최적화된 각도로 (삽입을) 했는데 만족하셨나요?” 묻는다. 이 장면을 어떻게 바라봐야 하는 걸까?

‘인공지능과 젠더’ 강연은, 단순한 찬반을 논의하는 것에 머무는 것이 아니라 AI 기술이 어떤 이들에게 필요한지, 어떤 영향을 가져오게 될지, 우리는 어떤 태도를 가져야 하며 무엇을 준비해야 할지 등 수많은 질문을 고민해야 한다는 걸 상기시켜 주는 자리였다.

과학기술을 발전시키는 것은 전문 지식을 가진 이들이겠지만, 과학기술의 발전이 나아가야 할 방향을 고민하고 제시하는 것은 모두의 몫일 것이다. 특히 지금까지 주류가 아니었던 이들에게 목소리를 주고자 하는 페미니스트들의 역할이 중요해진다.