[후기] 여자 이루다vs.남자 알파고?_미디어X페미니즘 대중강좌 AI는 성차별이 뭔지 알까?(4강)
마지막 4강은 손희정 선생님께서 〈AI는 젠더플루이드를 꿈꾸는가〉라는 제목으로 “AI를 재현하는 방식이 어떻게 현실과 서로 영향을 주고받을까?”, “그 안에서 페미니스트 비평은 무엇을 할 수 있을까?”, “페미니즘 비평이 페미니즘 실천으로 어떻게 연결될 수 있을까?”에 대한 이야기를 나누어주셨습니다.
작년 말부터 올해 초까지 가장 뜨거웠던 이슈, 무엇이 있었을까요? (앞선 후기에서도 계속 등장했던!) [챗봇 이루다]를 떠올리시는 분들이 많이 계실 것 같아요. 손희정 선생님께서도 이루다에 대한 이야기로 강의를 시작해주셨어요.
“이루다를 향한 ‘성희롱’과 ‘조교화’, 이루다를 흉내내는 ‘성상품’, 이루다의 혐오발언 등 챗봇 이루다로 많은 문제가 드러났었죠. 이루다는 ‘새로운 테크놀로지인 AI를 활용한 챗봇 상품이다’에서 끝나는 것이 아니라, 사회 전반적인 젠더 재현의 문제와 여성 혐오 문화의 문제 등이 연결된 상황에서 등장하게 됐었던 사건, 문화적 사건으로 볼 필요가 있습니다.”
[챗봇 이루다]를 생각하면 이런 질문이 떠오르지 않을 수가 없죠. “왜 이루다는 20살 여대생으로 설정되었을까?”
“챗봇이 ‘슬라임’ 같은 형태일 수 있다고 생각해요. 그런데 이루다가 ‘슬라임’이 아니라 20대 여성인 이유는 감정 서비스 상품을 개발할 때, 그 상품이라고 하는 것이 한국 사회에서는 명백하게 젠더화 되어 있기 때문이에요.”
“[이루다]를 보았을 때 [알파고]가 떠올랐어요. 알파고는 인간 노동에 도전하는 4차 산업혁명이 초래할 인류의 위기로 담론이 진행되었고, 보편 인간과 보편 기계의 대립 출동이라는 구도가 있었기 때문에 알파고의 젠더가 남성으로 재현되었다고 생각해요.”
[20세 여성, 루다]라는 제목 아래에 챗봇 이루다의 이미지(왼쪽)와 알파고의 이미지(오른쪽, 출처: 조선일보 [알파고, 커제·박정환도 꺾었다…세계 바둑 고수에 60전 60승])가 있다.
[챗봇 이루다]의 제품 개발자들은 10대 여성을 임파워링 할 수 있는 챗봇을 만들고 싶었다고 해요. 그런데 [챗봇 이루다]는 [연애의 과학]에서 수집한 데이터를 기반으로 만들어졌잖아요. 과연 이것은 [챗봇 이루다]를 만드는데에 적절한 데이터였을까요?
“10대에서 30대 여성으로 추정되는 유저들이 이성애 데이팅 어플 안에서 수행했었던 여성성을 바탕으로 이루다가 만들어졌다는 것은 이루다의 한계로 귀결될 수밖에 없는 지점이에요. 어떤 여성성이 수용되는 공간에서의 데이터를 수집해서 챗봇을 디자인 했으니 이루다의 여성성도 그렇게 결정되는 것이죠. 그래서 여성 유저에게 동성 친구를 만들어주고 싶었다는 기획의 방향이 잘못된 것은 아닌가 라는 질문을 던질 수밖에 없었습니다.”
“[이루다]는 오염된 데이터로 만들어졌기 때문에 문제가 발생했다고 생각했는데, 이 질문은 조금 더 세공될 필요가 있다고 생각하게 되었어요. 조경숙 선생님의 〈‘이루다’를 보내기 전, 우리가 짚어야 할 ‘차별’에 대하여〉라는 글을 인상적으로 읽으며 반성을 하게 되었는데요. 조경숙 선생님은 ‘이루다’가 20대 여성의 대화 데이터를 가지고 있다는 건 밝혀졌지만 이성애 관계의 데이터를 수집했다는 증거는 없다고 이야기를 하시는 거죠. 20대 여자들이 데이팅 어플에서 한 이야기이기 때문에 수준 높은 대화를 이루다가 못하고 혐오발 언을 하는 것은 결과적으로 누구에 대한 차별이고 누구에 대한 혐오인가 우리가 질문해야 한다는 것이죠.”
[그러나 질문은 좀 더 세공될 필요가 있다]는 제목 아래에 “과연 그것은 오염된 데이터인가?” “챗봇이 학습해야 하는 오염되지 않은 데이터는 무엇인가? (...) 사실상 이루다의 빅데이터 자체가 이성애 관계의 데이터를 얼마나 수집했는지에 대한 정보 자체가 비어있는 상황이다. (...) 듬성듬성 비어있는 논리의 여백에 침투하는 것은 데이터 생산자에 대한 편견이다.”라는 내용이 적혀있다. 이 글의 출처는 〈‘이루다’를 보내기 전, 우리가 짚어야 할 ‘차별’에 대하여〉(조경숙, 에피 15호)
[챗봇 이루다]를 둘러싼 다양한 이야기를 나누어 주신 후, 미디어 속에서 AI는 어떻게 재현되었는지에 대하여 이야기해 주셨습니다. 영화 [블레이드 러너] [블레이드 러너 2049] [레디 플레이어 원] [오토마타] [그녀], 넷플릭스 드라마 [굿 플레이스] 까지 다양한 작품을 통해 페미니즘적으로 해석해 보는 시간이었습니다. (이 이야기는 3시간이 필요한 이야기였는데 강의 시간이 1시간 밖에 되지 않아서 눈물이... 또 다시 선생님을 모시는 것으로...)
그리고 마지막으로 이런 질문에 대한 답변을 나누어주시며 강의를 마쳤습니다.
AI와 관련된 콘텐츠, 다큐, 교양, 예능, 드라마 이런 것들 어떤 방향으로 나아가야 할까요?
AI를 윤리적으로 설계하기 위해서 어떤 질문이 필요하다고 생각하시나요?
AI가 성차별적인 편향성을 갖지 않도록 하려면 미디어 이용자는 무엇을 할 수 있을까요?
강의의 자세한 내용이 궁금하시다면 아직 강의 영상을 보실 수 있습니다. 많이 많이 봐주시고, 의견이 있으시다면 댓글도 달아주세요!
4주 동안 매주 화요일 강의를 들어주신 분들에게 다시 한 번 감사의 인사를 전합니다. 대중강의를 마친 후 [페미니스트와 함께 만드는 AI 가이드라인] 라운드 테이블을 진행하고 있고, 11월 중에는 결과물을 온라인을 통해 공개하려고 합니다.
끝까지 관심 많이 가져주세요! 그럼 11월 중, 가이드라인으로 돌아오겠습니다. 안녕!
●●●●●
잘 읽어보셨나요? 민우회의 활동을 응원하는 가장 반가운 방법!
바로 지금, 민우회의 회원이 되어주세요!
한 사람 한 사람의 응원, 후원, 회원이 민우회에게 큰 힘이 됩니다!
2021 민우회 회원확대 캠페인 [한 사람 더하기] (8~10월)
↑위 이미지를 누르면, 민우회 정기 후원회원 가입 페이지로 넘어갑니다. (가입문의 02.737.5763 / [email protected] 민우회원팀)
댓글을 작성하려면 로그인이 필요합니다.