Minwoo

181025 1

%ec%9b%90%eb%8d%b0%ec%9d%b4%ed%81%b4%eb%9e%98%ec%8a%a4%20%ec%8a%ac%eb%9d%bc%ec%9d%b4%eb%93%9c 001

%ed%99%88%ed%8e%98%ec%9d%b4%ec%a7%80%eb%b0%b0%eb%84%88 01

%ed%95%98%eb%b0%98%ea%b8%b0%ec%86%8c%eb%aa%a8%ec%9e%84%ed%99%8d%eb%b3%b4%eb%ac%bc %ec%87%bc%ec%bc%80%ec%9d%b4%ec%8a%a4 001

2021 %ed%9a%8c%ec%9b%90%ed%99%95%eb%8c%80 %ed%95%9c%ec%82%ac%eb%9e%8c%eb%8d%94%ed%95%98%ea%b8%b0 fin%20 %ec%9b%80%ec%a7%a4

민우액션

글 보기

［후기］“‘성적수치심’ 괜찮지 않습니다” 토론회: 시민들의 목소리로 퇴장을!

［후기］“‘성적수치심’ 괜찮지 않습니다” 토론회: 시민들의 목소리로 퇴장을! * 사진 : 온라인토론회 중계 현장 앞 안녕하세요! ^____^ 지난 달 9월 28일 화요일 한국여성민우회 성폭력상담소는 ［‘성적수치심’ 괜찮지 않습니다 토론회: 시민들의 목소리로 퇴장을!］ 온라인 토론회를 열었습니다. 올해 3월부터 ‘성적수치심’에 대해 논의한 결과를 발표한 자리였습니다. 상담소는 올해 ‘성적수치심’이라는 단어가 어떻게 피해자의 이야기를 제한하는지, 수사와 재판과정에서 이 단어가 어떤 방식으로 작용하는지 알아보았습니다. 민우회 성폭력상담소는 올해 ［‘성적수치심’에 빨강카드를!］이라는 사업으로 ‘성적수치심’이 법률에 존재함으로써 성폭력의 유무죄 판단근거로 강력하게 작동하는 현실에 문제제기를 하였습니다. 이에 ［‘성적수치심’에 빨강카드를 : 우리의 목소리로 ‘성적수치심’OUT!］ 대중설문을 지난 여름에 진행했답니다. 503명의 대중 설문조사 결과 분석을 류벼리 활동가가 [숫자로 보는 ‘성적수치심’]이라는 제목으로 첫 번째 발제를 하고, 최원진 활동가가 [‘성적수치심’ 괜찮지 않습니다: 36명의 이야기로 ‘성적수치심’에 퇴장을 고하다]라는 제목으로 시민의 목소리를 직접 듣고 정리 한 두 번째 발제를 하였습니다. 토론으로는 권김현영(여성현실연구소 소장), 양지혜(청소년 페미니스트 네트워크 위티 사무처장), 최김하나(서울연구원 성평등인권센터 인권전문관), 김두나(공익인권변호사모임 희망을 만드는 법), 장다혜(한국형사·법무정책연구원 연구위원)이 함께 해 주셨습니다. 자, 그럼 토론회 때는 어떤 이야기들이 오고 갔는지 찬찬히 살펴보도록 할까요? * 사진 : 화면 왼쪽부터 류벼리 활동가, 최원진 활동가, 진행자 이소희 활동가. 류벼리, 최원진이 발제하는 모습. 류벼리 활동가의 발제에서 ‘성적수치심’이라는 표현을 일상에서 본인이 직접 사용한 적이 있나요?라는 질문에 ‘예’라고 응답한 사람은 27.04%(136명)에 한했습니다. ‘성적수치심’이라는 단어를 접한 사람이 82.7%에 달하는 데에 비해 실제 사용해본 사람은 1/3 수준으로 적은 것을 볼 수 있다고 했습니다. 이는 단어의 효용성이 낮다는 것을 보여주는 수치이지요. 시민들은 “문제적 발언임을 지적하기 위해 사회적으로 쓰이는” 단어로서 ‘성적수치심’을 사용하거나, 본인의 피해상황을 말할 때 “‘대중적인 표현’을 사용할 수밖에 없어서” 해당 단어를 썼다고 답했다고 합니다. 대중설문조사에서 시민들에게 63개라는 다양한 피해 감정을 제시하였고, 이중 선택되지 않은 감정은 없었습니다. 시민들은 다양한 감정을 말하였습니다. 그리고 수치심과 부끄러움을 명기한 사례는 각각 26개와 10개만 선택되었습니다. 기억에 남는 말이 있었는데요. 인터뷰에 참여해 주신 어떤 분은 “100명의 피해자가 있다면 100개 이상의 감정이 있을 수 있고 아무것도 없을 수 있다”며 감정의 다양성을 말해주셨습니다. 상담소는 2021년 8월부터 9월까지 총 36명의 전화 인터뷰를 진행했습니다. 활동가들은 인터뷰에 참여해 주신 분들께 ‘성적수치심’을 사용하게 된 맥락, 인식변화 지점, 피해 당시, 혹은 법적 대응 과정에서의 구체적 사례 등을 질문했습니다. 최원진 활동가의 발제에서 인터뷰 참여자들은 ‘성적수치심’이라는 단어의 낯섦을 이야기하는 것과 동시에 ‘성적수치심’이라는 단어로 인해 수치스럽지 않은 나와 ‘성적수치심’이라는 사회적 단어 사이에서 스스로 “피해당했다고 씩씩하게 지내면 이상해지는 건가?” “내가 분노하는 것이 이상한 것일까?”라고 되묻게 된다고 답변해 주셨습니다. 몇몇 인터뷰 참여자들은 사건을 알리고 가해자에게 사과 요구, 조직의 책임을 묻는 과정에서 ‘성적수치심’을 다시 만나기도 한다고 했습니다. 한 사례에서 “다리 만진 거 다른 사람이 다 알 텐데, 너 괜찮겠어?”와 같이 ‘수치스럽지 않겠어?’라는 말을 하면서 피해자가 ‘성적수치심’을 느끼도록 하는 무언의 압박을 경험했다고 말했습니다. 이런 메시지는 폭력 경험이 공개되는 것 자체가 여성에게 ‘수치스러운’것이라는 가치 판단에서 오는 것이 아닐까? 질문을 해 보게 되었답니다. 사실 수치를 느껴야 하는 것은 피해자가 아닌 ‘가해’를 저지른 가해자가 되어야 하는 것이 아닐까요? 발제가 끝나고 패널분들의 토론회가 이어졌습니다. * 사진 : 화면 왼쪽부터 류벼리, 최원진, 진행자 이소희, 토론자 권김현영, 양지혜, 최김하나, 김두나, 장다혜. 토론하는 모습. 여성실천연구소의 권김현영 님은 반성폭력운동의 감정언어를 중심으로 발제를 해 주셨습니다. “감정언어를 쓰기보다는 피해에 대한 반응은 개인마다 다르며, 이를 중심으로 판단근거가 만들어지는 것은 곤란하다. 단일한 감정언어를 규범화하는 것은 동일한 족쇄를 만들어낸다.”, “우리는 수치심을 느껴야 인정해준다는 법 언어에 저항하는 동시에, 공적인 장에서 성원권을 가지지 못한 이들의 감정과 경험이 보여질 수 있게, 들려질 수 있는 방법은 무엇인가?”라는 고민을 우리에게 던졌습니다. 청소년 페미니스트 네트워크 위티의 양지혜님은 청소년의 삶에서 ‘성적수치심’은 어떻게 작동되는가를 중심으로 이야기 해 주셨습니다. “용의복장 규제는 남성이 여성의 몸을 품평하고 성적 대상화하는 것을 당연한 것으로 여기며, 여성의 몸을 평가하는 권력을 강화한다.” 이는 “교육현장에서 여학생들은 자신의 몸을 능동적이고 자유롭게 쓰지 못하도록 위축되고, 수치심과 콤플렉스를 경험케 한다.”고 하셨습니다. 또 기억에 남는 말씀을 해 주셨는데요, “여성 청소년이 성에 무지해야 한다는 사회적 규범은 오히려 이들을 순결하기에 범하고 싶은 이중적 규범으로 성애화된다. (중략) 남성 청소년에게 2차 성징이 성적 주체로 자신을 확립하는 일이라면, 여성 청소년의 2차 성징은 성적 대상화를 경험하고, 남성 중심 사회가 제시하는 젠더 롤에 따라 자신의 몸을 맞춰가는 일인 것이다.” 라는 말을 해 주셨습니다. 서울연구원 성평등인권센터의 최김하나 님은 “성희롱/성폭력의 주된 정서를 피해자의 ‘성적수치심’으로 이해할 경우 피해자는 ‘부끄러운 일을 당한 사람’으로서 수동적 존재로 상정되고, 이는 ‘피해자다움’의 이미지로 박제되어 직장 내 성희롱/성폭력 발생 시 구성원들로 하여금 피해자 관점에서의 사건 이해를 어렵게 하기도 하고, 피해자에 대한 공감을 가로막기도 하며, ‘피해자다움’에 부합하지 않는다고 여겨지는 피해자에 대한 의심, 비난으로까지 이어지기도 한다”고 말씀해 주셨습니다. 최김하나 님은 이에 ‘성적수치심’개념으로 인해 직장에서 성희롱/성폭력을 둘러싸고 발생하는 문제들을 해소하기 위하여 할 수 있는 시도와 노력으로 다음과 같은 것들을 제안해 주셨답니다. “개별 사업장/기관에서 자체 규정 상 명시하고 있는 ‘성적수치심’을 삭제하도록 하는 흐름을 만들 필요가 있다” “매뉴얼 등의 자료를 모니터링하여 상담 과정에서 성희롱/성폭력을 ‘성적 수치심’의 여부로 설명하는 일이 없도록 해야 할 것이다.” “성희롱/성폭력을 ‘권리 침해’의 문제로 인식할 수 있도록 하는 내용을 강화하도록 촉구하는 것이 필요하다.” 라는 말씀을 해 주셨습니다!! 공익인권변호사모임의 김두나 님은 수사재판과정에서 성폭력을 설명하고 판단하는 하나의 기준으로 ‘성적수치심’이 작동하고 있다고 하셨습니다. 관행적으로 피해자에게 ‘성적수치심’을 느꼈는지 질문하고 이를 판단에 반영한다고 말이지요. 이런 상황으로 "피해자는 피해로 인해 ‘성적 수치심’ 외 다양한 감정을 경험했더라도 범죄 성립 구성요건이나 수사재판 관행에 맞춰 자신의 감정과 경험을 ‘성적수치심’으로 표현하여 고소장을 작성하게 된다"고 하셨습니다. "‘성적수치심’이 초래하는 위와 같은 문제를 개선하기 위해 우선 수사기관과 법원은 성폭력 피해자에게 ‘성적수치심’을 느꼈는지 질문하고 이를 판단의 근거로 삼는 관행을 없애고 피해자의 경험을 있는 그대로 경청해야 한다"는 의견을 주셨답니다. "변화를 통해 성폭력 법적 판단에서 ‘성적수치심’이 더 이상 범죄 성립에 영향을 미치는 주요 요소로 다루어지지 않는다면, 피해자는 수사재판과정에서 자신의 피해 감정과 경험을 ‘성적수치심’이라는 협소한 개념으로 설명하지 않아도 될 것"이라는 말씀으로 마무리 해 주셨습니다. 한국형사·법무정책연구원의 장다혜 님은 ‘성적수치심’ 법적맥락과 변화모색을 주제로 법체계 내에서의 ‘성적수치심’위치를 찾고 해외에서는 어떻게 법적 용어가 개선되었는지도 짚어주셨습니다. 한 예로 "영국에서는 2003년 성범죄법 개정으로 ‘외설폭행’이라는 이름에서 ‘성적 폭행’으로 변경되었다"고 합니다. 외설이라는 개념이 넓고 모호하여 명확성이 떨어진다는 비판이 제기되었다고 말입니다. 그러면서 우리는 어떻게 바꿀 것인가?에서 "사실 수치심이라는 표현을 제고하는 것이 맞다고 생각하고 현재에는 어울리지 않는 표현"이라는 의견을 주셨습니다. ‘성적수치심’을 ‘성적불쾌감’으로 변경하는 방향보다는 ‘성적행위’로 명기하면서 합리적 피해자 관점을 수사재판 기관에서 고민하며 성인지감수성 축적의 필요성을 말씀하였습니다. 온라인 토론회에 약 130여명의 참여자가 함께 해 주셨답니다. 참여자 분들께서 주신 실시간 온라인 피드백을 함께 공유하고자 합니다. “‘수치심’이라는 것을 설명하는 것도 어렵지만 최고 권력자인 재판부, 판사들이 그것을 얼마나 잘 이해하고 판단할 수 있을지 늘 의심스럽습니다.” “세상은 빠르게 변하고 범죄의 양상은 다양해지는데 법 규정이 너무 느려요.” “(수치심은)가해자에게 가르쳐야 할 감정 아닌지” “현실에서 ‘수치심’이 갖는 문제와 변화해야 한다는 맥락과 흐름, 법률이나 재판 과정에서의 ‘수치심’이 다뤄지는 방식의 간극이 많이 느껴지는데요. 공권력에서 처벌을 결정하는 이들이 분명 변화하고 업데이트 되야 하는데 사법부를 떠올리면 아득하게만 느껴집니다” 이번 온라인 토론회를 참여하면서 ‘성적수치심’이라는 단어는 그냥 ‘단어’에서만 머무는 것이 아니라, 일상에서 얼마나 촘촘하게 여성시민을 억압하고 제한하는지 느꼈습니다. 정해진 감정은 없고 100명의 피해자가 있다면 100개 이상의 감정이 있는 것처럼, 우리 이제는 ‘성적수치심’에 퇴장을 고할 때가 된 것 같습니다. ‘성적수치심’토론회 자료집은 발간자료집에서도 다운받아 살펴볼 수 있습니다.
글 보기

[후기]2021 임신중지 경험 설문•실태조사 및 심층인터뷰 결과보고서 발표 기자회견_임신중지 입법공백은 ‘권리보장’의 공백이다

[후기]2021 임신중지 경험 설문•실태조사 및 심층인터뷰 결과보고서 발표 기자회견 "임신중지 입법공백은 ‘권리보장’의 공백이다" 한국여성민우회도 함께하고 있는 '모두를위한낙태죄폐지공동행동'은 2021년 6월 7일부터 7월 16일까지 진행된 헌법불합치 전후 임신중지를 경험한 응답자들의 임신사실 인지 시점부터 임신중지 의료행위를 제공받고 이후 회복하는 과정까지의 구체적인 경험을 담은 실태조사 결과에 대한 보고를 위해, 그리고 입법주체들에게 권리보장 요구를 촉구하기 위한 자리였습니다. 오늘의 기자회견 주요 발언들을 살펴보시죠!. . . . . . 이서영(인도주의실천의사협의회 정책부장): 임신중지 경험심층인터뷰 결과 요지 발표 "헌법불합치 이후에 임신중지를 제공한 의료진과 여성이 더 이상 처벌받지 않게 되었습니다. 헌법불합치 이후 임신중지를 경험한 여성의 경우에는 임신중지 당사자로서 처벌의 불안 없이 의료서비스를 적극적으로 추구할 수 있게 되었다는 경험을 나누었습니다. 헌법불합치 이전에 임신중지를 경험한 여성들 또한 항상 처벌의 위험에 대해 걱정했던 불안이 해소되었다고는 하였지만, 처벌의 불안 외에 정보제공, 상담체계, 건강보험과 사회보장제도가 마련되지 않은 상황에서 비범죄화만으로 재생산권리가 온전히 보장되지 않는다는 의견이 다수였습니다. "또한, 임신중지 의료는 현재 대다수가 비급여의 영역에서 이루어지면서 가격형성이 일관되지 않고 현금결제로 이루어지는 경향이 있었습니다. 신속한 결정이 필요한 임신중지 의료의 특성상 짧은 기간 내 마련하기 어려운 목돈을 현금으로 마련하면서 경제적으로 어려웠던 경험들을 청취할 수 있었습니다. 비용을 개인적인 수단을 총동원해 마련하는 과정에서 발생하는 이차적인 문제들 또한 청취할 수 있었는데, 여성들이 임신중지 전후 요양 없이 일터에 나가야 하거나 갈등과 폭력이 발생하기도 했습니다." 문다슬(시민건강연구소 상임연구원): 임신중지 경험 설문 실태조사 결과 요지 발표 "임신중지 결정에 소요한 시간 역시 당시 인구사회학적 특성에 따라 달랐습니다. 병원 또는 의료기관을 통해 정보를 얻거나 지인이나 단체 및 기관으로부터 도움을 얻는 경우 상대적으로 임신중지 결정에 소요하는 시간이 길었습니다. 또한 연령이 높을수록 결정에 더 많은 시간이 걸린 것으로 나타났습니다. 거주지에 따라서도 결정 소요 시간이 달랐는데, 특히 비수도권 거주자일수록 임신중지를 결정하는데 상대적으로 긴 시간을 소요하고 있었습니다. 임신중지 관련 물리적 접근성은 임신중지 전 과정에 영향을 미치는 것을 확인할 수 있습니다." "임신중지 비용 마련에 부담을 느낀 경우는 외과적 방법으로 임신중지를 하거나, 소득이 낮은 경우가 많았습니다. 또한 소득이 없거나 비혼/미혼인 경우, 임신중지 가능한 산부인과 접근성이 낮은 경우에는 비용 마련 부담에 어려움을 겪은 것으로 나타났습니다. 이와 같은 결과는 임신중지 경제적 접근성 향상을 위한 보편적 서비스 필요는 물론, 경제적 접근성은 물리적 접근성과 연관성이 있으므로, 보편적 임신중지 서비스 보장을 위해서는 다차원적 접근성을 고려하는 것이 필요하다는 것을 보여줍니다." 나영(모두를위한낙태죄폐지공동행동): 실태조사 결과의 시사점과 향후 법/정책 방향에 대한 제안 "현재의 입법공백은 과거처럼 어디까지 허용해야 할까의 문제가 아니라 이것은 권리로서 당연히 보장받아야합니다. 먼저 수술/약물 방법 동시에 임신중단의 건강보험이 적용되어야 합니다. 많은 이들이 임신중단 시 현금으로 지급해야했고 이는 의료행위를 받는 수신자 입장에서 어떤 권한, 정보, 비용, 어떤 부분들을 고려해야하는지 결정의 권한이 박탈되었다는 것입니다. 검사/사후/약제/의료항목들을 대부분 모르고 있었고, 현금지불로 인해 지인/파트너에게 빌려야했고 그 과정에서 낙인 등에 시달렸고 이는 건강관리에도 영향을 미쳤다는 것입니다. 지금까지도 많은 분들이 약물의 성분을 알지도 못한 체 복용하고 있습니다. 임신중지 약물은 최근 영국을 비롯한 많은 국가에서 팬데믹 상황에서 병원을 하지 않더라도 원격으로 처방하기도 합니다. 건강보험의 문제는 임신중지 이전이후를 포함 반드시 사후관리까지 포함되어야 합니다. 건강보험은 의료인 질 관리를 위해서도 중요합니다. 어떤 의료기록이 남지 않기 때문에 의료의 안전성에 대한 책임도 남지 않습니다. 그러므로 임신중지는 공식 보편의료행위가 되어야합니다. 임신중지 또한 휴가로서 보장받아야 합니다. 비용을 지출 해야해서 추가 노동을 해야 하고, 오전에 수술을 받고 바로 업무로 복귀하는등 이후 건강을 살필 수 없는 조건에 놓여있습니다. 정보에 대한 접근이 가능해야 합니다. 정부가 공식적인 플랫폼으로 편견 없는 임신중지에 대한 정보를 제공해야 합니다. 임신중지 교육/상담 안내도 의무적으로 의료인들이 제공해야하며 의료인들이 받을 수 있도록 교육이 제도화 되어야 할 것입니다. 의료인의 편견이 여성의 결정을 무시하거나 편견에 기반하지 않도록 의료인의 교육이 필요합니다. 이주민/HIV감염인등을 의료인들이 거부하는 경우 있습니다. 의료인의 거부권은 절대로 이루어 지면 안됩니다. 임신중지는 미루어질수록 그만큼 당사자의 몸에 부정적 영향을 미치며 건강권이 침해됩니다" 이동근(건강사회를위한약사회 사무국장): 유산유도제 관련 경험의 의미 분석과 제언 "미페프리스톤을 포함하여 의약품을 이용한 임신중지는 모두가 알고 있는 것처럼 임신 10주 이내에 안전하게 어디서나 쉽게 또 수술보다 저렴하게 이용할 수 있는 방법입니다. 감염병 위기 시기에는 임신중지 약물은 사회적 거리두기도 가능한 임신중지 방법으로 중요성이 더욱 높아지고 있습니다. "실태조사에 참여한 약물을 이용한 임신중지를 원하는 사람들은 의사가 권해서, 수술보다 안전할 것이라는 기대로, 저렴하다는 이유로, 수술 가능한 병원을 찾기 어렵다는 이유로 의약품을 찾았다고 말하고 있습니다. 하지만 약물을 구하기 위해서는 병원의 처방이 아니면, 공신력이 없는 온라인을 통해 또는 지인을 통해 유산유도제를 구해야 했습니다. 이들은 임신중지가 지연되어야 했고, 부작용에 대한 정확한 정보를 상담하기 어려웠으나 도움을 구할 곳이 없었다고 하였습니다. 의료기관에서 처방받아 복용한 사람들도 재방문을 하기 어려워서 사후 부작용 관리에 대해 안내를 받기 힘들었다고 답변하였습니다." "수도권이나 대도시 지역에 사는 사람들은 60% 이상이 1주 이내에 임신중지 여부를 결정할 수 있었지만, 비수도권에 사는 사람들은 70% 이상이 임신중지를 결정하는데 1주 이상이 소요된 것입니다. 이는 임신중지 사실을 주변에 말할 수 없는 상황에서 주변에 임신중지 가능한 병원이 없는 지역에 사는 사람들은 임신중지를 결정하기 더 어려웠을 것이기 때문입니다. 이러한 환경에 임신중지 약물의 사용은 임신중지 접근권과 여성의 재생산권을 지킬 수 있는 중요한 방법이 될 것입니다." "정부는 여성들이 충분히 안전하게, 저럼하게, 어디서나 쉽게 제공받아야 할 권리를 훼방하고 있다는 점을 자각하고 임신중지 약물을 신속하게 허가 해야 합니다. 또한 산부인과 전문의 만으로 제한된 처방권이나 원내처방 등의 의약품 이용의 불필요한 장벽을 만들어서는 안되며, 여성 건강권 보장을 위해 본연의 역할을 다해주기를 바랍니다." . . . . . 국가와 입법주체들은 임신중지를 선택하는 여성 당사자들이 어떤 어려움과 권리박탈을 경험하고 있는지 이에 대해 필요한 제도들이 무엇인지 적극적으로 살피고 임신중지가 보편적인 공공의료서비스로 제도화 되도록 해야할 것입니다. <2021 임신중지 경험 설문/실태조사 및 심층인터뷰 결과 보고서& 기자회견 생중계 링크 > 를 보시려면 아래링크를 클릭하세요. 결과보고서 클릭: [모낙폐]2021_임신중지경험설문실태조사및심층인터뷰결과보고서_최종.pdf - Google Drive 기자회견 생중계 클릭: https://youtu.be/202bVhb0pBU
글 보기

[후기] 여자 이루다vs.남자 알파고?_미디어X페미니즘 대중강좌 AI는 성차별이 뭔지 알까?(4강)

마지막 4강은 손희정 선생님께서 〈AI는 젠더플루이드를 꿈꾸는가〉라는 제목으로 “AI를 재현하는 방식이 어떻게 현실과 서로 영향을 주고받을까?”, “그 안에서 페미니스트 비평은 무엇을 할 수 있을까?”, “페미니즘 비평이 페미니즘 실천으로 어떻게 연결될 수 있을까?”에 대한 이야기를 나누어주셨습니다. 작년 말부터 올해 초까지 가장 뜨거웠던 이슈, 무엇이 있었을까요? (앞선 후기에서도 계속 등장했던!) [챗봇 이루다]를 떠올리시는 분들이 많이 계실 것 같아요. 손희정 선생님께서도 이루다에 대한 이야기로 강의를 시작해주셨어요. “이루다를 향한 ‘성희롱’과 ‘조교화’, 이루다를 흉내내는 ‘성상품’, 이루다의 혐오발언 등 챗봇 이루다로 많은 문제가 드러났었죠. 이루다는 ‘새로운 테크놀로지인 AI를 활용한 챗봇 상품이다’에서 끝나는 것이 아니라, 사회 전반적인 젠더 재현의 문제와 여성 혐오 문화의 문제 등이 연결된 상황에서 등장하게 됐었던 사건, 문화적 사건으로 볼 필요가 있습니다.” [챗봇 이루다]를 생각하면 이런 질문이 떠오르지 않을 수가 없죠. “왜 이루다는 20살 여대생으로 설정되었을까?” “챗봇이 ‘슬라임’ 같은 형태일 수 있다고 생각해요. 그런데 이루다가 ‘슬라임’이 아니라 20대 여성인 이유는 감정 서비스 상품을 개발할 때, 그 상품이라고 하는 것이 한국 사회에서는 명백하게 젠더화 되어 있기 때문이에요.” “[이루다]를 보았을 때 [알파고]가 떠올랐어요. 알파고는 인간 노동에 도전하는 4차 산업혁명이 초래할 인류의 위기로 담론이 진행되었고, 보편 인간과 보편 기계의 대립 출동이라는 구도가 있었기 때문에 알파고의 젠더가 남성으로 재현되었다고 생각해요.” [20세 여성, 루다]라는 제목 아래에 챗봇 이루다의 이미지(왼쪽)와 알파고의 이미지(오른쪽, 출처: 조선일보 [알파고, 커제·박정환도 꺾었다…세계 바둑 고수에 60전 60승])가 있다. [챗봇 이루다]의 제품 개발자들은 10대 여성을 임파워링 할 수 있는 챗봇을 만들고 싶었다고 해요. 그런데 [챗봇 이루다]는 [연애의 과학]에서 수집한 데이터를 기반으로 만들어졌잖아요. 과연 이것은 [챗봇 이루다]를 만드는데에 적절한 데이터였을까요? “10대에서 30대 여성으로 추정되는 유저들이 이성애 데이팅 어플 안에서 수행했었던 여성성을 바탕으로 이루다가 만들어졌다는 것은 이루다의 한계로 귀결될 수밖에 없는 지점이에요. 어떤 여성성이 수용되는 공간에서의 데이터를 수집해서 챗봇을 디자인 했으니 이루다의 여성성도 그렇게 결정되는 것이죠. 그래서 여성 유저에게 동성 친구를 만들어주고 싶었다는 기획의 방향이 잘못된 것은 아닌가 라는 질문을 던질 수밖에 없었습니다.” “[이루다]는 오염된 데이터로 만들어졌기 때문에 문제가 발생했다고 생각했는데, 이 질문은 조금 더 세공될 필요가 있다고 생각하게 되었어요. 조경숙 선생님의 〈‘이루다’를 보내기 전, 우리가 짚어야 할 ‘차별’에 대하여〉라는 글을 인상적으로 읽으며 반성을 하게 되었는데요. 조경숙 선생님은 ‘이루다’가 20대 여성의 대화 데이터를 가지고 있다는 건 밝혀졌지만 이성애 관계의 데이터를 수집했다는 증거는 없다고 이야기를 하시는 거죠. 20대 여자들이 데이팅 어플에서 한 이야기이기 때문에 수준 높은 대화를 이루다가 못하고 혐오발 언을 하는 것은 결과적으로 누구에 대한 차별이고 누구에 대한 혐오인가 우리가 질문해야 한다는 것이죠.” [그러나 질문은 좀 더 세공될 필요가 있다]는 제목 아래에 “과연 그것은 오염된 데이터인가?” “챗봇이 학습해야 하는 오염되지 않은 데이터는 무엇인가? (...) 사실상 이루다의 빅데이터 자체가 이성애 관계의 데이터를 얼마나 수집했는지에 대한 정보 자체가 비어있는 상황이다. (...) 듬성듬성 비어있는 논리의 여백에 침투하는 것은 데이터 생산자에 대한 편견이다.”라는 내용이 적혀있다. 이 글의 출처는 〈‘이루다’를 보내기 전, 우리가 짚어야 할 ‘차별’에 대하여〉(조경숙, 에피 15호) [챗봇 이루다]를 둘러싼 다양한 이야기를 나누어 주신 후, 미디어 속에서 AI는 어떻게 재현되었는지에 대하여 이야기해 주셨습니다. 영화 [블레이드 러너] [블레이드 러너 2049] [레디 플레이어 원] [오토마타] [그녀], 넷플릭스 드라마 [굿 플레이스] 까지 다양한 작품을 통해 페미니즘적으로 해석해 보는 시간이었습니다. (이 이야기는 3시간이 필요한 이야기였는데 강의 시간이 1시간 밖에 되지 않아서 눈물이... 또 다시 선생님을 모시는 것으로...) 그리고 마지막으로 이런 질문에 대한 답변을 나누어주시며 강의를 마쳤습니다. AI와 관련된 콘텐츠, 다큐, 교양, 예능, 드라마 이런 것들 어떤 방향으로 나아가야 할까요? AI를 윤리적으로 설계하기 위해서 어떤 질문이 필요하다고 생각하시나요? AI가 성차별적인 편향성을 갖지 않도록 하려면 미디어 이용자는 무엇을 할 수 있을까요? 강의의 자세한 내용이 궁금하시다면 아직 강의 영상을 보실 수 있습니다. 많이 많이 봐주시고, 의견이 있으시다면 댓글도 달아주세요! 4주 동안 매주 화요일 강의를 들어주신 분들에게 다시 한 번 감사의 인사를 전합니다. 대중강의를 마친 후 [페미니스트와 함께 만드는 AI 가이드라인] 라운드 테이블을 진행하고 있고, 11월 중에는 결과물을 온라인을 통해 공개하려고 합니다. 끝까지 관심 많이 가져주세요! 그럼 11월 중, 가이드라인으로 돌아오겠습니다. 안녕!
글 보기

[후기] 공대에 여학생이 적은 이유?!_미디어X페미니즘 대중강좌 AI는 성차별이 뭔지 알까?(3강)

[미디어X페미니즘] AI 대중강좌 3강은 숙명여대 인문학연구소의 임소연 선생님을 모시고 "페미니즘은 성차별적인 AI 기술에 개입할 수 있을까? : 페미니스트로서 과학하기"를 주제로 이야기를 나누었습니다. 실시간 채팅창에 여성공학도를 비롯한 참여자들이 분노와 경험을 함께 나누어 주셨습니다. 인공지능 연구 개발 현장의 성비는? 올해 카이스트 최문정 교수 연구팀의 [인공지능 기술 연구 및 전문인력 양성정책 특정성별영향평가]를 보면 예상대로 여성비율은 매우 낮은데요. AI 분야 여성 비율은 약 20%대이지만 의사결정 권한을 가진 관리자 급으로 갈수록 비율이 줄어듭니다. (유튜브 강의 캡쳐. 인공지능 연구개발 현장의 여성비율을 보여주는 표. 인공지능 연구개발 현장은 어떠한가. 인공지능 산업계는 기업 SW전문인력 19.1%, 기업 대표자 3.1%, 대학원 여성 교수진 7.1%) 그럼 자연스레 이런 질문이 떠오르는데요. “사회가 성평등해지면 인공지능 현장의 여성비율도 늘어나지 않을까?” 하지만 최근 연구(UNESCO EQUALS, 2019)를 보면 성평등 수준이 높은 나라가 꼭 *ICT의 여성비율이 높은 건 아니라고 합니다. 그렇다면 공학계 성비 불균형 문제의 진짜 원인은 무엇일까요? *ICT란 정보통신기술을 말하며 ICT분야는 (AI와 관련이 큰) 컴퓨터 사이언스, 컴퓨터 공학 등의 분야를 포함한다. 공학적 능력과 여성성의 양립불가능성? 소위 ‘남성적’이라고 여겨지는 과학기술 분야, 특히 공학 분야에서 여성 공학인은 인지부조화 현상을 경험합니다. 이 현상을 해결하기 위해 지금까지 여성 과학기술인이 취한 전략은 크게 두 가지인데요. 첫째는 여성성을 최대한 배제하는 전략입니다. ‘난 여성이기 이전에 엔지니어이다.’라는 말로 이해될 수 있습니다. 둘째는 여성성 활용전략인데요. 사회적으로 여성의 특성이라 여겨지는 소통능력, 감성, 관계지향성 등을 수용해 경쟁에서 내세우는 것입니다. 하지만 이러한 능력은 공학적 능력의 기준에서 주변적 능력이기에 경쟁력의 한계가 있습니다. 실시간 채팅에서 한 여성 공학도는 “아주아주 공감되네요 두 전략 다...하지만 두 전략 다 굉장히 에너지 소모적이고 혼란스러워요” 라며 경험을 공유해주셨습니다. 어떤 학생들이 공학을 선택하는가? : 공학/컴퓨터 과학 분야에 남성들, 정말 능력자들인가? 여성 이공계 학생을 양성하기 위한 여러 제도들에 대해 ‘왜 능력도 없는 여성에게 기회를 줘야 하느냐’는 반대의 목소리를 쉽게 찾아볼 수 있는데요. 정말 그런 걸까요? 여성 공학도를 양성한다는 것은 어떤 의미일까요? 미국 조지프 심피안 교수 연구팀은 고등학생 당시 물리학·공학·컴퓨터 과학 전공 진학 희망자의 학업 성취도와 실제 전공 선택 비율 간 관계를 분석했습니다. (X축은 학업성취도 구간, Y축은 전공 선택 비율을 나타낸 그래프) 이미지 출처 : 임소연, 한겨레. “여자가 공대는 무슨” 오랜 편견 넘어서려면 (링크) 여학생(주황색)은 성적이 좋을수록 전공 선택 비율이 높았으나, 남학생(보라색)은 성적이 전공 선택에 미치는 영향이 훨씬 적어 최하위권의 절반 이상이 해당 전공을 택했습니다. 이 연구결과를 보면 공학계열의 성비불균형을 해결한다는 건 자격이 없는 여성을 진학하도록 하는 것이 아니라는 걸 알 수 있습니다. 또한 이공계 분야의 여성들에 대한 기존의 사회적 담론인 ‘유리천장을 깬 여성들’이 아닌 새로운 담론이 필요하다는 것을 의미합니다. 계속해서 ‘유리천장을 깬 여성들’만을 강조한다면 (예비) 여성 공학도는 ‘난 저렇게 뛰어나지 않으니까 공학을 할 수 없을 거야’라고 생각할지도 모르니까요. 그래서 대안은 멤버십, 여성 집단의 능력을 강조하는 것입니다. 페미니즘이 공학을 바꿀 수 있을까? 공학계에 여성의 비율을 높이는 것은 최소한의 조건일 테고, 이제 구체적으로 페미니스트가, 또 페미니즘이 공학에 어떻게 영향을 미칠 수 있을까 궁금해지는데요. 성인지 분석을 하나의 도구로 활용해 연구한 뉴로젠더링 네트워크를 소개합니다. ‘여성과 남성의 뇌는 다르다’라는 말 많이 들어보셨죠? (인터넷 뉴스 제목 이미지. 나우뉴스 [핵잼 사이언스] 남녀의 ‘뇌 구조’는 정말 다르다...과학적 입증, 경향신문 [전문가의 세계-뇌의 비밀] (4) ‘남녀유별’한 뇌 시상하부...성별의..., 조선일보 쇼핑 때 女는 물건선택, 男은 카트 몰도록 진화) 2015년 다프나 조엘을 비롯한 유럽과 북미, 호주의 여성 과학자와 페미니스트들은 '과연 여성의 뇌와 남성의 뇌를 구분할 수 있을까?'라는 질문에서 시작하는 연구를 진행합니다. 인간의 뇌 부위 중 남녀 차이가 가장 큰 10개의 부위를 골라 '여성형', '남성형'으로 분류했고, '여성의 뇌', '남성의 뇌'라는 것이 정말 있다면 하나의 뇌에서 일관된 성별분포가 보여야 할 것이라는 새로운 가설을 도입합니다. 결과적으로 성인 1400명의 뇌 MRI 데이터를 분석해보니 일관성을 보이는 뇌는 6% 뿐이었다고 합니다. 사실상 여성의 뇌, 남성의 뇌라는 구분이 큰 의미가 없다는 것이죠. 우리나라에 [젠더모자이크]라는 책으로도 번역되어 있습니다. (젠더 모자이크 책표지. 뇌는 남녀로 나눌 수 없다. 당신의 뇌는 여성다움과 남성다움이 어우러진 당신만의 독특한 모자이크다! 한빛비즈) 공감능력부터 수학능력 등 모든 것을 ‘남녀의 뇌가 달라서 그래’라고 설명하는 사람들이 꼭 봤으면 좋겠네요! 이렇게 과학계에서 페미니즘 관점으로 연구하는 사람이 늘어나는 것이 이 더 많아지는 날을 기다립니다. 페미니스트로서 과학하기 : 질의응답 강의를 마치고 참여자분들이 사전에, 또 실시간으로 주신 질문으로 질의응답을 진행했습니다. 기술이 가지고 있는 차별적 시선을 없애기 위해 개발자들에게 필요한 교육은 무엇일지, 인공지능 학과의 페미니스트 학생으로서 백래시가 두렵지만 그럼에도 불구하고 어떻게 대중과 관계 맺는 기술을 개발 할 수 있을지 등 고민과 질문을 나누었습니다. 후기에 담지 못한 좋은 이야기가 많은데요. 아래 버튼을 클릭하면 한국여성민우회 유튜브에서 강의를 보실 수 있답니다!
글 보기

[후기] 물품 구매 내역으로 임신 여부를 알 수 있다?!_미디어X페미니즘 대중강좌 AI는 성차별이 뭔지 알까?(2강)

여러분은 기술이 우리의 어떤 개인정보를 수집하고 있는지 고민해본 적 있으신가요? PC, 모바일 휴대폰, 가전기기들에 우리의 개인정보가 저장되어 있는데요. 비밀번호가 자동 저장된 인터넷 브라우저, 휴대폰 생채인식을 통한 지문·홍채 정보, 내가 가진 모든 은행을 로그인 할 수 있는 공동 인증서비스, 앱카드에 저장된 카드번호, 사진으로 저장되어 있는 신분증, 내가 간 곳을 확인할 수 있는 QR체크인, 위치정보를 담은 GPS 이렇게나 많이? 우리는 생각보다 많은 곳에 개인정보를 노출하고 있습니다. 기술의 편리함으로 인해 삶의 안락함을 누리는 것은 좋지만 기술이 개인정보를 어떻게 수집하며, 어떻게 이용하는지 정보주체로서 판단하고 개인정보를 보호하기 위한 방식을 고민해야 할 때인 것 같아요. 그림1. Google, 사용자가 서비스를 이용할 때 수집하는 정보 AI는 성차별이 뭔지 알까 2강 장여경 선생님의 “인간의 삶에 관여해서는 안되는 AI에 대한 구획은 가능한가? : 문제적인 AI에 개입할 수 있는 정책적 방안”은 AI챗봇 이루다 사례를 통해 본 개인정보 보호와 데이터 윤리에 대해 다룬 시간이었습니다. AI챗봇 이루다를 만든 스캐터랩은 '기계를 인간화한다'를 모티브로 사람들의 대화를 학습시킨 AI 채팅로봇 ‘이루다’ 서비스를 시작했습니다...만 이 ‘이루다’가 개인정보를 침해하여 만들어졌다고 해요. 그밖에도 혐오·편향적 발언이 문제가 되어 서비스를 중단했죠. 좀 더 자세히, 어떤 이야기인지 궁금하시다고요? 한국여성민우회의 [AI는 성차별이 뭔지 알까] 2강으로 여러분을 초대합니다. 그림2. 문제적인 AI에 개입할 수 있는 정책적 방안, 2강 강의 화면 개인정보침해로 과징금 받은 AI챗봇 이루다 만든 스캐터랩 AI 챗봇 이루다는 지난해 12월 23일 출시됐어 2주 만에 이용자 75만명을 기록해 엄청난 화제가 되었던 인공지능 대화 서비스입니다. 그런데말입니다...(김상중 씨 톤으로) 이루다는 서비스 중 인종, 성별, 장애인, 성소수자 등에 대해 혐오 발언을 해 문제가 됐어요. 또한 일부 사용자가 AI 이루다에게 성희롱을 일삼는 등 비윤리적으로 서비스를 이용하면서, AI 이루다 문제가 공론화 되기 시작했죠. 이 문제의 진상을 파악하기 위해 개인정보보호위원회와 한국인터넷진흥원은 이루다를 개발한 스캐터랩에 대한 조사를 진행하였습니다. 그리고 지난 4월 28일 개인정보보호위원회는 전체회의에서 이루다 챗봇 개발 회사인 스캐터랩에 과징금 1억 330만원을 부과했어요. 그림3. 스캐터랩, 이루다 서비스 중단 공지 여러분은 ‘텍스트앳’ ‘연애의 과학’, ‘진저’ 등의 서비스를 보신 적 있으신가요? 메시지 내용을 분석해 상대방이 나에게 호감이 있는지 호감도를 분석해주고, 대화 내용을 기반으로 연인의 소소한 반응을 캐치해 관계 코치를 하거나 기념일을 챙겨주는 연애 비서 서비스였는데요. 그 밖에도 심리학 논문에 기반을 둔 연애 팁, 심리학자들이 만든 심리테스트 등을 제공하기도 했습니다. 갑자기 이 얘기를 왜 했냐고요? 이루다가 학습한 데이터가 바로 ‘텍스트앳’, ‘연애의 과학’, ‘진저’에서 얻은 정보였기 때문이에요. 스캐터랩은 자신들이 ‘텍스트앳’, ‘연애의 과학’, ‘진저’의 서비스를 제공하며 모았던 60만 명에 해당하는 회원정보와 대화 94억 건의 카카오톡 대화를 변경 없이 원문 그대로 포함한 대화 로봇을 만들었어요. 그 중 이루다는 응답 데이터 중 20대 여성이 발화한 대화 문장 1억건만 따로 추출해서 학습시켰다고 해요. 내가 대화했던 내용을 바탕으로 대화 로봇을 만들었다니, 뭔가 기술에게 배신당한 기분이 드는데요. 열람할 권한을 줬다고 내 발화를 다른 곳에 활용해도 된다고 하지는 않았는데 말이죠. 그뿐 아니라 내 모든 카카오톡 대화를 누군가 열람했다고 생각하니 정말이지 끔찍하네요 그림4. ‘연애의 과학’ 개인정보제공동의 약관 중 개인정보 침해 논란 항목 스캐터랩의 문제점을 확인하고 개인정보보호위원회와 한국인터넷진흥원은 개인정보를 적법하게 취득했는지, 개인정보의 활용 범위가 어디까지였는지 살펴보고 벌금을 부과했어요. AI챗봇 이루다는 개인정보 취득 문제뿐 아니라 혐오발언이나 편견이 가득한 많은 문제가 있었지만 정부에서 규제할 수 있었던 것은 개인정보침해에 대해서 뿐이었다고 해요. AI 등 새로운 기술에 대한 규제가 아직은 없어서 말이죠. AI 챗봇 이루다 사례를 통해 AI 기술은 누가 쓰더라도 불편함 없이 이용할 수 있게. 사회 규범을 만들 필요가 있어 보입니다. 뛰어난 예측력을 가진 AI, 그리고 늘어나는 AI 영향력 AI가 뛰어난 예측력을 가지고 있는 것, 알고 계신가요? 관련해 사건이 하나 있었는데요. 때는 바야흐로 2012년 미국, ‘Target’이라는 마트에서 고객들에게 맞춤형 할인 쿠폰을 우편으로 발송하는 서비스가 있었어요. 그런데 한 가정집에 임신 축하 쿠폰이 배달된 거예요. 이 쿠폰을 받은 남성 고객은 “아니 집에 나랑 내 딸밖에 없고 임신한 사람이 없는데 누가 임신을 했다고 이걸 보냈나요?” 화를 냈어요. 그런데 며칠 뒤 남성고객에게서 다시 연락이 옵니다. “제 딸이 임신했네요”라면서요. 아니 오마낫 기절초풍 ┌O┘ 마트가 내가 임신한 걸 안다고요? 어떻게? 어째서? 왜? 바로 이 마트가 손님의 구매 이력을 바탕으로 빅데이터 분석을 실행했기 때문입니다. 마트에서 고객이 카트를 끌고 다니는 경로, 관심을 기울이는 제품 등의 정보를 수집하고, 외형이 ‘가임기 여성’인 고객이 향기가 없는 샴푸나 유기농 화장품에 관심을 보이는 경우 임신 가능성이 있다고 보았다는데요. 나는 마트에서 단순히 물품을 구매했을 뿐인데, 스스로도 모르는 사이 개인정보를 바탕으로 '분석' 당하게 된 것이죠. 그림5. 타겟사의 로고 이외에도 알고리즘 판단의 정확성에 대한 사회적 합의나 설명이 없는 상태에서 기술 도입이 늘어나고 있다는 점을 문제로 볼 수 있습니다. AI를 통해 취직 또는 해고를 결정하고 범죄를 예측하거나, 보험금을 지급할지 등을 사람이 판단한다면 달라질지도 모르는 의사결정을 기계에게 맡길 수 있을까요? 실제 미국에서는 범죄률을 예측하면서 AI 인공지능 기술을 사용했는데 범죄의 유무를 떠나 인종에 따라 다른 범죄률을 나타냈어요. 중범죄를 저지른 백인 남성보다 경범죄를 저지른 흑인 여성의 범죄율이 더 높다고 판단했는데요. 백인 남성은 무장강도 사건을 두 번 저질렀고, 한 번은 미수에 그쳤는데도 위험도를 3으로 예측했고, 흑인 여성은 청소년 비행 행위를 네 차례 저질렀고 후속 범죄가 없었는데도 불구하고 위험도를 8로 예측했죠. 개발사에 이 문제에 대한 해명을 요구하자 “원래 흑인들이 재범 위험이 높은 게 팩트”라는 말도 안되는 답변을 내놔 다수의 매체에 뭇매를 맞기도 했습니다. 이뿐 아니라 학업에서도 비슷한 성적을 가진 부자동네 사립학교생, 가난한 동네 공립학교생 중 부자동네 사립학교생에 더 높은 점수를 부여했고요. 교사 해고를 결정하는 인공지능 알고리즘이 왜 이 교사를 ‘해고’해야 하는지 설명하지 못한 문제도 있었습니다. 학업, 취업, 해고, 범죄률, 형벌 결정, 보험금 지급 등 갈수록 AI의 영향력은 늘어가는데 과연 기술이 갖고 있는 문제점을 어떻게 개선할지, 어디까지 기술을 이용할지 대한 가이드도 마련 되어 있을까요? 과학기술정보통신부나 네이버, 카카오 등은 ‘인공지능 윤리’에서 그 대안을 찾는데요. 정부는 ‘민간자율’에 맡기고 있다고 해요. 장여경 선생님은 “(인공지능)윤리가 법은 아니다”며 현재 정부의 대안은 한계가 있다고 지적했습니다. 해외는 인공지능 기술에 대한 규제를 시작하고 있는데요. UN이 발표한 보고서에서는 각국에 인공지능에 대한 입법 조치를 요구 했고요, 유럽연합은 ‘인공지능 법안’을 올해 4월 발의해 고위험 인공지능은 규제하겠다고 했어요. 유럽연합이 말하는 고위험 인공지능은 항공 사용, 지문이나 얼굴과 같은 생체인식, 도로나 교통 같은 중요 인프라, 학교 입학, 학생 평가, 채용, 고용, 공공급여 급여, 수급 자격, 경찰의 범죄 수사, 출입국 관리 등 법원의 재판에 이용을 규제한다고 합니다. 반면 챗봇, 딥페이크, 감정인식 로봇, 생체인식 로봇, 성별에 따라 남성/여성/성소수자로 나누는 것, 연령, 머리색에 따라 나누는 것, 성적지향·정치지향에 따라 나누는 기술은 위험하지 않은 인공지능으로 분류하고 있는데요. AI 기술이 나를 어떻게 규정할지 나의 정체성과 상관없이 분류하는 것에 문제가 있어보입니다. 사용자도 납득할 수 있고, 외형에 따라 사람을 구별짓고, 차별하는데 기술이 사용되지 않았으면 하는 바람이 있네요. 이런 문제의식을 담은 가이드라인이 꼭 필요해보이고요. 장여경 선생님은 이 문제를 해결하기 위해 역시 ‘개인정보보호법’, 기술 이용에 있어 소비자주권이 중요하다고 얘기해주셨어요. 기업이 서비스를 이용하기 위해 소비자에게 어떤 정보를 수집할 것인지 어떤 목적으로 이용할지 정확히 명시하고 소비자도 잘 살펴볼 필요가 있고요, 개인정보를 거부할 수 있게 요청해야 한다고요. 또한 민감한 개인정보를 보호할 수 있는 조치가 필요하다고 얘기해주었습니다. 이처럼 법 제도를 통해 최소한의 기술 서비스로부터 인간을 보호할 수 있다고 것으로 강연은 마무리 되었습니다. 강연 이후에는 Q&A가 이어졌고요. 강연을 시청하신 시민분들이 실시간채팅으로 많이 소통해주셔서 민우회는 외롭지 않게 강연을 이어갈 수 있었답니다. 후기를 보시고 강의가 궁금해지셨다면 아래를 참고해주세요! 많이 봐주시고, 의견이 있으시다면 댓글도 달아주세요. 유튜브 구독과 좋아요는 사랑입니다^^
글 보기

[후기] AI가 성차별을 할 수 있다? 없다?_미디어X페미니즘 대중강좌 AI는 성차별이 뭔지 알까?(1강)

('AI는 성차별이 뭔지 알까?' 대중강의 홍보 이미지) 안녕하세요, 지난 전문가 워크숍 후기에 이어 ‘[미디어X페미니즘] 대중강좌 AI는 성차별이 뭔지 알까?’ 후기로 돌아온 민우회 성평등미디어팀 활동가 은사자입니다! (워크숍 후기 보러가기 [1편] womenlink.or.kr/minwoo_actions/23787 [2편] womenlink.or.kr/minwoo_actions/23801) (왼: 투자 전문 앱 '파운트' 광고 / 오: 삼성 비스포크 광고) AI와 관련된 활동을 하고 있어서일까요? 저는 요즘 일상 여기저기서 ‘AI’를 마주하곤 합니다. TV 광고에서는 투자 솔루션을 제안해주는 AI, 세탁물을 맞춤 건조해주는 AI가 등장하고요. 한 쇼핑몰은 ‘쇼핑 메이트’라는 컨셉을 내세워, AI를 통해 개인 맞춤형 추천 서비스를 제공한다고 합니다. 얼마 전, 아무 생각 없이 길을 걷다 AI가 골프 샷을 분석해준다는 실내 골프장 홍보 포스터를 보고는 ‘AI, 정말 안 끼는데(?)가 없네!’ 생각하기도 했습니다. 이런 AI가 우리 일상을 이전보다 편리하게 만들어줄 것만 같은데, 정말 그럴까요? 일상 가까이 다가온 AI 기술을 페미니즘 관점으로 살펴보고 고민해볼 수 있도록 [AI는 성차별이 뭔지 알까?] 대중강의를 준비헀습니다. 그 첫 번째 시간, 허유선 선생님과 함께한 "기술철학의 관점에서 보는 AI와 젠더/차별 재생산: 문제의 이해부터 인공지능 가이드라인까지" 후기를 전합니다! 인공지능 차별? 인공지능이 차별을 한다? ‘기술철학의 관점에서 보는’이라는 강의 제목의 첫 구절이 왠지 무겁게만 다가오는데요. 강의는 인공지능 젠더/차별이 무엇인지부터, 그러한 차별이 발생하는 원인과 쟁점, 대응 방향과 가이드라인까지 차근차근 진행되었습니다. 우선은 인공지능 젠더/차별이 무엇인지 몇 가지 사례를 통해 설명해주셨어요. 2012년, 기계 번역이 여성대명사도 남성대명사로 번역 2015년, 사용자 맞춤형 광고 제안에서 젠더를 '여성'으로 선택할 시 '남성'으로 선택했을 때 비하여, 고임금 직업 광고 노출 빈도가 1/6 2018년, 여성 구직자를 감점시킨 아마존의 AI 채용 프로그램, 성별과 피부색에 따라서 인식률에 차이를 보이는(백인>타 인종, 남성>여성) 안면인식 프로그램 2019년, 대부분 여성으로 설정된 'AI 비서', 성별에 따라 신용카드 한도 차별 의혹이 제기된 애플 신용카드 2021년, 차별 발언을 쏟아낸 챗봇 이루다 읽다보면 ‘와, 이거 문제인데?’라는 생각이 자연스레 들기 마련이죠. 이런 상황이 'AI에 의해서' 발생했다는 게 낯설 수는 있어도, 차별의 내용은 굉장히 익숙하기 때문인데요. 즉, 인공지능의 젠더/차별이란 대단히 새로운 개념이라기보다, 인공지능에 의해 야기된 결과로 인간에게 어떠한 차별이 재생산되거나 강화되는 상황을 일컫습니다. 허유선 선생님께서 “이때 이 인공지능에 차별 의도가 있었는지는 여부는 중요하지 않다”는 이야기를 해주셨는데요. 인공지능이 인간을 차별할 의도가 없더라도 실제 차별과 그로 인한 피해가 발생했다는 게 중요하고, 그렇다면 우리는 앞으로 이 기술을 어떻게 개선할 것인지 고민하는 게 문제의 핵심이라는 말씀이 인상적이었습니다. 인공지능에 '의한' 차별이 기존의 차별과 다른 점은? 인공지능에 의한 차별이 대단히 낯선 게 아니지만 더욱 문제 시 되고, 우리가 더 집중해서 살펴봐야 하는 이유는 무엇일까요? 우선 AI 기술은 굉장히 복잡해서 문제를 인지하고 이해하는 데 어려움을 겪는다는 점이 첫 번째 포인트라는 점을 말씀해주셨습니다. 그렇기 때문에 피해자 또한 피해를 인지하기가 어렵고, (당연히) 구제받는 데도 어려움을 겪겠죠. 또, 첫 번째와 연결되어 복잡한 기술이기 때문에, 인간 행위자가 책임을 회피하거나, 그 누구도 책임을 지지 않는 책임 공백 상황이 벌어질 수 있습니다. '사람이 아니라 기술이 낸 결과입니다'라는 식의 논리가 차별을 객관적이고 합리적인 근거를 갖추는 것처럼 보이게 만들어 기존에 존재하는 차별이 정당화 되거나 영속화 될 가능성도 높습니다. 마지막으로는 생각하지 못 했던, 새로운 차별이 발생할 가능성이 있기 때문에 AI의 차별을 더 주의 깊게 살펴보아야 된다는 이야기를 해주셨습니다. ('AI는 성차별이 뭔지 알까?' 1강 강의 캡쳐 화면) 그렇다면 AI 차별에 있어 어떤 것이 쟁점이 될까요? 우선은 앞서 이야기했던 "의도가 없다"라는 태도입니다. 혹은 그 기술을 개발하는 사람에게 그럴 의도가 없었다는 건데요. 같은 맥락에서 "예상 외의 작동이다"라는 주장도 있을 수 있습니다. 그러나 우리는 "개발자의 의도를 넘어서는 기술, 의도를 넘어서는 일이 언제 어떻게 발생할지 모르는 기술을 이렇게 많은 사람이 쓰도록 만들고, 그 기술을 통해서 돈을 버는 것이 과연 정당한가" 질문해볼 수 있어야 합니다. 또, 그렇게 불확실한 기술이라면 당연히 그 불확실성을 어떻게 컨트롤 할 것인지 고민한 후 기술을 제공해야 할 것입니다. AI 기술의 특징 중 하나는 고도의 자동화로 수많은 과정이 '빨리' 처리된다는 점인데요. 이 또한 문제해결을 어렵게 하는 지점입니다. 그렇기 때문에 우리는 이 기술이 어떤 단계를 거쳐 진행되는지 확인할 수 있는 절차가 필요하다는 주장을 할 수 있다는 점을 짚어주셨습니다. 또, '복잡한 문제', '원인/제공자를 찾기 어려움’이라는 리스크는 복잡한 21세기 기술사회에서 어쩌면 당연한 것이고, 그럼에도 불구하고 적절히 책임을 분배하는 시스템을 찾고, 미리 대응할 수 있는 방법을 고민하는 게 사회의 원칙이 되어야 한다고 이야기 해주신 부분이 기억에 남았습니다. 기술은 모두에게 평등하다? 그렇다면 인공지능에 의해 차별이 발생하는 이유는 무엇일까요? 바로 AI가 편향성을 띄고 있기 때문인데요. 한 번 더 질문하면, 그렇다면 AI는 왜 편향성을 갖고 있을까요? 당연하게도 기술이 객관적이지 않기 때문입니다. 기술은 사회와 동떨어져 존재하는 것이 아니고, 누군가의 관점에서, 누군가의 필요에 의해 만들어집니다. 그렇게 만들어진 기술은 사람과 사회에게 또 영향을 미치고, 사회적인 가치가 변화하기도 하죠. 좀 더 자세히 살펴보면 우선 데이터 편향 가능성 때문입니다. 데이터는 과거의 기록이고, AI의 기계학습은 데이터를 바탕으로 귀납적 추론을 하는 셈이니 고민없이 데이터를 가져와 쓴다면 과거의 영향에서 벗어난 새로운 의사결정을 제시하기는 어렵겠죠. 게다가 이 데이터를 누가 '라벨링'하는가, 누가 처리하는가에 따라 기술은 달라집니다. 굉장히 가치중립적인 것처럼 보이는 '데이터'조차도 많은 이해관계가 얽혀 만들어진다는 점을 짚어주셨습니다. 그럼 데이터가 덜 편향되면, 편향되지 않으면 차별하지 않는 기계가 나오는가? 그렇지 않습니다. 애초에 이 기술이 어떤 목적을 가지고 설계 되었는지, 알고리즘이 어떤 방식으로 구성되어 있는지가 큰 영향을 미치기 때문입니다. 이렇게 기술이 예측하지 못한 결과를 낼 때, 빠르게 처리하는 자동화 시스템에서 인간이 생각하고 결정할 수 있는 권한이 점차 적어질 때 인공지능에 의한 차별은 더욱 심화될 가능성이 있습니다. 인공지능은 인간처럼 사고하는 '지능'이 아니고, 그저 주어진 목표에 맞게 일을 처리해내는 시스템일 뿐입니다. 이에 대한 이해없이 기술을 이용하게 된다면 기술에 대한 통제력을 점점 잃어가게 되겠죠. 더 평등한, 모두에게 안전한 AI를 만나기 위해서는! 그렇다면 우리는 인공지능 차별문제에 대해 어떻게 개입할 수 있을까요? 가장 중요한 건 기술은 가치중립적이지 않고, 모두에게나 공정하지 않을 수 있다는 점을 언제나 인식하고 있어야 한다는 점입니다. 또, 다양하고 포괄적인 양질의 데이터를 활용한 기술인지를 점검하고, 개발과 설계단계부터 차별 문제를 민감하게 고려할 수 있도록 책임을 요구할 수 있어야 할 것입니다. 그랬을 때 어떤 개발자/기업은 "내가 왜 굳이? 나는 그냥 기술을 개발하는 사람인데 그것까지 고려해야해?"라고 질문할지도 모릅니다. 그랬을 때 당연하게 "큰 영향력을 가지고 있다면 책임도 더 많이 져야한다"고 요구할 수 있는 사회가 되어야 하겠죠. 이외에도 인공지능 기술에 가장 영향을 많이 미치는 사람은 당연히 개발자, 기업의 결정권자이고 그런 영향력을 가진 사람이 누구인지가 중요한 포인트라고 짚어주셨습니다. 성별을 비롯한 인적 다양성이 보장되고 있는지를 생각해봐야 하겠죠. 이런 문제의식을 개인이 갖는데서 그치는 것이 아니라 지속적으로 모니터링하고, '문제'를 만들어내는 것, 시민으로서 페미니스트로서 내가 할 수 있는 개입은 무엇이 있는지를 계속해서 고민하는 것이 보다 성평등한 AI를 만날 수 있는 방법이라는 이야기로 강의가 마무리 되었습니다. 허유선 선생님께서 마지막에 덧붙여주신 말씀을 전해봅니다. "여러분이 의아해하는, '이건 이상한 것 같은데?' 의문을 갖게 되는 문제의식이 있죠? 그건 보통 되게 중요한 거예요. 여러분이 생각하는 그 문제의식을 소중히 간직하시고 자료를 찾아보고, 논의를 살펴보며 질문을 확장해나가시면 좋겠습니다." 질의응답에서도 다양한 고민을 나눠보았는데요. 어떤 이야기가 오갔는지 궁금하다면? 아래 강의를 통해서 직접 확인하세요!

참여

공지사항

성명논평

한국여성민우회