「대한민국 인공지능 행동계획(안)」에 대한 한국여성민우회 의견서
"AI 국가정책 결정구조에 성평등 관점 반영하라!"
이번 「대한민국 인공지능 행동계획(안)」(이하 행동계획)은 AI의 개발·활용에만 중점을 둘 뿐 AI 기술로 인한 개인의 기본권 침해 구제 대책, AI 위험성 통제 방안, 사업자 책임성 강화 장치 마련 등에 관한 내용은 부재하다. 그뿐만 아니라 성평등 관점으로 검토하였을 때, 성평등·인권과 여성에 관련된 정책이 매우 부족하다. “AI 인재 경력 단절 해소”, “「모두를 위한 AI 기본 사회 추진계획」 수립”, “AI 범죄 근절 및 대응 역량 강화” 등 일부 액션플랜 항목에 관련 정책이 포함되어 있으나, 성평등을 위한 통합적 전망과 목표 없이 분절적으로 제시되어 있다는 점에서 한계가 크다. 행동계획 전반에 성평등을 위한 통합적 전망이 제시되어야 하며, 정책 결정 구조에 성평등한 참여가 보장되어야 한다.
기술 분야의 고질적인 성차별로 인해, AI 분야는 여성의 참여와 대표성이 부족하다. 그러나 AI가 일으키는 성별 편향의 문제, 차별·혐오와 폭력의 문제, 일자리 문제 등에서 여성은 더 큰 영향을 받는 집단이다. 따라서 국가는 이와 같은 AI 분야의 구조적 성차별 문제를 인지하고, AI 정책 수립에 있어서 보다 적극적으로 성평등 관점을 반영하며 여성 참여를 높이기 위한 구조를 만들 필요가 있다.
또한 AI 분야에서 성차별을 비롯한 차별·혐오 재생산의 문제는 계속 지적되고 있으며, 다양한 사례로 실증되었다. 그러나 이번 행동계획은 AI 안전성의 문제로 정보 유출과 허위 정보 등 기술적 문제만을 주로 고려하고 있는 듯 보인다. 국가는 사회적 차별과 혐오, 폭력이 AI가 일으키는 주요한 위험이며, 평등권을 비롯한 인권이 보호하여야 할 가치임을 인지하고 정책을 수립하여야 한다. 이에 한국여성민우회는 「대한민국 인공지능 행동계획(안)」에 대해 다음과 같은 수정 의견을 제출하는 바이다.
1. AI 분야 통합적 성평등 목표 및 액션플랜 수립
2. AI 정책 결정 구조에 성평등 관점 반영 및 AI 분야 성평등한 참여 보장
3. 평등·인권 가치에 기반한 AI 윤리 마련
4. AI 시대 경제·일자리 분야 대책에 젠더 관점 도입
5. AI 돌봄 정책에 돌봄 가치와 돌봄 정의 관점 개입
6. AI 악용 젠더폭력에 대한 플랫폼 책임 강화
1. AI 분야 통합적 성평등 목표 및 액션플랜 수립
○ 액션플랜 번호: 없음
○ 수정 내용
: (신규 추가) AI 분야 성평등 실현 과제 및 액션플랜 수립
○ 제안 이유
: AI 분야는 여성 참여와 대표성이 낮고, AI는 성차별과 여성혐오·폭력의 문제를 일으키고 있으며 여성은 노동 등 영역에서 AI 전환에 따른 영향을 크게 받는 집단이기도 함. 이는 개별적 문제가 아닌 구조적 성차별에서 비롯된 문제로서 이에 대한 통합적 대책이 필요함. 그러나 현재의 행동계획에는 성평등 목표가 부재하고, 여성 관련 정책이 분절적으로 제시되어 있음. 따라서 AI 분야 성평등 증진을 국가의 책무로 인식하여 과제로 설정하고, 그에 따른 액션플랜으로서 여성 관련 정책이 통합적으로 제시되어 추진될 필요가 있음. |
2. AI 정책 결정 구조에 성평등 관점 반영 및 AI 분야 성평등한 참여 보장
○ 액션플랜 번호: 26, 54, 55, 82, 83
○ 수정 내용
: (26) 단순히 경력 단절을 해소하는 수준의 단기적 대책을 넘어 기술 분야의 특수성을 고려한 교육과 산업 전반의 성차별 해소와 여성 참여 증진 방안 마련
: (54) 공공 AI 영향 평가 요소에 성별영향평가를 포함하고, AI 관련 성별 통계 공개
: (55) 성평등가족부, 국가인권위원회 등 인권과 평등 문제를 다루는 전문 부처가 공공부문 윤리기준 마련을 위한 협력 부처로 포함
: (82) AI 윤리 포럼에 특정 성별이 60%를 넘지 않도록 하여 성평등한 참여를 보장
: (83) 성평등 분야 전문가와 단체가 거버넌스에 참여
○ 제안 이유
: 2020년 발표된 인공지능(AI)기술 연구 및 전문인력양성 정책 특정성별영향평가에 따르면, 인공지능 분야 산업계, 학계, 국가연구개발산업 연구 인력의 여성 비율은 20% 내외이며 고위급으로 갈수록 여성 비율이 5% 내외로 줄어듦. 이와 같은 AI 분야의 성별 격차는 단순히 출산·육아에 따른 경력 단절로 인한 것이 아니며, 교육, 고용, 승진 등 전 과정에서의 구조적 성차별로 인한 결과임. 따라서 단기적·경제적 관점에서의 경력 단절 해소 방안을 넘어, 교육, 산업, 정책 등 AI 분야 전반의 성평등한 참여를 보장하는 관점으로 전환하여 여성 참여 증진 방안을 마련할 필요 있음. : 성평등한 관점과 민주적 정당성 확보를 위해 정책 결정에 관여하는 기구 전반에서 성평등한 참여가 보장되어야 함. : 성평등 분야에서 전문성을 가진 부처와 단체, 전문가가 AI 관련 정책 수립 과정에 참여하여 AI 시대 노동, 돌봄, 복지, 미디어, 문화 등 사회 전 분야에 있어 성별에 따른 영향을 파악하고 정책에 반영하여야 함. 특히, 인공지능 윤리 정책에 적극적으로 참여하여 AI가 일으키는 성편향, 차별·혐오 및 폭력 등 문제에 대응할 필요가 있음. |
3. 평등·인권 가치에 기반한 AI 윤리 마련
○ 액션플랜 번호: 55, 80, 82, 92
○ 수정 내용
: (55) 성차별을 비롯한 AI의 차별 문제에 대응할 공공부문 윤리기준이 마련되어야 함
: (80) ｢모두를 위한 AI 기본 사회 추진계획｣ 수립에 있어 평등권, 정보권, 절차적 권리 등 인권 보장을 기본 원칙으로 삼아야 함
: (82) 인공지능 윤리기준 점검 시 성평등관점이 포함될 수 있도록 협력부에 성평등가족부를 추가. 자율적 윤리기준 외 공적 감독·책임과 연동되는 의무적 평가도구로 재설계
: (92) 전 세대·집단 대상 AI 기본 역량 교육에 차별·혐오 예방과 인권 보장 내용 포함
○ 제안 이유
: 공공부문 AI 윤리기준 마련 관련, 안전성과 신뢰성 확보가 필요함. 기준이 되는 「인공지능기본법」과 시행령(안)은 AI의 안전성과 신뢰성을 보장하는 데에 미흡하며, 특히 AI가 유발하는 혐오·차별의 문제에 대응할 방안을 규정하고 있지 않음. 따라서 상위법의 개정과 함께 성차별을 비롯한 AI의 차별 문제에 대응할 공공부문 윤리기준이 마련되어야 함. 성평등가족부, 국가인권위원회 등 인권과 평등 문제를 다루는 부처가 공공부문 윤리기준 마련을 위한 협력 부처로 포함되어야 함. : 특히 ｢모두를 위한 AI 기본 사회 추진계획｣ 수립에 있어 평등권, 정보권, 절차적 권리 등 인권 보장을 기본 원칙으로 하지 않으면 산업 증진을 내세워 AI 기술 도입이 개인들에게 미치는 부정적 영향은 제대로 다뤄지지 못할 것임. 지금처럼 ‘AI 고속도로’, ‘AI 시대의 승리’만을 외치며 ‘AI 기본 사회’가 이미 국민적 합의를 이룬 것인 양 관련 규제 완화와 기술개발·활용 정책만을 이야기하는 것은 문제임. : AI 시스템 개발에 있어 윤리적 고려 사항을 AI 개발 사업자 및 이용 사업자가 자율 점검하도록 할 경우 성차별 방지를 비롯한 AI 윤리를 준수할 책임성이 보장되지 않는 문제가 있음. 따라서 기존 「인공지능 윤리기준」 실천을 위한 자율 점검표 고도화만으로는 AI 개발에서 안전성과 사회적 책임 등을 보장하기 어려움. AI 윤리 준수에 있어 공적 감독 및 책임을 강화하는 방안이 필요함. : AI 기반 추천 및 생성 시스템은 중립적이지 않음. 기존 사회의 차별 구조를 증폭시키는 방식으로 작동할 수 있음. 특히 여성과 소수자는 혐오·왜곡된 방식으로 재현될 가능성이 높음. 하여, 여성을 비롯한 사회적 소수자들이 겪고 있는 전 세대·집단 대상 AI 기본 역량 교육에 차별 혐오 예방을 위한 윤리 교육이 이뤄질 수 있도록 해야 함. |
4. AI 시대 경제·일자리 분야 대책에 젠더 관점 도입
○ 액션플랜 번호: 86, 87
○ 수정 내용
: (86) AI가 개인의 생애 경제에 미치는 영향 및 대응 전략에 관한 연구에 성평등가족부가 참여, 성별 요소를 고려하도록 하며 「AI 시대 중장기 생애 경제 지원방안」 논의 및 수립 과정에도 성평등가족부가 참여하도록 함.
: (87) 「AI 시대 일자리 변화 대응 및 고용안정 종합계획」 수립 과정에서 고용노동부의 성인지적 관점의 정책 마련뿐 아니라 협력부로 성평등가족부가 참여하도록 해야 함.
○ 제안 이유
: AI 전환은 단순한 기술 문제가 아니라 노동 재편의 문제로 기존의 성별 분업 구조를 심화시킬 위험이 있음. AI 도입으로 위협받거나 정책 사각지대에 놓이는 직군, 고용 형태에 여성 비율이 높은 문제를 인식하고 구조적으로 개입하여 대응할 필요 있음. 하여 AI 시대 경제 및 일자리 분야 대책에 여성이 주변화되지 않을 수 있도록 “AI 시대 생애 경제 통합 전략 마련”에 고용노동부뿐 아니라 성평등가족부도 적극 참여하여야 함. |
5. AI 돌봄 정책에 돌봄 가치와 돌봄 정의 관점 개입
○ 액션플랜 번호: 88, 89
○ 수정 내용
: (88) AI의 선제적 도입과 사후적 문제 해결이 아닌, 돌봄 현장에 대한 실질적인 이해에 기반한 AI 도입 여부 판단이 이뤄질 수 있도록 돌봄 당사자가 AI 돌봄 정책 수립 과정에 참여
: (89) 복지부의 ‘AI 활용 건강관리 고도화 방안’, 질병관리청의 ‘AI 건강 정보 제공 체계’ 구축 계획 등에 의료정보 제공자인 개인의 권리침해 방지 대책, 보안관리 체계 구축에 대한 강도 높은 대책 포함
○ 제안 이유
: 돌봄 영역의 AI 활용이 효율성 중심으로 설계될 경우, 오히려 돌봄 당사자의 고립과 편향적 인식 강화해 실제 돌봄 노동자와 돌봄 서비스를 이용하는 이들 간의 관계성을 삭제하거나 배제할 위험이 있음. AI는 돌봄 부담을 완화하는 수단이 될 수 있으나, 논의 과정에는 사회적 책임을 기술에 전가하는 방식으로 작동해서는 안 됨. 돌봄을 비롯한 복지 분야에서의 AI 기술 도입은 최소한의 원칙으로 진행되어야 하며, AI 기반 복지 예측 및 정책 설계 과정에 돌봄 당사자(노인, 장애인, 여성 돌봄 노동자 등)의 참여를 보장해야 함. : 일본 개호노동안정센터가 조사한 ‘2022년 사업소의 개호노동실태’ 보고서를 보면, 환자의 이동을 돕는 이송 지원 로봇을 도입한 곳은 전체 8,632개 사업소 중 2.4%에 불과했음. 이처럼 일본은 이미 돌봄 로봇을 도입하여 사용하고 있지만 이용률이 높지 않음. 비용의 문제도 있지만 로봇 때문에 사람과 사람 사이의 접촉이 줄어서 돌봄 종사자나 노인들 모두 계속 쓰는 것을 꺼린다는 것임. : 고비용의 피지컬 AI 도입 및 상용화는 일부만을 위한 정책에 머물러 ‘돌봄의 접근성 확대’가 아닌 지역 간, 계층 간 격차의 양극화를 더욱 강화할 것임. : 돌봄노동의 과부하를 완화한다는 명목으로 AI 돌봄 서비스를 확대하고자 하는 것은 돌봄의 구조적 문제를 외면하고 경제성 논리로만 보는 것임. 여성이 다수인 돌봄 노동자의 일자리감소 우려에 따른 대책과 처우개선이 선행되어야 함. 또한 돌봄 로봇 또는 AI 보조장치의 오판 또는 오작동으로 인한 사고 및 부상에 대한 예방책과 발생 시 책임 주체 구체화 등 실제 현장에서 발생할 문제에 대한 논의가 기술 도입보다 우선되어야 할 필요가 있음. : 지역 간 의료접근 격차 완화는 시급히 해결해야 하는 과제지만 AI 기술 도입이 수집한 의료정보를 포함해 민감한 개인정보의 오용을 예방하기 위한 강력한 예방책이 우선 마련되어야 함. 행동계획에는 의료종사자 대상 AI 윤리와 활용에 대한 교육을 지원한다는 내용만 있을 뿐 축적된 의료정보 관리 체계에 대한 보안 문제에 대해서는 구체적인 대책은 찾기 어려움. |
6. AI 악용 젠더폭력에 대한 플랫폼 책임강화
○ 액션플랜 번호: 90
○ 수정 내용
: (신규 추가) 기술 설계 단계에서부터 성폭력 예방을 고려한 구조적 조치 포함 등 플랫폼 및 AI 개발기업이 성폭력 확산 방지를 위한 책임을 부담하도록 명시
○ 제안 이유
: AI 기반 성폭력은 단순한 범죄 유형을 넘어, 기술 구조가 여성의 신체와 이미지를 착취 대상으로 재구성하는 구조적 인권 침해에 해당. 현재의 정책은 사후 대응에 집중되어 있으며, 여성 피해자의 삶과 존엄 회복을 중심에 둔 접근이 필요함. : 실제로 딥페이크 범죄의 주요 피해자는 여성인 경우가 많으며, 성적 이미지 조작과 명예훼손이 결합될 경우 회복하기 어려운 사회적 피해로 이어짐. AI 기술이 고도화될수록 성폭력의 일상화와 확산 위험이 커지는 만큼 플랫폼 및 AI 개발기업에게 사회적 책임을 부과하는 등 구조적 예방을 중심으로 한 정책 개입이 필요함. |
2025년 1월 4일
한 국 여 성 민 우 회
※ 한국여성민우회는 본 의견서로 대통령직속 국가인공지능전략위원회에 "대한민국 인공지능 행동계획(안)"의 의견서로 제출하였습니다. (링크)
※ 하단 파일첨부: 한국여성민우회_「대한민국 인공지능 행동계획(안)」에 대한 의견서_20260114
「대한민국 인공지능 행동계획(안)」에 대한 한국여성민우회 의견서
"AI 국가정책 결정구조에 성평등 관점 반영하라!"
이번 「대한민국 인공지능 행동계획(안)」(이하 행동계획)은 AI의 개발·활용에만 중점을 둘 뿐 AI 기술로 인한 개인의 기본권 침해 구제 대책, AI 위험성 통제 방안, 사업자 책임성 강화 장치 마련 등에 관한 내용은 부재하다. 그뿐만 아니라 성평등 관점으로 검토하였을 때, 성평등·인권과 여성에 관련된 정책이 매우 부족하다. “AI 인재 경력 단절 해소”, “「모두를 위한 AI 기본 사회 추진계획」 수립”, “AI 범죄 근절 및 대응 역량 강화” 등 일부 액션플랜 항목에 관련 정책이 포함되어 있으나, 성평등을 위한 통합적 전망과 목표 없이 분절적으로 제시되어 있다는 점에서 한계가 크다. 행동계획 전반에 성평등을 위한 통합적 전망이 제시되어야 하며, 정책 결정 구조에 성평등한 참여가 보장되어야 한다.
기술 분야의 고질적인 성차별로 인해, AI 분야는 여성의 참여와 대표성이 부족하다. 그러나 AI가 일으키는 성별 편향의 문제, 차별·혐오와 폭력의 문제, 일자리 문제 등에서 여성은 더 큰 영향을 받는 집단이다. 따라서 국가는 이와 같은 AI 분야의 구조적 성차별 문제를 인지하고, AI 정책 수립에 있어서 보다 적극적으로 성평등 관점을 반영하며 여성 참여를 높이기 위한 구조를 만들 필요가 있다.
또한 AI 분야에서 성차별을 비롯한 차별·혐오 재생산의 문제는 계속 지적되고 있으며, 다양한 사례로 실증되었다. 그러나 이번 행동계획은 AI 안전성의 문제로 정보 유출과 허위 정보 등 기술적 문제만을 주로 고려하고 있는 듯 보인다. 국가는 사회적 차별과 혐오, 폭력이 AI가 일으키는 주요한 위험이며, 평등권을 비롯한 인권이 보호하여야 할 가치임을 인지하고 정책을 수립하여야 한다. 이에 한국여성민우회는 「대한민국 인공지능 행동계획(안)」에 대해 다음과 같은 수정 의견을 제출하는 바이다.
1. AI 분야 통합적 성평등 목표 및 액션플랜 수립
2. AI 정책 결정 구조에 성평등 관점 반영 및 AI 분야 성평등한 참여 보장
3. 평등·인권 가치에 기반한 AI 윤리 마련
4. AI 시대 경제·일자리 분야 대책에 젠더 관점 도입
5. AI 돌봄 정책에 돌봄 가치와 돌봄 정의 관점 개입
6. AI 악용 젠더폭력에 대한 플랫폼 책임 강화
1. AI 분야 통합적 성평등 목표 및 액션플랜 수립
○ 액션플랜 번호: 없음
○ 수정 내용
: (신규 추가) AI 분야 성평등 실현 과제 및 액션플랜 수립
○ 제안 이유
2. AI 정책 결정 구조에 성평등 관점 반영 및 AI 분야 성평등한 참여 보장
○ 액션플랜 번호: 26, 54, 55, 82, 83
○ 수정 내용
: (26) 단순히 경력 단절을 해소하는 수준의 단기적 대책을 넘어 기술 분야의 특수성을 고려한 교육과 산업 전반의 성차별 해소와 여성 참여 증진 방안 마련
: (54) 공공 AI 영향 평가 요소에 성별영향평가를 포함하고, AI 관련 성별 통계 공개
: (55) 성평등가족부, 국가인권위원회 등 인권과 평등 문제를 다루는 전문 부처가 공공부문 윤리기준 마련을 위한 협력 부처로 포함
: (82) AI 윤리 포럼에 특정 성별이 60%를 넘지 않도록 하여 성평등한 참여를 보장
: (83) 성평등 분야 전문가와 단체가 거버넌스에 참여
○ 제안 이유
: 2020년 발표된 인공지능(AI)기술 연구 및 전문인력양성 정책 특정성별영향평가에 따르면, 인공지능 분야 산업계, 학계, 국가연구개발산업 연구 인력의 여성 비율은 20% 내외이며 고위급으로 갈수록 여성 비율이 5% 내외로 줄어듦. 이와 같은 AI 분야의 성별 격차는 단순히 출산·육아에 따른 경력 단절로 인한 것이 아니며, 교육, 고용, 승진 등 전 과정에서의 구조적 성차별로 인한 결과임. 따라서 단기적·경제적 관점에서의 경력 단절 해소 방안을 넘어, 교육, 산업, 정책 등 AI 분야 전반의 성평등한 참여를 보장하는 관점으로 전환하여 여성 참여 증진 방안을 마련할 필요 있음.
: 성평등한 관점과 민주적 정당성 확보를 위해 정책 결정에 관여하는 기구 전반에서 성평등한 참여가 보장되어야 함.
: 성평등 분야에서 전문성을 가진 부처와 단체, 전문가가 AI 관련 정책 수립 과정에 참여하여 AI 시대 노동, 돌봄, 복지, 미디어, 문화 등 사회 전 분야에 있어 성별에 따른 영향을 파악하고 정책에 반영하여야 함. 특히, 인공지능 윤리 정책에 적극적으로 참여하여 AI가 일으키는 성편향, 차별·혐오 및 폭력 등 문제에 대응할 필요가 있음.
3. 평등·인권 가치에 기반한 AI 윤리 마련
○ 액션플랜 번호: 55, 80, 82, 92
○ 수정 내용
: (55) 성차별을 비롯한 AI의 차별 문제에 대응할 공공부문 윤리기준이 마련되어야 함
: (80) ｢모두를 위한 AI 기본 사회 추진계획｣ 수립에 있어 평등권, 정보권, 절차적 권리 등 인권 보장을 기본 원칙으로 삼아야 함
: (82) 인공지능 윤리기준 점검 시 성평등관점이 포함될 수 있도록 협력부에 성평등가족부를 추가. 자율적 윤리기준 외 공적 감독·책임과 연동되는 의무적 평가도구로 재설계
: (92) 전 세대·집단 대상 AI 기본 역량 교육에 차별·혐오 예방과 인권 보장 내용 포함
○ 제안 이유
: 공공부문 AI 윤리기준 마련 관련, 안전성과 신뢰성 확보가 필요함. 기준이 되는 「인공지능기본법」과 시행령(안)은 AI의 안전성과 신뢰성을 보장하는 데에 미흡하며, 특히 AI가 유발하는 혐오·차별의 문제에 대응할 방안을 규정하고 있지 않음. 따라서 상위법의 개정과 함께 성차별을 비롯한 AI의 차별 문제에 대응할 공공부문 윤리기준이 마련되어야 함. 성평등가족부, 국가인권위원회 등 인권과 평등 문제를 다루는 부처가 공공부문 윤리기준 마련을 위한 협력 부처로 포함되어야 함.
: 특히 ｢모두를 위한 AI 기본 사회 추진계획｣ 수립에 있어 평등권, 정보권, 절차적 권리 등 인권 보장을 기본 원칙으로 하지 않으면 산업 증진을 내세워 AI 기술 도입이 개인들에게 미치는 부정적 영향은 제대로 다뤄지지 못할 것임. 지금처럼 ‘AI 고속도로’, ‘AI 시대의 승리’만을 외치며 ‘AI 기본 사회’가 이미 국민적 합의를 이룬 것인 양 관련 규제 완화와 기술개발·활용 정책만을 이야기하는 것은 문제임.
: AI 시스템 개발에 있어 윤리적 고려 사항을 AI 개발 사업자 및 이용 사업자가 자율 점검하도록 할 경우 성차별 방지를 비롯한 AI 윤리를 준수할 책임성이 보장되지 않는 문제가 있음.
따라서 기존 「인공지능 윤리기준」 실천을 위한 자율 점검표 고도화만으로는 AI 개발에서 안전성과 사회적 책임 등을 보장하기 어려움. AI 윤리 준수에 있어 공적 감독 및 책임을 강화하는 방안이 필요함.
: AI 기반 추천 및 생성 시스템은 중립적이지 않음. 기존 사회의 차별 구조를 증폭시키는 방식으로 작동할 수 있음. 특히 여성과 소수자는 혐오·왜곡된 방식으로 재현될 가능성이 높음. 하여, 여성을 비롯한 사회적 소수자들이 겪고 있는 전 세대·집단 대상 AI 기본 역량 교육에 차별 혐오 예방을 위한 윤리 교육이 이뤄질 수 있도록 해야 함.
4. AI 시대 경제·일자리 분야 대책에 젠더 관점 도입
○ 액션플랜 번호: 86, 87
○ 수정 내용
: (86) AI가 개인의 생애 경제에 미치는 영향 및 대응 전략에 관한 연구에 성평등가족부가 참여, 성별 요소를 고려하도록 하며 「AI 시대 중장기 생애 경제 지원방안」 논의 및 수립 과정에도 성평등가족부가 참여하도록 함.
: (87) 「AI 시대 일자리 변화 대응 및 고용안정 종합계획」 수립 과정에서 고용노동부의 성인지적 관점의 정책 마련뿐 아니라 협력부로 성평등가족부가 참여하도록 해야 함.
○ 제안 이유
5. AI 돌봄 정책에 돌봄 가치와 돌봄 정의 관점 개입
○ 액션플랜 번호: 88, 89
○ 수정 내용
: (88) AI의 선제적 도입과 사후적 문제 해결이 아닌, 돌봄 현장에 대한 실질적인 이해에 기반한 AI 도입 여부 판단이 이뤄질 수 있도록 돌봄 당사자가 AI 돌봄 정책 수립 과정에 참여
: (89) 복지부의 ‘AI 활용 건강관리 고도화 방안’, 질병관리청의 ‘AI 건강 정보 제공 체계’ 구축 계획 등에 의료정보 제공자인 개인의 권리침해 방지 대책, 보안관리 체계 구축에 대한 강도 높은 대책 포함
○ 제안 이유
: 돌봄 영역의 AI 활용이 효율성 중심으로 설계될 경우, 오히려 돌봄 당사자의 고립과 편향적 인식 강화해 실제 돌봄 노동자와 돌봄 서비스를 이용하는 이들 간의 관계성을 삭제하거나 배제할 위험이 있음. AI는 돌봄 부담을 완화하는 수단이 될 수 있으나, 논의 과정에는 사회적 책임을 기술에 전가하는 방식으로 작동해서는 안 됨. 돌봄을 비롯한 복지 분야에서의 AI 기술 도입은 최소한의 원칙으로 진행되어야 하며, AI 기반 복지 예측 및 정책 설계 과정에 돌봄 당사자(노인, 장애인, 여성 돌봄 노동자 등)의 참여를 보장해야 함.
: 일본 개호노동안정센터가 조사한 ‘2022년 사업소의 개호노동실태’ 보고서를 보면, 환자의 이동을 돕는 이송 지원 로봇을 도입한 곳은 전체 8,632개 사업소 중 2.4%에 불과했음. 이처럼 일본은 이미 돌봄 로봇을 도입하여 사용하고 있지만 이용률이 높지 않음. 비용의 문제도 있지만 로봇 때문에 사람과 사람 사이의 접촉이 줄어서 돌봄 종사자나 노인들 모두 계속 쓰는 것을 꺼린다는 것임.
: 고비용의 피지컬 AI 도입 및 상용화는 일부만을 위한 정책에 머물러 ‘돌봄의 접근성 확대’가 아닌 지역 간, 계층 간 격차의 양극화를 더욱 강화할 것임.
: 돌봄노동의 과부하를 완화한다는 명목으로 AI 돌봄 서비스를 확대하고자 하는 것은 돌봄의 구조적 문제를 외면하고 경제성 논리로만 보는 것임. 여성이 다수인 돌봄 노동자의 일자리감소 우려에 따른 대책과 처우개선이 선행되어야 함. 또한 돌봄 로봇 또는 AI 보조장치의 오판 또는 오작동으로 인한 사고 및 부상에 대한 예방책과 발생 시 책임 주체 구체화 등 실제 현장에서 발생할 문제에 대한 논의가 기술 도입보다 우선되어야 할 필요가 있음.
: 지역 간 의료접근 격차 완화는 시급히 해결해야 하는 과제지만 AI 기술 도입이 수집한 의료정보를 포함해 민감한 개인정보의 오용을 예방하기 위한 강력한 예방책이 우선 마련되어야 함. 행동계획에는 의료종사자 대상 AI 윤리와 활용에 대한 교육을 지원한다는 내용만 있을 뿐 축적된 의료정보 관리 체계에 대한 보안 문제에 대해서는 구체적인 대책은 찾기 어려움.
6. AI 악용 젠더폭력에 대한 플랫폼 책임강화
○ 액션플랜 번호: 90
○ 수정 내용
: (신규 추가) 기술 설계 단계에서부터 성폭력 예방을 고려한 구조적 조치 포함 등 플랫폼 및 AI 개발기업이 성폭력 확산 방지를 위한 책임을 부담하도록 명시
○ 제안 이유
: AI 기반 성폭력은 단순한 범죄 유형을 넘어, 기술 구조가 여성의 신체와 이미지를 착취 대상으로 재구성하는 구조적 인권 침해에 해당. 현재의 정책은 사후 대응에 집중되어 있으며, 여성 피해자의 삶과 존엄 회복을 중심에 둔 접근이 필요함.
: 실제로 딥페이크 범죄의 주요 피해자는 여성인 경우가 많으며, 성적 이미지 조작과 명예훼손이 결합될 경우 회복하기 어려운 사회적 피해로 이어짐. AI 기술이 고도화될수록 성폭력의 일상화와 확산 위험이 커지는 만큼 플랫폼 및 AI 개발기업에게 사회적 책임을 부과하는 등 구조적 예방을 중심으로 한 정책 개입이 필요함.
2025년 1월 4일
한 국 여 성 민 우 회
※ 한국여성민우회는 본 의견서로 대통령직속 국가인공지능전략위원회에 "대한민국 인공지능 행동계획(안)"의 의견서로 제출하였습니다. (링크)
※ 하단 파일첨부: 한국여성민우회_「대한민국 인공지능 행동계획(안)」에 대한 의견서_20260114