1.
인공지능기본법, 페미니스트가 질문합니다!
2.
올해 1월 22일부터 「인공지능기본법」과 시행령 등이 시행됐다는데, 그게 무슨 법이야?
AI의 발전과 신뢰 기반 조성에 필요한 기본적인 사항을 규정하는 법이야.
개념정의, 국가 등의 책무, 관련 정책과 기구, 안전과 윤리, 발전 방책 등을 다루고 있지.
“국민의 권익과 존엄성 보호”가 목적 중 하나라는 이 법이, 그 목적을 다할 수 있을까?
3.
질문 하나. AI 정책 결정 구조에 젠더 관점은?
법에서는 대통령 소속 ‘국가인공지능전략위원회’를 두어 AI 주요 정책 등을 심의·의결하도록 했는데,
시행령이 규정하는 위원회를 구성하는 정부 부처 구성에 성평등가족부는 빠져 있어!
(시행령 내용 이미지 캡처
제4조(국가인공지능전략위원회의 구성 등) ① 법 제7조제4항제1호에서 “대통령령으로 정하는 관계 중앙행정기관”이란 다음 각 호의 중앙행정기관을 말한다.
1. 재정경제부 2. 과학기술정보통신부 3. 교육부 4. 외교부 5. 법무부 6. 국방부 7. 행정안전부 8. 문화체육관광부 9. 산업통상부 10. 보건복지부 11. 기후에너지환경부 12. 고용노동부 13. 중소벤처기업부 14. 기획예산처 15. 방송미디어통신위원회 16. 개인정보 보호위원회)
“특정 성으로만 위원회를 규정할 수 없다”는 규정도 성평등한 참여를 실질적으로 보장하기는 한참 부족해.
4.
AI가 재생산하는 성차별과 혐오,
AI를 이용한 ‘딥페이크’ 성폭력,
비정규직과 돌봄,상담 등 여성 비율이 높은 일자리의 AI 도입 문제 등이
전문 부처 없이 정책 논의 과정에서 충분히 다뤄질 수 있을까?
5.
질문 둘. AI가 일으키는 차별과 혐오 문제에 대한 대책은?
한참 부족해.
법에서 “생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능 시스템”을 “고영향 인공지능”으로 규정하는데,
(법령 내용 이미지 캡처
4. “고영향 인공지능”이란 사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템으로서 다음 각 목의 어느 하나의 영역에서 활용되는 것을 말한다.
가. 「에너지법」 제2조제1호에 따른 에너지의 공급
나. 「먹는물관리법」 제3조제1호에 따른 먹는물의 생산 공정
다. 「보건의료기본법」 제3조제1호에 따른 보건의료의 제공 및 이용체계의 구축ㆍ운영
라. 「의료기기법」 제2조제1항에 따른 의료기기 및 「디지털의료제품법」 제2조제2호에 따른 디지털의료기기의 개발 및 이용
마. 「원자력시설 등의 방호 및 방사능 방재 대책법」 제2조제1항제1호에 따른 핵물질과 같은 항 제2호에 따른 원자력시설의 안전한 관리 및 운영
바. 범죄 수사나 체포 업무를 위한 생체인식정보(얼굴ㆍ지문ㆍ홍채 및 손바닥 정맥 등 개인을 식별할 수 있는 신체적ㆍ생리적ㆍ행동적 특징에 관한 개인정보를 말한다)의 분석ㆍ활용
사. 채용, 대출 심사 등 개인의 권리ㆍ의무 관계에 중대한 영향을 미치는 판단 또는 평가
아. 「교통안전법」 제2조제1호부터 제3호까지에 따른 교통수단, 교통시설, 교통체계의 주요한 작동 및 운영
자. 공공서비스 제공에 필요한 자격 확인 및 결정 또는 비용징수 등 국민에게 영향을 미치는 국가, 지방자치단체, 「공공기관의 운영에 관한 법률」 제4조에 따른 공공기관 등(이하 “국가기관등”이라 한다)의 의사결정
차. 「교육기본법」 제9조제1항에 따른 유아교육ㆍ초등교육 및 중등교육에서의 학생 평가
카. 그 밖에 사람의 생명ㆍ신체의 안전 및 기본권 보호에 중대한 영향을 미치는 영역으로서 대통령령으로 정하는 영역)
이 범주에 차별과 혐오의 위험에 관한 내용은 채용, 대출심사, 학생평가 등 좁고 불분명하게 규정되어 있어.
그리고 고영향 인공지능에 대해 위험관리 방안의 수립과 사람의 관리감독 등 일정 부분 책무를 부과하지만, 원천금지하는 등 강한 제재는 없어.
6.
반면 해외 사례로 EU의 ‘AI Act’에서는 사람이나 특정 단체의 취약성을 활용하거나,
특정 사람 또는 단체에 불공정한 처우 또는 사회적 점수 평가 또는 분류를 목적으로 하는 AI를
“고위험 인공지능”으로 폭넓게 규정하여 금지하고 있지.
(말풍선: EU에서는 평등권 침해와 민주주의에 대한 위협을 AI ‘위험’으로 중요하게 다루는 거야.)
(말풍선: 해외 사례가 있다면 한국에서도 규제가 불가능한 것은 아니겠네!)
7.
질문 셋. AI로 인해 직접 영향을 받는 사람들의 권리 보장은?
법은 AI에 의해 “생명, 신체의 안전 및 기본권에 중대한 영향을 받는 자”를 “영향받는 자”라고 규정하고,
영향 받는 자는 AI의 최종결과에 대하여 명확하고 의미 있는 설명을 제공받을 수 있어야 한다고 정하고 있어.
(채용 AI에서 구직자, 의료AI에서 환자, 금융평가AI에서 대출신청자, 차별 받는 여성, 소수자…)
하지만 그 설명을 어떻게 제공받을지,
영향받는 자가 권익을 침해당하면 어떻게 구제받을 수 있는지
등의 자세한 사항은 찾아보기 어렵지.
8.
질문 넷. 왜 이런 문제들이 생긴 걸까?
AI 정책이 인권과 사회 정의를 고려한 AI의 안전한 활용을 우선하기보다,
기술 발전과 산업 진흥을 우선하고 있기 때문이야.
그러다 보니 AI 개발자·사업자의 책무와 규제 방안이 제대로 규정되지 않은 거지.
(기사 캡처: AI 기본법 시행 앞두고... 정부 "규제보다 진흥" / 고영향 AI·초거대 모델 기준 제시... 기업 부담 최소화 강조 / 다만, 법 시행이 이제 갓 싹트는 국내 AI 업계의 발전 가능성을 저해할 수 있다는 우려가 쏟아지자 정부는 사실 조사권 발동과 과태료 부과를 1년 이상 유예하겠다고 밝혔다.)
9.
그럼 어떻게 해야 할까?
「인공지능기본법」뿐만 아니라 AI 관련 정책이 더 성평등하게 개선될 수 있도록 계속 관심을 갖고 개입해야 해!
〈페미니스트가 함께 만든 AI 가이드라인〉 함께 읽고
내가 할 수 있는 일은 무엇이 있을지 고민하고 이야기 나눠볼까요?
곧 모임이 열리니 민우회 소식에 주목해주세요!
1.
인공지능기본법, 페미니스트가 질문합니다!
2.
올해 1월 22일부터 「인공지능기본법」과 시행령 등이 시행됐다는데, 그게 무슨 법이야?
AI의 발전과 신뢰 기반 조성에 필요한 기본적인 사항을 규정하는 법이야.
개념정의, 국가 등의 책무, 관련 정책과 기구, 안전과 윤리, 발전 방책 등을 다루고 있지.
“국민의 권익과 존엄성 보호”가 목적 중 하나라는 이 법이, 그 목적을 다할 수 있을까?
3.
질문 하나. AI 정책 결정 구조에 젠더 관점은?
법에서는 대통령 소속 ‘국가인공지능전략위원회’를 두어 AI 주요 정책 등을 심의·의결하도록 했는데,
시행령이 규정하는 위원회를 구성하는 정부 부처 구성에 성평등가족부는 빠져 있어!
(시행령 내용 이미지 캡처
제4조(국가인공지능전략위원회의 구성 등) ① 법 제7조제4항제1호에서 “대통령령으로 정하는 관계 중앙행정기관”이란 다음 각 호의 중앙행정기관을 말한다.
1. 재정경제부 2. 과학기술정보통신부 3. 교육부 4. 외교부 5. 법무부 6. 국방부 7. 행정안전부 8. 문화체육관광부 9. 산업통상부 10. 보건복지부 11. 기후에너지환경부 12. 고용노동부 13. 중소벤처기업부 14. 기획예산처 15. 방송미디어통신위원회 16. 개인정보 보호위원회)
“특정 성으로만 위원회를 규정할 수 없다”는 규정도 성평등한 참여를 실질적으로 보장하기는 한참 부족해.
4.
AI가 재생산하는 성차별과 혐오,
AI를 이용한 ‘딥페이크’ 성폭력,
비정규직과 돌봄,상담 등 여성 비율이 높은 일자리의 AI 도입 문제 등이
전문 부처 없이 정책 논의 과정에서 충분히 다뤄질 수 있을까?
5.
질문 둘. AI가 일으키는 차별과 혐오 문제에 대한 대책은?
한참 부족해.
법에서 “생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능 시스템”을 “고영향 인공지능”으로 규정하는데,
(법령 내용 이미지 캡처
4. “고영향 인공지능”이란 사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템으로서 다음 각 목의 어느 하나의 영역에서 활용되는 것을 말한다.
가. 「에너지법」 제2조제1호에 따른 에너지의 공급
나. 「먹는물관리법」 제3조제1호에 따른 먹는물의 생산 공정
다. 「보건의료기본법」 제3조제1호에 따른 보건의료의 제공 및 이용체계의 구축ㆍ운영
라. 「의료기기법」 제2조제1항에 따른 의료기기 및 「디지털의료제품법」 제2조제2호에 따른 디지털의료기기의 개발 및 이용
마. 「원자력시설 등의 방호 및 방사능 방재 대책법」 제2조제1항제1호에 따른 핵물질과 같은 항 제2호에 따른 원자력시설의 안전한 관리 및 운영
바. 범죄 수사나 체포 업무를 위한 생체인식정보(얼굴ㆍ지문ㆍ홍채 및 손바닥 정맥 등 개인을 식별할 수 있는 신체적ㆍ생리적ㆍ행동적 특징에 관한 개인정보를 말한다)의 분석ㆍ활용
사. 채용, 대출 심사 등 개인의 권리ㆍ의무 관계에 중대한 영향을 미치는 판단 또는 평가
아. 「교통안전법」 제2조제1호부터 제3호까지에 따른 교통수단, 교통시설, 교통체계의 주요한 작동 및 운영
자. 공공서비스 제공에 필요한 자격 확인 및 결정 또는 비용징수 등 국민에게 영향을 미치는 국가, 지방자치단체, 「공공기관의 운영에 관한 법률」 제4조에 따른 공공기관 등(이하 “국가기관등”이라 한다)의 의사결정
차. 「교육기본법」 제9조제1항에 따른 유아교육ㆍ초등교육 및 중등교육에서의 학생 평가
카. 그 밖에 사람의 생명ㆍ신체의 안전 및 기본권 보호에 중대한 영향을 미치는 영역으로서 대통령령으로 정하는 영역)
이 범주에 차별과 혐오의 위험에 관한 내용은 채용, 대출심사, 학생평가 등 좁고 불분명하게 규정되어 있어.
그리고 고영향 인공지능에 대해 위험관리 방안의 수립과 사람의 관리감독 등 일정 부분 책무를 부과하지만, 원천금지하는 등 강한 제재는 없어.
6.
반면 해외 사례로 EU의 ‘AI Act’에서는 사람이나 특정 단체의 취약성을 활용하거나,
특정 사람 또는 단체에 불공정한 처우 또는 사회적 점수 평가 또는 분류를 목적으로 하는 AI를
“고위험 인공지능”으로 폭넓게 규정하여 금지하고 있지.
(말풍선: EU에서는 평등권 침해와 민주주의에 대한 위협을 AI ‘위험’으로 중요하게 다루는 거야.)
(말풍선: 해외 사례가 있다면 한국에서도 규제가 불가능한 것은 아니겠네!)
7.
질문 셋. AI로 인해 직접 영향을 받는 사람들의 권리 보장은?
법은 AI에 의해 “생명, 신체의 안전 및 기본권에 중대한 영향을 받는 자”를 “영향받는 자”라고 규정하고,
영향 받는 자는 AI의 최종결과에 대하여 명확하고 의미 있는 설명을 제공받을 수 있어야 한다고 정하고 있어.
(채용 AI에서 구직자, 의료AI에서 환자, 금융평가AI에서 대출신청자, 차별 받는 여성, 소수자…)
하지만 그 설명을 어떻게 제공받을지,
영향받는 자가 권익을 침해당하면 어떻게 구제받을 수 있는지
등의 자세한 사항은 찾아보기 어렵지.
8.
질문 넷. 왜 이런 문제들이 생긴 걸까?
AI 정책이 인권과 사회 정의를 고려한 AI의 안전한 활용을 우선하기보다,
기술 발전과 산업 진흥을 우선하고 있기 때문이야.
그러다 보니 AI 개발자·사업자의 책무와 규제 방안이 제대로 규정되지 않은 거지.
(기사 캡처: AI 기본법 시행 앞두고... 정부 "규제보다 진흥" / 고영향 AI·초거대 모델 기준 제시... 기업 부담 최소화 강조 / 다만, 법 시행이 이제 갓 싹트는 국내 AI 업계의 발전 가능성을 저해할 수 있다는 우려가 쏟아지자 정부는 사실 조사권 발동과 과태료 부과를 1년 이상 유예하겠다고 밝혔다.)
9.
그럼 어떻게 해야 할까?
「인공지능기본법」뿐만 아니라 AI 관련 정책이 더 성평등하게 개선될 수 있도록 계속 관심을 갖고 개입해야 해!
〈페미니스트가 함께 만든 AI 가이드라인〉 함께 읽고
내가 할 수 있는 일은 무엇이 있을지 고민하고 이야기 나눠볼까요?
곧 모임이 열리니 민우회 소식에 주목해주세요!