지난 2024년 1월 23일 공포되고 2026년 1월 22일 시행을 앞둔 「인공지능발전과 신뢰기반 조성에 관한 법률(이하 인공지능법」)의 하위법령인 시행령안, 고시안, 가이드라인안 등이 9월 17일 공개되었습니다.
이후 11월 13일 시행령안이 입법예고되고 12월 23일까지 입법 의견 수렴을 거치는 중입니다.
과학기술정보통신부는 지난 9월 공개된 초안에 대한 시민사회의 의견을 이번 「인공지능법」시행령 입법예고안에 거의 반영하지 않았습니다.
이에 시행령 입법예고안에 대한 시민사회 의견서를 제출하면서, 이에 대한 기자 설명회를 아래와 같이 개최했습니다.
기자 설명회에 민우회도 공동주최로 함께했습니다!
(▲이미지: 기자설명회 패널들이 나란히 앉아있는 모습 사진)
"2026년 1월 인공지능법 시행, 어떤 일이 벌어지나"
〈인공지능기본법 시행령안 등 하위법령의 문제점과 대안〉 기자설명회
- 일시 및 장소: 2025년 12월 8일 오전 10시 30분, 참여연대 아름드리홀
- 공동주최: 민주사회를 위한 변호사 모임 디지털정의위원회, 디지털정의네트워크, 정보인권연구소, 참여연대, 공공운수노조, 문화연대, 미디어기독연대, 민주주의법학연구회, 보건의료단체연합(건강권실현을위한행동하는간호사회,건강사회를위한약사회,건강사회를위한치과의사회,노동건강연대,인도주의실천의사협의회,참의료실현청년한의사회), 시민사회단체연대회의, 서울YMCA시민중계실,언론개혁시민연대 정책위원회, 인권교육온다, 전국교직원노동조합, 전국금속노동조합,전국민주노동조합총연맹, 청소년인권운동연대 지음, 표현의 자유와 언론탄압공동대책위원회, 한국소비자연맹, 한국여성민우회, 한국여성소비자연합(이상 21개 단체)
- 프로그램:
- 사회: 참여연대 공익법센터 이지은 선임간사
- 하위법령(안)의 핵심 문제(1): 디지털정의네트워크 오병일 대표
- 하위법령(안)의 핵심 문제(2): 민주사회를 위한 변호사모임 디지털정보위원회 김하나 위원장
- 하위법령(안)의 부문별 문제점 및 제안
■ 노동: 공공운수노조 든든한콜센터지부 김현주 지부장
■ 교육: 전국교직원노동조합 참교육연구소 최선정 소장 겸 대변인
■ 문화예술: 문화연대 하장호 정책위원장
■ 보건의료: 보건의료단체연합 전진한 정책국장
■ 소비자: 한국소비자연맹 정지연 사무총장
(▲이미지: 기자설명회 패널들이 '고위험 인공지능 규제 미비 인공지능기본법 하위법령 철회하라', '사회적약자 데이터 보호 미비 인공지능기본법 하위법령 철회하라', '인공지능 사업자 책무 위반 제대로 규제하라', '개인정보 보호의무 방기하는 인공지능기본법 규탄한다'라고 쓰인 손피켓을 들고 포즈를 취하고 있는 사진)
디지털정의네트워크 오병일 대표와 민주사회를위한변호사모임 디지털정보위원회 김하나 위원장이 「인공지능법」하위법령안의 핵심 문제를 발표하였습니다.
입법 예고안의 핵심 문제로는 '영향 받는 자(인공지능으로 인해 실제로 영향을 받는 자로 채용 AI에서의 구직자, 노동 평가 AI에서의 노동자, 각종 산업 AI에서의 노동자와 소비자, 교육 분야 AI에서의 교사와 학생, 보건의료 AI에서의 환자 등을 말한다. AI시스템을 이용하는 사업자인 '이용자'와는 구분된다.)'의 권리 보호 및 구제를 위한 아무런 조치도 포함하고 있지 않다는 점이 짚어졌습니다.
또한 상위법인 「인공지능법」에서부터 지적되는 문제로서, 한국의 「인공지능법」은 공공장소에서 얼굴을 인식하거나 직장과 학교에서 감정을 인식하고, 사회적 소수자를 공격하고 혐오차별을 야기하는 등 기본권을 침해할 소지가 큰 인공지능 시스템을 원천 금지하는 규정이 없는데요. 그렇다면 시행령에서라도 이를 충분히 규율해야 하는데, 그러한 규정을 두고 있지 않습니다. 게다가, 「인공지능법」에서 시행령으로 위임한 '고영향 인공지능(에너지 공급, 식수 공급, 보건의료, 원자력시설관리, 범죄수사나 체포를 위한 생체인식정보 분석 활용, 교통, 공공기관의 의사결정, 교육에서의 학생평가 등 안전 및 기본권에 영향을 미치는 인공지능시스템)'에 관한 사항에 대해서도 아무런 규정을 두지 않고 있습니다.
또 하나의 큰 한계점으로, 인공지능이 미치는 영향에 대한 책무를 지는 사업자를 매우 협소하게 규정하고 있다는 점이 있었습니다. 인공지능을 업무에 사용하는 사업자를 모두 '이용자'로 보고 책무를 배제하고 있기 때문인데요. 이에 따르면 인공지능을 이용하는 병원, 채용기업, 금융기관 등 인공지능을 이용하는 사업자는 법률상 '이용자'에 해당하므로 환자, 구직자, 대출신청자 등 '영향받는 자'에 대하여 책임을 질 필요가 없습니다.
그리고 이번 시행령안에서는 안전성 확보 의무가 적용되는 최첨단 인공지능의 기준으로 '학습에 사용된 누적 연산량이 10의 26승 이상'으로 매우 좁게 설정하고 있는데, 실제 이에 해당하는 인공지능 시스템이 한국에 거의 없을 정도로 협소한 기준이라는 점이 짚어졌습니다. 지금의 주요 최첨단 인공지능을 포괄하려면 10의 25승 이상으로 기준을 바꿀 필요가 있습니다.
이 밖에도 설명회에서 언급되지는 않았지만, 시민사회 의견서에는 이번 하위법령안의 한계로서 인공지능을 이용하여 영상 등을 제작하거나 배포하는 이들을 이용자로 규정하여 딥페이크물을 표시해야 하는 의무를 면제하고 있다는 점, 「인공지능법」의 적용에서 면제되는 '국방 또는 국가 안보 목적으로 개발 이용되는 인공지능' 분야를 폭넓게 인정하고 있다는 점, 법률에서 위임하지 않은 사실조사의 면제를 규정하거나 상당 기간의 계도기간을 운영하도록 하여 인공지능으로 인한 안전사고나 인권 침해가 발생하여도 국가가 행정조사나 과태료 부과를 포기한 점 등이 지적되었습니다.
이어서 노동, 교육, 문화, 보건의료, 소비자 부문의 문제점이 발표되었습니다.
각각의 현장에서 이미 민감정보 수집 및 관리, 상담, 평가, 창작 등에 AI가 무분별하게 도입되어 활용되고 있습니다.
금융 콜센터 현장에서는 이미 AI 상담이 일반화되어 노동자가 해고되고, 소비자들은 AI에 맞춰 불편을 감수하며, 소비자들의 금융, 소비패턴 등에 대한 정보가 AI에 의해 수집되어 활용되는 등의 변화가 발생하고 있음이 이야기되었습니다.
교육 현장에서도 학생과 교원 평가에 AI 활용이 예정되어 있으나, 이에 대한 책임 주체는 명확하지 않은 상황입니다.
문화예술 분야에서도 AI가 창작에 이용되고, 저작권 등 권리 문제를 일으키고 있으나 「인공지능기본법」과 하위법령안에서는 문화예술 분야에 대한 언급 자체가 되지 않음이 지적되었습니다.
의료 분야에서도 AI가 환자의 의료 정보 수집 및 분석, 진단 등에 아무런 기준 없이 도입되어 활용되고 있으며, 환자들은 이에 대한 정보를 충분히 제공 받지 못하고 있습니다.
소비자들 역시 기업의 AI 활용에 관한 충분한 정보를 제공 받지 못하고 있고, 개인정보 등 권리를 보장받지 못하고 있음이 이야기되었는데요. 특히 아동, 노인 등 사회적 약자에 대한 보호 조치가 법률과 시행령에 규정되어 있지 않은 점이 문제로 지적되었습니다.
사회 전방위에서 인공지능의 활용이 급증하고 있는 만큼, 노동자, 소비자, 학생과 교사, 환자, 창작자 등 '영향 받는 자'들의 기본권을 보장할 제도가 「인공지능법」과 하위법령에서 보완될 필요가 있습니다.
이번에 의견을 수렴 중인 「인공지능기본법」 하위법령안에는
인공지능에 관한 주요 정책을 심의의결하는 대통령 소속 국가인공지능위원회 구성원에 성평등가족부 등 젠더 관점의 개입을 할 주체가 포함되지 않고,
위원회를 특정 성별로만 구성할 수 없음을 규정하는 데에 그쳐 여성 대표성을 확보하기 위한 규정이 미흡하며,
인공지능 성별영향평가 의무에 관한 규정이 포함되지 않는 등 젠더 관점에서도 한계점이 많았습니다.
인공지능의 사회적 영향력이 점점 커지고 있는 만큼, 인공지능 관련 법제에 대한 젠더 관점의 지속적인 문제 제기와 개입이 필요하겠습니다!
지난 2024년 1월 23일 공포되고 2026년 1월 22일 시행을 앞둔 「인공지능발전과 신뢰기반 조성에 관한 법률(이하 인공지능법」)의 하위법령인 시행령안, 고시안, 가이드라인안 등이 9월 17일 공개되었습니다.
이후 11월 13일 시행령안이 입법예고되고 12월 23일까지 입법 의견 수렴을 거치는 중입니다.
과학기술정보통신부는 지난 9월 공개된 초안에 대한 시민사회의 의견을 이번 「인공지능법」시행령 입법예고안에 거의 반영하지 않았습니다.
이에 시행령 입법예고안에 대한 시민사회 의견서를 제출하면서, 이에 대한 기자 설명회를 아래와 같이 개최했습니다.
기자 설명회에 민우회도 공동주최로 함께했습니다!
(▲이미지: 기자설명회 패널들이 나란히 앉아있는 모습 사진)
"2026년 1월 인공지능법 시행, 어떤 일이 벌어지나"
〈인공지능기본법 시행령안 등 하위법령의 문제점과 대안〉 기자설명회
- 사회: 참여연대 공익법센터 이지은 선임간사
- 하위법령(안)의 핵심 문제(1): 디지털정의네트워크 오병일 대표
- 하위법령(안)의 핵심 문제(2): 민주사회를 위한 변호사모임 디지털정보위원회 김하나 위원장
- 하위법령(안)의 부문별 문제점 및 제안
■ 노동: 공공운수노조 든든한콜센터지부 김현주 지부장
■ 교육: 전국교직원노동조합 참교육연구소 최선정 소장 겸 대변인
■ 문화예술: 문화연대 하장호 정책위원장
■ 보건의료: 보건의료단체연합 전진한 정책국장
■ 소비자: 한국소비자연맹 정지연 사무총장
(▲이미지: 기자설명회 패널들이 '고위험 인공지능 규제 미비 인공지능기본법 하위법령 철회하라', '사회적약자 데이터 보호 미비 인공지능기본법 하위법령 철회하라', '인공지능 사업자 책무 위반 제대로 규제하라', '개인정보 보호의무 방기하는 인공지능기본법 규탄한다'라고 쓰인 손피켓을 들고 포즈를 취하고 있는 사진)
디지털정의네트워크 오병일 대표와 민주사회를위한변호사모임 디지털정보위원회 김하나 위원장이 「인공지능법」하위법령안의 핵심 문제를 발표하였습니다.
입법 예고안의 핵심 문제로는 '영향 받는 자(인공지능으로 인해 실제로 영향을 받는 자로 채용 AI에서의 구직자, 노동 평가 AI에서의 노동자, 각종 산업 AI에서의 노동자와 소비자, 교육 분야 AI에서의 교사와 학생, 보건의료 AI에서의 환자 등을 말한다. AI시스템을 이용하는 사업자인 '이용자'와는 구분된다.)'의 권리 보호 및 구제를 위한 아무런 조치도 포함하고 있지 않다는 점이 짚어졌습니다.
또한 상위법인 「인공지능법」에서부터 지적되는 문제로서, 한국의 「인공지능법」은 공공장소에서 얼굴을 인식하거나 직장과 학교에서 감정을 인식하고, 사회적 소수자를 공격하고 혐오차별을 야기하는 등 기본권을 침해할 소지가 큰 인공지능 시스템을 원천 금지하는 규정이 없는데요. 그렇다면 시행령에서라도 이를 충분히 규율해야 하는데, 그러한 규정을 두고 있지 않습니다. 게다가, 「인공지능법」에서 시행령으로 위임한 '고영향 인공지능(에너지 공급, 식수 공급, 보건의료, 원자력시설관리, 범죄수사나 체포를 위한 생체인식정보 분석 활용, 교통, 공공기관의 의사결정, 교육에서의 학생평가 등 안전 및 기본권에 영향을 미치는 인공지능시스템)'에 관한 사항에 대해서도 아무런 규정을 두지 않고 있습니다.
또 하나의 큰 한계점으로, 인공지능이 미치는 영향에 대한 책무를 지는 사업자를 매우 협소하게 규정하고 있다는 점이 있었습니다. 인공지능을 업무에 사용하는 사업자를 모두 '이용자'로 보고 책무를 배제하고 있기 때문인데요. 이에 따르면 인공지능을 이용하는 병원, 채용기업, 금융기관 등 인공지능을 이용하는 사업자는 법률상 '이용자'에 해당하므로 환자, 구직자, 대출신청자 등 '영향받는 자'에 대하여 책임을 질 필요가 없습니다.
그리고 이번 시행령안에서는 안전성 확보 의무가 적용되는 최첨단 인공지능의 기준으로 '학습에 사용된 누적 연산량이 10의 26승 이상'으로 매우 좁게 설정하고 있는데, 실제 이에 해당하는 인공지능 시스템이 한국에 거의 없을 정도로 협소한 기준이라는 점이 짚어졌습니다. 지금의 주요 최첨단 인공지능을 포괄하려면 10의 25승 이상으로 기준을 바꿀 필요가 있습니다.
이 밖에도 설명회에서 언급되지는 않았지만, 시민사회 의견서에는 이번 하위법령안의 한계로서 인공지능을 이용하여 영상 등을 제작하거나 배포하는 이들을 이용자로 규정하여 딥페이크물을 표시해야 하는 의무를 면제하고 있다는 점, 「인공지능법」의 적용에서 면제되는 '국방 또는 국가 안보 목적으로 개발 이용되는 인공지능' 분야를 폭넓게 인정하고 있다는 점, 법률에서 위임하지 않은 사실조사의 면제를 규정하거나 상당 기간의 계도기간을 운영하도록 하여 인공지능으로 인한 안전사고나 인권 침해가 발생하여도 국가가 행정조사나 과태료 부과를 포기한 점 등이 지적되었습니다.
이어서 노동, 교육, 문화, 보건의료, 소비자 부문의 문제점이 발표되었습니다.
각각의 현장에서 이미 민감정보 수집 및 관리, 상담, 평가, 창작 등에 AI가 무분별하게 도입되어 활용되고 있습니다.
금융 콜센터 현장에서는 이미 AI 상담이 일반화되어 노동자가 해고되고, 소비자들은 AI에 맞춰 불편을 감수하며, 소비자들의 금융, 소비패턴 등에 대한 정보가 AI에 의해 수집되어 활용되는 등의 변화가 발생하고 있음이 이야기되었습니다.
교육 현장에서도 학생과 교원 평가에 AI 활용이 예정되어 있으나, 이에 대한 책임 주체는 명확하지 않은 상황입니다.
문화예술 분야에서도 AI가 창작에 이용되고, 저작권 등 권리 문제를 일으키고 있으나 「인공지능기본법」과 하위법령안에서는 문화예술 분야에 대한 언급 자체가 되지 않음이 지적되었습니다.
의료 분야에서도 AI가 환자의 의료 정보 수집 및 분석, 진단 등에 아무런 기준 없이 도입되어 활용되고 있으며, 환자들은 이에 대한 정보를 충분히 제공 받지 못하고 있습니다.
소비자들 역시 기업의 AI 활용에 관한 충분한 정보를 제공 받지 못하고 있고, 개인정보 등 권리를 보장받지 못하고 있음이 이야기되었는데요. 특히 아동, 노인 등 사회적 약자에 대한 보호 조치가 법률과 시행령에 규정되어 있지 않은 점이 문제로 지적되었습니다.
사회 전방위에서 인공지능의 활용이 급증하고 있는 만큼, 노동자, 소비자, 학생과 교사, 환자, 창작자 등 '영향 받는 자'들의 기본권을 보장할 제도가 「인공지능법」과 하위법령에서 보완될 필요가 있습니다.
이번에 의견을 수렴 중인 「인공지능기본법」 하위법령안에는
인공지능에 관한 주요 정책을 심의의결하는 대통령 소속 국가인공지능위원회 구성원에 성평등가족부 등 젠더 관점의 개입을 할 주체가 포함되지 않고,
위원회를 특정 성별로만 구성할 수 없음을 규정하는 데에 그쳐 여성 대표성을 확보하기 위한 규정이 미흡하며,
인공지능 성별영향평가 의무에 관한 규정이 포함되지 않는 등 젠더 관점에서도 한계점이 많았습니다.
인공지능의 사회적 영향력이 점점 커지고 있는 만큼, 인공지능 관련 법제에 대한 젠더 관점의 지속적인 문제 제기와 개입이 필요하겠습니다!