AI시민행동,「국방인공지능법」제정안에 대한 입법의견서 제출
국제법 준수, 책임성 조항 등 법안 개선 및 보완 사항 제안
고위험 군사AI의 금지·제한 규정 추가 및 보완 필요성 제시
국방인공지능위원회의 독립성과 민주적 통제 제도화 제안
오늘(5/14) 참여연대, 민주사회를 위한 변호사 모임, 디지털정의네트워크, 녹색연합, 한국여성단체연합 등 인권, 노동, 복지, 여성, 환경, 소비자, 평화 분야 전국 46개 시민사회단체로 구성된 ‘인공지능 책임성과 공공성 강화를 위한 시민사회 공동행동(이하, ‘AI시민행동’)’은 현재 국회 국방위에 계류되어 있는「국방인공지능법」제정안에 대한 우려와 제안 의견을 담은「국방인공지능법」 제정안에 대한 입법의견서(19쪽)를 국회에 제출했습니다.
지난 2026년 1월 22일「인공지능기본법」이 전면시행되었습니다. 그러나 해당 법의 적용 대상에 국방 및 국가안보 목적의 인공지능은 제외되어 있습니다. 애초에 공통 규범으로 기본법을 제정하고 국방분야 인공지능에 한하여 필요한 예외적인 규율은 별도로 제정했어야 마땅하지만 지금으로서는 별도로 국방인공지능법을 추진할 수밖에 없는 상황입니다. 문제는 전세계적으로 인공지능을 활용한 무기 개발과 투자가 크게 증가하고, 실제 전장에 투입되며 표적 식별과 의사결정까지 전 과정에서 여러 가지 법적·윤리적 쟁점이 발생하고 있음에도 현재 발의되어 있는 국방인공지능법안은 사실상 국방인공지능 기술에 대한 규제와 통제 보다는 개발과 기술 발전을 촉진하기 위한 육성에 초점을 맞추고 있다는 점입니다.
이에 AI시민행동은 의견서를 통해 국방인공지능은 유엔 헌장, 국제인도법, 국제인권법을 비롯하여 국제법 및 국내법 체제에 합치하는 방식으로 규제되어야 하며, 특히 자율 무기 체계에 관하여 최근 국제 사회가 권고 및 논의하고 있는 금지·제한의 방향을 반영해야 한다는 점을 강조했습니다. 또한 국방인공지능은 그 특성상 고위험 인공지능에 해당함에도 불구하고, 이 법안은 국방인공지능이 야기할 수 있는 위험을 사전에 관리하거나, 문제 발생 시 원인을 규명하고 책임을 부과하는 등의 사업자 책무에 대해서는 규율하지 않고 있다는 점에 우려를 표했습니다. 위험관리방안의 수립, 인공지능의 학습데이터와 최종결과와 관련된 투명성 요건, 국방인공지능 시스템을 이용하는 이용자에 대한 보호 방안, 사람의 관리ㆍ감독, 향후에 문제를 추적하고 책임 소재를 파악할 수 있도록 하는 문서의 작성과 보관 등 고위험 인공지능에 필수적인 요건을 해당 법안에 명시적으로 규정해야 합니다. 이 외에도 민간의 인공지능을 국방분야에 도입할 때 인공지능기본법에서 규정하고 있는 것 이상의 안전성, 신뢰성, 책무성 의무를 사업자에게 부과해야 한다는 점도 강조했습니다.
이러한 우려에 기초해 AI시민행동은 국방인공지능법안 개선점을 다음과 같이 제시했습니다. ▷국가안보 중심에서 책임성 중심으로 목적 조항의 방향을 전환하고, ▷‘자율성’, ‘인간통제’ 등 핵심 개념 정의 조항을 추가하며, ▷모호한 ‘인적 개입’ 개념을 구체화하고 살상 결정 위임 불허 원칙도 명시할 것을 제안했습니다. 또한 ▷국방인공지능위원회의 독립성과 민주적 통제를 제도화할 것을 제안하고, ▷개발 및 특례 조항을 제한적으로 적용하고 군사AI 금지·제한하는 규정을 추가토록 했습니다. 이어 ▷안전성 확보 의무조항을 강화하고 피해 책임 범위와 기준을 명확화해야 한다고 강조하고, ▷특정 국방인공지능에 대한 금지 규정을 추가하는 것은 물론, ▷영향받는 자의 권리구제와 책임자 처벌 조항도 보완해야 한다고 지적했습니다.
마지막으로 AI시민행동은 국회가 정해진 입법 계획에 맞춘다며 법안 심의를 졸속으로 진행해서는 안 되며 시민사회와 국제인도법, 국제인권법, 인권 및 평화학 등 전문가들이 제시하는 우려와 개선 의견을 충분히 청취해 법안을 수정·보완하는 것이 필요하다고 재차 강조했습니다. 또한 의견서에서 제기된 쟁점들에 대한 토론도 적극 이어갈 계획임을 밝혔습니다.
「국방인공지능법」제정안에 대한 입법의견서 보기
AI시민행동,「국방인공지능법」제정안에 대한 입법의견서 제출
국제법 준수, 책임성 조항 등 법안 개선 및 보완 사항 제안
고위험 군사AI의 금지·제한 규정 추가 및 보완 필요성 제시
국방인공지능위원회의 독립성과 민주적 통제 제도화 제안
오늘(5/14) 참여연대, 민주사회를 위한 변호사 모임, 디지털정의네트워크, 녹색연합, 한국여성단체연합 등 인권, 노동, 복지, 여성, 환경, 소비자, 평화 분야 전국 46개 시민사회단체로 구성된 ‘인공지능 책임성과 공공성 강화를 위한 시민사회 공동행동(이하, ‘AI시민행동’)’은 현재 국회 국방위에 계류되어 있는「국방인공지능법」제정안에 대한 우려와 제안 의견을 담은「국방인공지능법」 제정안에 대한 입법의견서(19쪽)를 국회에 제출했습니다.
지난 2026년 1월 22일「인공지능기본법」이 전면시행되었습니다. 그러나 해당 법의 적용 대상에 국방 및 국가안보 목적의 인공지능은 제외되어 있습니다. 애초에 공통 규범으로 기본법을 제정하고 국방분야 인공지능에 한하여 필요한 예외적인 규율은 별도로 제정했어야 마땅하지만 지금으로서는 별도로 국방인공지능법을 추진할 수밖에 없는 상황입니다. 문제는 전세계적으로 인공지능을 활용한 무기 개발과 투자가 크게 증가하고, 실제 전장에 투입되며 표적 식별과 의사결정까지 전 과정에서 여러 가지 법적·윤리적 쟁점이 발생하고 있음에도 현재 발의되어 있는 국방인공지능법안은 사실상 국방인공지능 기술에 대한 규제와 통제 보다는 개발과 기술 발전을 촉진하기 위한 육성에 초점을 맞추고 있다는 점입니다.
이에 AI시민행동은 의견서를 통해 국방인공지능은 유엔 헌장, 국제인도법, 국제인권법을 비롯하여 국제법 및 국내법 체제에 합치하는 방식으로 규제되어야 하며, 특히 자율 무기 체계에 관하여 최근 국제 사회가 권고 및 논의하고 있는 금지·제한의 방향을 반영해야 한다는 점을 강조했습니다. 또한 국방인공지능은 그 특성상 고위험 인공지능에 해당함에도 불구하고, 이 법안은 국방인공지능이 야기할 수 있는 위험을 사전에 관리하거나, 문제 발생 시 원인을 규명하고 책임을 부과하는 등의 사업자 책무에 대해서는 규율하지 않고 있다는 점에 우려를 표했습니다. 위험관리방안의 수립, 인공지능의 학습데이터와 최종결과와 관련된 투명성 요건, 국방인공지능 시스템을 이용하는 이용자에 대한 보호 방안, 사람의 관리ㆍ감독, 향후에 문제를 추적하고 책임 소재를 파악할 수 있도록 하는 문서의 작성과 보관 등 고위험 인공지능에 필수적인 요건을 해당 법안에 명시적으로 규정해야 합니다. 이 외에도 민간의 인공지능을 국방분야에 도입할 때 인공지능기본법에서 규정하고 있는 것 이상의 안전성, 신뢰성, 책무성 의무를 사업자에게 부과해야 한다는 점도 강조했습니다.
이러한 우려에 기초해 AI시민행동은 국방인공지능법안 개선점을 다음과 같이 제시했습니다. ▷국가안보 중심에서 책임성 중심으로 목적 조항의 방향을 전환하고, ▷‘자율성’, ‘인간통제’ 등 핵심 개념 정의 조항을 추가하며, ▷모호한 ‘인적 개입’ 개념을 구체화하고 살상 결정 위임 불허 원칙도 명시할 것을 제안했습니다. 또한 ▷국방인공지능위원회의 독립성과 민주적 통제를 제도화할 것을 제안하고, ▷개발 및 특례 조항을 제한적으로 적용하고 군사AI 금지·제한하는 규정을 추가토록 했습니다. 이어 ▷안전성 확보 의무조항을 강화하고 피해 책임 범위와 기준을 명확화해야 한다고 강조하고, ▷특정 국방인공지능에 대한 금지 규정을 추가하는 것은 물론, ▷영향받는 자의 권리구제와 책임자 처벌 조항도 보완해야 한다고 지적했습니다.
마지막으로 AI시민행동은 국회가 정해진 입법 계획에 맞춘다며 법안 심의를 졸속으로 진행해서는 안 되며 시민사회와 국제인도법, 국제인권법, 인권 및 평화학 등 전문가들이 제시하는 우려와 개선 의견을 충분히 청취해 법안을 수정·보완하는 것이 필요하다고 재차 강조했습니다. 또한 의견서에서 제기된 쟁점들에 대한 토론도 적극 이어갈 계획임을 밝혔습니다.
「국방인공지능법」제정안에 대한 입법의견서 보기