[공동성명]
개인정보는 공유재가 아니다!
개인정보 원본 활용 법안 반대한다
개인정보 원본 그대로 활용하려는 개인정보보호법 개악 반대
정부와 국회는 현재 정보주체 동의가 없어도 공공기관과 기업이 개인정보를 원본 그대로 활용할 수 있는 내용을 담은 개인정보보호법 개악을 추진 중이다. 이재명 정부가 국정 최우선 과제로 내세운 인공지능 3대 국가 도약을 위해서 고품질 원본 데이터가 인공지능 개발에 필요하다는 이유에서이다. 더불어민주당 민병덕 의원과 국민의힘 고동진 의원이 발의한 이 개정안들은 개인정보보호위원회와 산업계가 한목소리로 통과를 밀어붙이고 있다. 우리 단체들은 인공지능 산업 발전을 위해 정보주체의 권리를 박탈하는 개인정보보호법 개악에 강력히 반대하며, 민병덕 의원과 고동진 의원의 개정안을 철회할 것을 요구한다.
이른바 ‘AI특례법안’으로 지칭되는 민병덕 의원안은 올해 1월 31일, 고동진 의원은 3월 13일에 발의되었으며, “인공지능 기술 개발을 위한 개인정보의 처리”라는 같은 제목으로 정보주체 동의 없이 개인정보를 원본 그대로 활용할 수 있게 허용하는 내용을 담고 있다(제28조의12 신설). 두 개정안의 요지는, 개인정보보호위원회의 관리·감독으로 기술적·관리적·물리적 조치를 거친 경우 정보주체의 동의를 받지 않은 원본 개인정보를 인공지능기술 개발을 위하여 목적 외 활용할 수 있도록 일방적으로 강제하는 것이다. 여기에 더해 고동진 의원안은 개인정보보호위원회의 권한을 축소하고 개인정보처리자의 의무를 경감하는 취지의 조항을 추가하였다. 이는 개인정보보호법의 입법 취지라 할 정보주체의 개인정보 자기결정권 보호를 한순간에 박탈하는 내용이며, 개인정보보호를 위해 나서야 할 개인정보보호위원회가 오히려 개인정보보호법 개악을 주도하고 있다는 사실에 우리는 배신감마저 느끼고 있다.
실명, 주소, 휴대전화번호 등 사생활 유출한 ‘AI 챗봇이루다’ 사태 반복될 수 있다.
인공지능은 챗봇, 이미지, 영상 등을 다양한 생성형 도구로, 자율주행차와 산업현장 로봇으로 어느덧 우리의 일상 속에 깊이 들어와 있다. 인공지능이 우리의 삶과 노동에 좋은 소식이 되길 기대하는 목소리도 많아지고 있고 정부 또한 인공지능 산업 지원 정책을 다양하게 추진하고 있다. 하지만 인공지능이 활용하는 데이터의 원천은 사람이다. 예측이나 결정의 대상이 되는 것도 사람이다. 따라서 인공지능은 평범한 사람들의 일자리는 물론 권리에 중대한 영향을 미칠 수밖에 없다. 우리는 ‘AI 강국’을 목표로 질주하는 와중에 인공지능과 그 데이터가 사람과 우리 사회에게 미칠 영향을 생각해야만 한다.
인공지능은 데이터 학습을 통하여 스스로 익히고 이를 바탕으로 추론하고, 결과물을 생성할 수 있다. 그런데 학습이 완료된 인공지능 모델에는 개인을 식별할 수 있는 정보가 포함되어 있을 수 있고, 암기하였을 위험이 있으며, 프롬프트 공격 등에 의하여 학습데이터에 포함된 개인정보가 유·노출 될 가능성도 존재한다. 즉 인공지능 서비스단계에서 개인정보가 원본 그대로 출력되거나, 개인 식별 또는 민감정보 추론 목적으로 부정하게 운용될 수 있는 위험성이 현존한다. 실제 우리는 익명화되지 않은 개인정보를 학습한 인공지능 챗봇이 실명, 휴대전화번호, 주소 등 개인의 내밀한 사생활을 유출하고 차별과 혐오 발언을 일삼았던 ‘이루다 챗봇 사건’을 경험한 바가 있다.
‘개인정보자기결정권’은 자신에 관한 정보를 보호받고 그 처리에 관하여 통제할 수 있는 헌법 상 기본권으로 인정되고 있다. 이러한 기본권을 구체화하고 있는 현행 개인정보보호법에 따르면 개인정보처리자는 적법하게 수집한 개인정보라고 하더라도 애초 수집하게 된 목적 범위 내에서만 처리할 수 있으며, 목적을 넘어 이용하기 위해서는 원칙적으로 정보주체에게서 별도 동의를 받아야만 한다. 다만 가명정보 처리에 관한 특례 규정에 의하여 통계작성, 과학적 연구, 공익적 기록보존 등 해당 목적만을 위하여 정보주체의 동의 없이 가명정보로 처리할 수 있는 예외가 인정될 뿐이다. 즉 현재까지 개인정보처리자는 정보주체로부터 적법하게 수집한 개인정보라고 하더라도 정보주체의 동의 없이는 인공지능 학습데이터로 사용할 수 없다.
하지만, 민병덕 의원안과 고동진 의원안은 “인공지능 기술 개발 및 성능 개선을 위하여”라는 지극히 추상적이고 포괄적인 목적으로 개인정보처리자인 공공기관이나 기업이 개인정보 원본을 인공지능 학습데이터로 활용할 수 있도록 규정하고 있다. 정보주체의 동의는 필요 없으며, 개인정보보호위원회의 심의·의결만 받으면 된다. 해당 법안이 통과되면 특정 서비스를 받기 위하여 제공한 나에 관한 정보는 나의 동의 없이도 인공지능 학습데이터로 활용될 수 있게 된다. 학습 과정에서 개인정보가 기억되거나, 기억된 개인정보가 유출 및 노출이 될 수 있는 위험을 나의 의사와 무관하게 내가 감당해야 하는 상황이 벌어지게 된다.
인공지능 기술개발, 성능개선 목적이라면 동의없이 사용해도 되는가
더군다나 해당 법안에는 자신의 개인정보가 학습데이터로 사용되는 것을 거부하거나 정지시키고 싶은 정보주체가 그 권리를 행사할 수 있는지도 명확하지 않다. 이렇게 활용되고 나아가 판매될 수 있는 원본 개인정보는 우리의 삶과 직장, 그리고 인터넷에서 생성되고 수집되는 거의 모든 개인정보를 포괄한다. 여기서 더 나아가 SNS 서비스에 공개된 개인정보를 정보주체 동의 없이 수집할 수 있도록 하는 김태선 의원안까지 통과가 되면 그야말로 온라인상 개인정보는 무차별적으로 인공지능의 학습도구로 전락하게 될 것이다.
민병덕, 고동진, 김태선 의원의 개인정보보호법 개정안은 국민의 개인정보가 마치 공유재인 것처럼 사유하고 있다. 공유재이기 때문에 인공지능 개발이라는 국가적 목적을 위해서라면 기꺼이 원본 데이터까지 활용할 수 있다는 것이다. 인공지능기술이 현재까지 극복하지 못하고 있는 여러 개인정보 침해 위험조차 무시한 채 산업 발전 명목으로 개인정보 활용을 광범하게 허용하고 있다.
“인공지능기술 개발 및 성능 개선을 위하여” 이런 일을 허용하는 개인정보보호법 개정이 이루어진다면 향후 새로운 기술이 등장할 때마다 개인정보의 활용을 당연시 여기는 사회 분위기가 형성될 수 있다. “인공지능 개발 및 성능 개선을 위하여” 정보주체 동의 없이 원본 데이터의 활용을 명시적으로 허용하는 법규를 두고 있는 국가는 세계적으로 드물다. 인공지능 개발과 활용에서도 개인정보보호라는 기본적 인권 보호가 중요하다는 원칙에 다들 공감하고 있기 때문이다. 현재 필요한 것은 개인정보 활용을 위한 입법이 아니라, 오히려 5-3 정보주체가 자신의 정보가 데이터산업에 의하여 무분별하게 활용되는 것을 거부할 수 있도록 하고, 자신에 관한 정보를 스스로 통제할 수 있는 권리를 강화하는 것이다.
인공지능이 우리에게 아름다운 미래를 가져다 준다면 그 미래는 기술과 사람이 서로 균형을 이루면서 만들어 가는 것이어야 한다. 우리는 국가 발전이라는 목적 하에 인권이 도외시 되어서는 안 된다는 것을 역사적 경험 속에서 합의해 왔다. 인권을 경시하며 국가와 기업이 일방적으로 추진하는 경제 개발은 민주주의의 퇴보일 수밖에 없다. 국가기관이 심의를 대신한다는 이유로 정보주체의 헌법상 권리를 일방적으로 박탈하는 개인정보보호법 개악은 반드시 철회되어야 한다.
정부와 국회는 AI산업 핑계로 정보주체 동의권 박탈하는 개인정보보호법 개악시도 중단하라!
쇼핑정보, 병원진료내역, 통신 및 신용정보까지 가명처리 없는 원본 활용법안 반대한다!
정보주체 동의없이 얼굴, 음성, 동작 등 민감한 생체인식정보 원본 활용 규탄한다!
민병덕, 고동진 의원은 AI산업만을 위해 정보주체를 저버리는 AI특례법안 철회하라!
2025.12.2.
(사)제주참여환경연대·건강권실현을위한보건의료단체연합(건강권실현을위한행동하 는간호사회,건강사회를위한약사회,건강사회를위한치과의사회,노동건강연대,인도주 의실천의사협의회,참의료실현청년한의사회)·건강사회를위한약사회·공공운수노조·공 공운수노조·국민건강보험노동조합·국제민주연대·의료민영화저지와무상의료실현을위 한운동본부·금속노조 대전참여자치시민연대·디지털정의네트워크·문화연대·문화연대 기술미디어문화위원회·민주사회를 위한 변호사모임·민주주의법학연구회·새벽지기장애인자립생활센터·서울YMCA시민중계실 ·시민건강연구소·시민사회단체연대회의·언론개혁시민연대 정책위원회·연구공동체 건강과대안·울산시민연대·인권교육센터 들·인권교육온다· 인권아카이브·일산병원노동조합·전국교직원노동조합·전국민주노동조합총연맹·전국 언론노동조합·정보인권연구소·참여연대·청소년인권운동연대지음·투명사회를위한정 5-4 보공개센터·평화바닥·한국노동조합총연맹·한국소비자연맹·한국여성민우회·한국여성 소비자연합(이상 총37개 단체)
“Personal information is not a public resource!”
- We oppose the proposed amendment allowing the use of original personal data beyond its intended purpose for AI development.
The government and the National Assembly are currently pushing for revisions to the Personal Information Protection Act, which would allow public institutions and companies to use personal information in its original form beyond its intended purpose without the consent of the data subject. This is because high-quality original data is essential for AI development, a key national priority for the Lee Jae-myung administration, which has prioritized Korea's advancement into one of the top three AI-related sectors. The Personal Information Protection Commission and industry are united in pushing for the passage of these amendments, proposed by Democratic Party of Korea Representative Min Byung-duk and People Power Party Representative Koh Dong-jin. Our organizations strongly oppose these revisions to the Personal Information Protection Act, which would strip data subjects of their rights for the sake of AI industry development, and demand the withdrawal of Representatives Min Byung-duk and Koh Dong-jin's amendments.
The so-called "AI Special Act," proposed by Representative Min Byung-deok on January 31st and by Representative Koh Dong-jin on March 13th, both under the same title, "Processing of Personal Information for the Development of Artificial Intelligence Technology," allows the use of personal information in its original form without the consent of the data subject (newly established Article 28-12). The essence of these two amendments is to unilaterally authorize the use of original personal information beyond its intended purpose for AI technology development, provided data controllers take technical, administrative, and physical measures under the supervision of the Personal Information Protection Commission. Furthermore, Representative Koh Dong-jin's bill adds provisions aimed at reducing the authority of the Personal Information Protection Commission and alleviating the obligations of data controllers. This abruptly strips away the data subject's right to self-determination of their personal information, which is the legislative intent of the Personal Information Protection Act. We feel a sense of betrayal that the Personal Information Protection Commission, which should be working to protect personal information, is instead spearheading the revision of the Personal Information Protection Act.
The incident of AI chatbot Iruda leaking personal information such as real name, address, and mobile phone number could happen again.
AI has become deeply embedded in our daily lives, transforming into diverse generative tools like chatbots, images, and videos, as well as self-driving cars and industrial robots. There are growing voices hoping that AI will bring positive changes to our lives and work, and the government is pursuing various policies to support the AI industry. However, the source of the data utilized by AI is people. It is also people who are the subjects of predictions and decisions. Therefore, AI will inevitably have a significant impact on the jobs and rights of ordinary people. As we race toward becoming an "AI powerhouse," we must consider the impact that AI and its data will have on people and society.
AI can learn on its own through data learning, make inferences based on this data, and generate output. However, trained AI models may contain personally identifiable information, run the risk of being memorized, and personal information contained in the training data may be leaked or exposed through prompt attacks. In other words, there is a real risk that personal information may be output as is during the AI service stage, or that it may be misused for personal identification or sensitive information inference purposes. We have experienced the "Iruda Chatbot Incident," where an AI chatbot trained on non-anonymized personal information leaked intimate personal information such as real names, phone numbers, and addresses, and engaged in discriminatory and hateful remarks.
The "right to self-determination of personal information" is recognized as a fundamental right under the Constitution, granting individuals the right to protect their personal information and control its processing. Under the current Personal Information Protection Act, which embodies this fundamental right, data controllers may only process legally collected personal information within the scope of the original collection purpose. Any use beyond that purpose, in principle, requires separate consent from the data subject. By way of exception, the special provisions regarding the processing of pseudonymized information allow for pseudonymized processing without the consent of the data subject only for purposes such as statistical compilation, scientific research, and public interest record keeping. In other words, currently, even if a data controller has lawfully collected personal information, it cannot use that information for AI training without the data subject's consent.
However, Representative Min Byung-deok and Representative Koh Dong-jin's bills, with the extremely abstract and comprehensive purpose of "developing AI technology and improving its performance," allow public institutions and companies that process personal information to use original personal information without pseudonymization as AI learning data. This does not require the consent of the data subject; only deliberation and approval by the Personal Information Protection Commission are required. If the bills pass, the information I provide to receive specific services can be used as AI learning data without my consent. As a result, individuals would be compelled to accept the risks—without their intent or consent—that personal data may be memorized during the training process and that such memorized data may be leaked or disclosed.
Does the development and improvement of AI technology justify the use of personal information without consent?
Moreover, the bill doesn't clearly specify whether data subjects can exercise their right to refuse or stop the use of their personal information as learning data. The original personal information that could be used and even sold in this way encompasses virtually all personal information generated and collected in our lives, workplaces, and online. Furthermore, if Representative Kim Tae-sun's bill, which would allow the collection of personal information disclosed on social media services without the consent of the data subject, is passed, online personal information will indiscriminately be turned into AI learning materials.
The amendment to the Personal Information Protection Act proposed by Representatives Min Byung-deok, Koh Dong-jin, and Kim Tae-seon treats citizens' personal information as if it were a public resource. Because it is a public resource, they argue, even the original data can be readily utilized for the national goal of AI development. They are broadly permitting the use of personal information in the name of industrial development, ignoring the numerous privacy infringements that AI technology has yet to overcome. If the Personal Information Protection Act is amended to allow such practices "for the development and performance improvement of AI technology," a social atmosphere could emerge where the use of personal information is taken for granted whenever new technologies emerge.
Few countries in the world have laws explicitly permitting the use of original data without the consent of the data subject "for the development and performance improvement of AI." This is because everyone agrees on the principle that protecting the fundamental human right to personal information is crucial even in the development and use of AI. What's needed now is not legislation specifically addressing the use of personal information, but rather strengthening data subjects' right to refuse the indiscriminate use of their information by the data industry and to control their own information.
If artificial intelligence brings us a beautiful future, that future must be created through a balance between technology and people. We have historically agreed that human rights must not be neglected in the pursuit of national development. Economic development unilaterally pursued by the state and corporations, disregarding human rights, is inevitably a regression of democracy. The revision of the Personal Information Protection Act, which unilaterally deprives data subjects of their constitutional rights on the grounds that government agencies are acting as deliberation agencies, must be withdrawn.
The government and the National Assembly must stop attempting to revise the Personal Information Protection Act to strip data subjects of their right to consent under the pretext of the AI industry!
We oppose the bill that would allow the use of original data without anonymization, including shopping information, hospital records, communication information, and credit information!
We condemn the use of sensitive biometric information, such as face, voice, and movement, without the consent of the data subject!
Representatives Min Byeong-deok and Koh Dong-jin must withdraw the AI Special Act, which abandons information subjects solely for the sake of the AI industry!
2025. 12. 2.
Center for health and social change, Citizen's Mediation Center Seoul YMCA, Civil society organizations in korea, Consumers union of Korea, Cultural Action, Daejeon People's Solidarity Participatory, Digital Justice Network, Federation of Korean Trade Unions (FKTU), Headquarters of the Movement to Stop Healthcare Privatisation and Achieve Free Healthcare, Human Rights Education Center 'Deul', Human Rights Education Center ONDA
Ilsan Hospital Labor Union, Institute for Digital Rights, Jeju Solidarity for participatory, Korean Confederation of Trade Unions (KCTU), Korean Federation of Medical Groups for Health Rights (Korean Nurses association for Health Rights, Korean Pharmacists for Democratic Society, Korean Dentists Association for Healthy Society, Solidarity for Worker's Health, Association of Physicians for Humanism, Doctors of Korean Medicine for Health Rights), Korean House for International Solidarity. Korean Metal Workers' Union (KMWU), Korean Pharmacists for Democratic Society, Korean Public Service and Transport Workers' Union (KPTU), Korean Teachers' Union (KTU), Korean Women’s Federation for Consumer, MINBYUN – Lawyers for a Democratic Society
National Health Insurance Workers' Union, National Union of Mediaworkers
PeaceGround, People's Coalition for Media Reform, People's Health Movement Korea, People's Solidarity for Participatory Democracy (PSPD), Republic of Korea Human rights archive, Saebyeokjigi Center for Independent Living, Solidarity for Child Rights Movement 'Jieum', The Center for Freedom of Information and Transparent Society, The Democratic Legal Studies Association, Ulsan people‘s solidarity, WomenLink
(a total of 36 organizations, contact: idrsec@proton.me)
[공동성명]
개인정보는 공유재가 아니다!
개인정보 원본 활용 법안 반대한다
개인정보 원본 그대로 활용하려는 개인정보보호법 개악 반대
정부와 국회는 현재 정보주체 동의가 없어도 공공기관과 기업이 개인정보를 원본 그대로 활용할 수 있는 내용을 담은 개인정보보호법 개악을 추진 중이다. 이재명 정부가 국정 최우선 과제로 내세운 인공지능 3대 국가 도약을 위해서 고품질 원본 데이터가 인공지능 개발에 필요하다는 이유에서이다. 더불어민주당 민병덕 의원과 국민의힘 고동진 의원이 발의한 이 개정안들은 개인정보보호위원회와 산업계가 한목소리로 통과를 밀어붙이고 있다. 우리 단체들은 인공지능 산업 발전을 위해 정보주체의 권리를 박탈하는 개인정보보호법 개악에 강력히 반대하며, 민병덕 의원과 고동진 의원의 개정안을 철회할 것을 요구한다.
이른바 ‘AI특례법안’으로 지칭되는 민병덕 의원안은 올해 1월 31일, 고동진 의원은 3월 13일에 발의되었으며, “인공지능 기술 개발을 위한 개인정보의 처리”라는 같은 제목으로 정보주체 동의 없이 개인정보를 원본 그대로 활용할 수 있게 허용하는 내용을 담고 있다(제28조의12 신설). 두 개정안의 요지는, 개인정보보호위원회의 관리·감독으로 기술적·관리적·물리적 조치를 거친 경우 정보주체의 동의를 받지 않은 원본 개인정보를 인공지능기술 개발을 위하여 목적 외 활용할 수 있도록 일방적으로 강제하는 것이다. 여기에 더해 고동진 의원안은 개인정보보호위원회의 권한을 축소하고 개인정보처리자의 의무를 경감하는 취지의 조항을 추가하였다. 이는 개인정보보호법의 입법 취지라 할 정보주체의 개인정보 자기결정권 보호를 한순간에 박탈하는 내용이며, 개인정보보호를 위해 나서야 할 개인정보보호위원회가 오히려 개인정보보호법 개악을 주도하고 있다는 사실에 우리는 배신감마저 느끼고 있다.
실명, 주소, 휴대전화번호 등 사생활 유출한 ‘AI 챗봇이루다’ 사태 반복될 수 있다.
인공지능은 챗봇, 이미지, 영상 등을 다양한 생성형 도구로, 자율주행차와 산업현장 로봇으로 어느덧 우리의 일상 속에 깊이 들어와 있다. 인공지능이 우리의 삶과 노동에 좋은 소식이 되길 기대하는 목소리도 많아지고 있고 정부 또한 인공지능 산업 지원 정책을 다양하게 추진하고 있다. 하지만 인공지능이 활용하는 데이터의 원천은 사람이다. 예측이나 결정의 대상이 되는 것도 사람이다. 따라서 인공지능은 평범한 사람들의 일자리는 물론 권리에 중대한 영향을 미칠 수밖에 없다. 우리는 ‘AI 강국’을 목표로 질주하는 와중에 인공지능과 그 데이터가 사람과 우리 사회에게 미칠 영향을 생각해야만 한다.
인공지능은 데이터 학습을 통하여 스스로 익히고 이를 바탕으로 추론하고, 결과물을 생성할 수 있다. 그런데 학습이 완료된 인공지능 모델에는 개인을 식별할 수 있는 정보가 포함되어 있을 수 있고, 암기하였을 위험이 있으며, 프롬프트 공격 등에 의하여 학습데이터에 포함된 개인정보가 유·노출 될 가능성도 존재한다. 즉 인공지능 서비스단계에서 개인정보가 원본 그대로 출력되거나, 개인 식별 또는 민감정보 추론 목적으로 부정하게 운용될 수 있는 위험성이 현존한다. 실제 우리는 익명화되지 않은 개인정보를 학습한 인공지능 챗봇이 실명, 휴대전화번호, 주소 등 개인의 내밀한 사생활을 유출하고 차별과 혐오 발언을 일삼았던 ‘이루다 챗봇 사건’을 경험한 바가 있다.
‘개인정보자기결정권’은 자신에 관한 정보를 보호받고 그 처리에 관하여 통제할 수 있는 헌법 상 기본권으로 인정되고 있다. 이러한 기본권을 구체화하고 있는 현행 개인정보보호법에 따르면 개인정보처리자는 적법하게 수집한 개인정보라고 하더라도 애초 수집하게 된 목적 범위 내에서만 처리할 수 있으며, 목적을 넘어 이용하기 위해서는 원칙적으로 정보주체에게서 별도 동의를 받아야만 한다. 다만 가명정보 처리에 관한 특례 규정에 의하여 통계작성, 과학적 연구, 공익적 기록보존 등 해당 목적만을 위하여 정보주체의 동의 없이 가명정보로 처리할 수 있는 예외가 인정될 뿐이다. 즉 현재까지 개인정보처리자는 정보주체로부터 적법하게 수집한 개인정보라고 하더라도 정보주체의 동의 없이는 인공지능 학습데이터로 사용할 수 없다.
하지만, 민병덕 의원안과 고동진 의원안은 “인공지능 기술 개발 및 성능 개선을 위하여”라는 지극히 추상적이고 포괄적인 목적으로 개인정보처리자인 공공기관이나 기업이 개인정보 원본을 인공지능 학습데이터로 활용할 수 있도록 규정하고 있다. 정보주체의 동의는 필요 없으며, 개인정보보호위원회의 심의·의결만 받으면 된다. 해당 법안이 통과되면 특정 서비스를 받기 위하여 제공한 나에 관한 정보는 나의 동의 없이도 인공지능 학습데이터로 활용될 수 있게 된다. 학습 과정에서 개인정보가 기억되거나, 기억된 개인정보가 유출 및 노출이 될 수 있는 위험을 나의 의사와 무관하게 내가 감당해야 하는 상황이 벌어지게 된다.
인공지능 기술개발, 성능개선 목적이라면 동의없이 사용해도 되는가
더군다나 해당 법안에는 자신의 개인정보가 학습데이터로 사용되는 것을 거부하거나 정지시키고 싶은 정보주체가 그 권리를 행사할 수 있는지도 명확하지 않다. 이렇게 활용되고 나아가 판매될 수 있는 원본 개인정보는 우리의 삶과 직장, 그리고 인터넷에서 생성되고 수집되는 거의 모든 개인정보를 포괄한다. 여기서 더 나아가 SNS 서비스에 공개된 개인정보를 정보주체 동의 없이 수집할 수 있도록 하는 김태선 의원안까지 통과가 되면 그야말로 온라인상 개인정보는 무차별적으로 인공지능의 학습도구로 전락하게 될 것이다.
민병덕, 고동진, 김태선 의원의 개인정보보호법 개정안은 국민의 개인정보가 마치 공유재인 것처럼 사유하고 있다. 공유재이기 때문에 인공지능 개발이라는 국가적 목적을 위해서라면 기꺼이 원본 데이터까지 활용할 수 있다는 것이다. 인공지능기술이 현재까지 극복하지 못하고 있는 여러 개인정보 침해 위험조차 무시한 채 산업 발전 명목으로 개인정보 활용을 광범하게 허용하고 있다.
“인공지능기술 개발 및 성능 개선을 위하여” 이런 일을 허용하는 개인정보보호법 개정이 이루어진다면 향후 새로운 기술이 등장할 때마다 개인정보의 활용을 당연시 여기는 사회 분위기가 형성될 수 있다. “인공지능 개발 및 성능 개선을 위하여” 정보주체 동의 없이 원본 데이터의 활용을 명시적으로 허용하는 법규를 두고 있는 국가는 세계적으로 드물다. 인공지능 개발과 활용에서도 개인정보보호라는 기본적 인권 보호가 중요하다는 원칙에 다들 공감하고 있기 때문이다. 현재 필요한 것은 개인정보 활용을 위한 입법이 아니라, 오히려 5-3 정보주체가 자신의 정보가 데이터산업에 의하여 무분별하게 활용되는 것을 거부할 수 있도록 하고, 자신에 관한 정보를 스스로 통제할 수 있는 권리를 강화하는 것이다.
인공지능이 우리에게 아름다운 미래를 가져다 준다면 그 미래는 기술과 사람이 서로 균형을 이루면서 만들어 가는 것이어야 한다. 우리는 국가 발전이라는 목적 하에 인권이 도외시 되어서는 안 된다는 것을 역사적 경험 속에서 합의해 왔다. 인권을 경시하며 국가와 기업이 일방적으로 추진하는 경제 개발은 민주주의의 퇴보일 수밖에 없다. 국가기관이 심의를 대신한다는 이유로 정보주체의 헌법상 권리를 일방적으로 박탈하는 개인정보보호법 개악은 반드시 철회되어야 한다.
정부와 국회는 AI산업 핑계로 정보주체 동의권 박탈하는 개인정보보호법 개악시도 중단하라!
쇼핑정보, 병원진료내역, 통신 및 신용정보까지 가명처리 없는 원본 활용법안 반대한다!
정보주체 동의없이 얼굴, 음성, 동작 등 민감한 생체인식정보 원본 활용 규탄한다!
민병덕, 고동진 의원은 AI산업만을 위해 정보주체를 저버리는 AI특례법안 철회하라!
2025.12.2.
(사)제주참여환경연대·건강권실현을위한보건의료단체연합(건강권실현을위한행동하 는간호사회,건강사회를위한약사회,건강사회를위한치과의사회,노동건강연대,인도주 의실천의사협의회,참의료실현청년한의사회)·건강사회를위한약사회·공공운수노조·공 공운수노조·국민건강보험노동조합·국제민주연대·의료민영화저지와무상의료실현을위 한운동본부·금속노조 대전참여자치시민연대·디지털정의네트워크·문화연대·문화연대 기술미디어문화위원회·민주사회를 위한 변호사모임·민주주의법학연구회·새벽지기장애인자립생활센터·서울YMCA시민중계실 ·시민건강연구소·시민사회단체연대회의·언론개혁시민연대 정책위원회·연구공동체 건강과대안·울산시민연대·인권교육센터 들·인권교육온다· 인권아카이브·일산병원노동조합·전국교직원노동조합·전국민주노동조합총연맹·전국 언론노동조합·정보인권연구소·참여연대·청소년인권운동연대지음·투명사회를위한정 5-4 보공개센터·평화바닥·한국노동조합총연맹·한국소비자연맹·한국여성민우회·한국여성 소비자연합(이상 총37개 단체)
“Personal information is not a public resource!”
- We oppose the proposed amendment allowing the use of original personal data beyond its intended purpose for AI development.
The government and the National Assembly are currently pushing for revisions to the Personal Information Protection Act, which would allow public institutions and companies to use personal information in its original form beyond its intended purpose without the consent of the data subject. This is because high-quality original data is essential for AI development, a key national priority for the Lee Jae-myung administration, which has prioritized Korea's advancement into one of the top three AI-related sectors. The Personal Information Protection Commission and industry are united in pushing for the passage of these amendments, proposed by Democratic Party of Korea Representative Min Byung-duk and People Power Party Representative Koh Dong-jin. Our organizations strongly oppose these revisions to the Personal Information Protection Act, which would strip data subjects of their rights for the sake of AI industry development, and demand the withdrawal of Representatives Min Byung-duk and Koh Dong-jin's amendments.
The so-called "AI Special Act," proposed by Representative Min Byung-deok on January 31st and by Representative Koh Dong-jin on March 13th, both under the same title, "Processing of Personal Information for the Development of Artificial Intelligence Technology," allows the use of personal information in its original form without the consent of the data subject (newly established Article 28-12). The essence of these two amendments is to unilaterally authorize the use of original personal information beyond its intended purpose for AI technology development, provided data controllers take technical, administrative, and physical measures under the supervision of the Personal Information Protection Commission. Furthermore, Representative Koh Dong-jin's bill adds provisions aimed at reducing the authority of the Personal Information Protection Commission and alleviating the obligations of data controllers. This abruptly strips away the data subject's right to self-determination of their personal information, which is the legislative intent of the Personal Information Protection Act. We feel a sense of betrayal that the Personal Information Protection Commission, which should be working to protect personal information, is instead spearheading the revision of the Personal Information Protection Act.
The incident of AI chatbot Iruda leaking personal information such as real name, address, and mobile phone number could happen again.
AI has become deeply embedded in our daily lives, transforming into diverse generative tools like chatbots, images, and videos, as well as self-driving cars and industrial robots. There are growing voices hoping that AI will bring positive changes to our lives and work, and the government is pursuing various policies to support the AI industry. However, the source of the data utilized by AI is people. It is also people who are the subjects of predictions and decisions. Therefore, AI will inevitably have a significant impact on the jobs and rights of ordinary people. As we race toward becoming an "AI powerhouse," we must consider the impact that AI and its data will have on people and society.
AI can learn on its own through data learning, make inferences based on this data, and generate output. However, trained AI models may contain personally identifiable information, run the risk of being memorized, and personal information contained in the training data may be leaked or exposed through prompt attacks. In other words, there is a real risk that personal information may be output as is during the AI service stage, or that it may be misused for personal identification or sensitive information inference purposes. We have experienced the "Iruda Chatbot Incident," where an AI chatbot trained on non-anonymized personal information leaked intimate personal information such as real names, phone numbers, and addresses, and engaged in discriminatory and hateful remarks.
The "right to self-determination of personal information" is recognized as a fundamental right under the Constitution, granting individuals the right to protect their personal information and control its processing. Under the current Personal Information Protection Act, which embodies this fundamental right, data controllers may only process legally collected personal information within the scope of the original collection purpose. Any use beyond that purpose, in principle, requires separate consent from the data subject. By way of exception, the special provisions regarding the processing of pseudonymized information allow for pseudonymized processing without the consent of the data subject only for purposes such as statistical compilation, scientific research, and public interest record keeping. In other words, currently, even if a data controller has lawfully collected personal information, it cannot use that information for AI training without the data subject's consent.
However, Representative Min Byung-deok and Representative Koh Dong-jin's bills, with the extremely abstract and comprehensive purpose of "developing AI technology and improving its performance," allow public institutions and companies that process personal information to use original personal information without pseudonymization as AI learning data. This does not require the consent of the data subject; only deliberation and approval by the Personal Information Protection Commission are required. If the bills pass, the information I provide to receive specific services can be used as AI learning data without my consent. As a result, individuals would be compelled to accept the risks—without their intent or consent—that personal data may be memorized during the training process and that such memorized data may be leaked or disclosed.
Does the development and improvement of AI technology justify the use of personal information without consent?
Moreover, the bill doesn't clearly specify whether data subjects can exercise their right to refuse or stop the use of their personal information as learning data. The original personal information that could be used and even sold in this way encompasses virtually all personal information generated and collected in our lives, workplaces, and online. Furthermore, if Representative Kim Tae-sun's bill, which would allow the collection of personal information disclosed on social media services without the consent of the data subject, is passed, online personal information will indiscriminately be turned into AI learning materials.
The amendment to the Personal Information Protection Act proposed by Representatives Min Byung-deok, Koh Dong-jin, and Kim Tae-seon treats citizens' personal information as if it were a public resource. Because it is a public resource, they argue, even the original data can be readily utilized for the national goal of AI development. They are broadly permitting the use of personal information in the name of industrial development, ignoring the numerous privacy infringements that AI technology has yet to overcome. If the Personal Information Protection Act is amended to allow such practices "for the development and performance improvement of AI technology," a social atmosphere could emerge where the use of personal information is taken for granted whenever new technologies emerge.
Few countries in the world have laws explicitly permitting the use of original data without the consent of the data subject "for the development and performance improvement of AI." This is because everyone agrees on the principle that protecting the fundamental human right to personal information is crucial even in the development and use of AI. What's needed now is not legislation specifically addressing the use of personal information, but rather strengthening data subjects' right to refuse the indiscriminate use of their information by the data industry and to control their own information.
If artificial intelligence brings us a beautiful future, that future must be created through a balance between technology and people. We have historically agreed that human rights must not be neglected in the pursuit of national development. Economic development unilaterally pursued by the state and corporations, disregarding human rights, is inevitably a regression of democracy. The revision of the Personal Information Protection Act, which unilaterally deprives data subjects of their constitutional rights on the grounds that government agencies are acting as deliberation agencies, must be withdrawn.
The government and the National Assembly must stop attempting to revise the Personal Information Protection Act to strip data subjects of their right to consent under the pretext of the AI industry!
We oppose the bill that would allow the use of original data without anonymization, including shopping information, hospital records, communication information, and credit information!
We condemn the use of sensitive biometric information, such as face, voice, and movement, without the consent of the data subject!
Representatives Min Byeong-deok and Koh Dong-jin must withdraw the AI Special Act, which abandons information subjects solely for the sake of the AI industry!
2025. 12. 2.
Center for health and social change, Citizen's Mediation Center Seoul YMCA, Civil society organizations in korea, Consumers union of Korea, Cultural Action, Daejeon People's Solidarity Participatory, Digital Justice Network, Federation of Korean Trade Unions (FKTU), Headquarters of the Movement to Stop Healthcare Privatisation and Achieve Free Healthcare, Human Rights Education Center 'Deul', Human Rights Education Center ONDA
Ilsan Hospital Labor Union, Institute for Digital Rights, Jeju Solidarity for participatory, Korean Confederation of Trade Unions (KCTU), Korean Federation of Medical Groups for Health Rights (Korean Nurses association for Health Rights, Korean Pharmacists for Democratic Society, Korean Dentists Association for Healthy Society, Solidarity for Worker's Health, Association of Physicians for Humanism, Doctors of Korean Medicine for Health Rights), Korean House for International Solidarity. Korean Metal Workers' Union (KMWU), Korean Pharmacists for Democratic Society, Korean Public Service and Transport Workers' Union (KPTU), Korean Teachers' Union (KTU), Korean Women’s Federation for Consumer, MINBYUN – Lawyers for a Democratic Society
National Health Insurance Workers' Union, National Union of Mediaworkers
PeaceGround, People's Coalition for Media Reform, People's Health Movement Korea, People's Solidarity for Participatory Democracy (PSPD), Republic of Korea Human rights archive, Saebyeokjigi Center for Independent Living, Solidarity for Child Rights Movement 'Jieum', The Center for Freedom of Information and Transparent Society, The Democratic Legal Studies Association, Ulsan people‘s solidarity, WomenLink
(a total of 36 organizations, contact: idrsec@proton.me)