과학기술정보통신부와 정보통신정책연구원이 2026년 5월 29일부터, 7월 8일까지 ｢인공지능 윤리원칙｣(안)에 대한 의견을 수렴했습니다. ｢인공지능 윤리원칙｣(안)은「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」제27조에 근거해 마련한 것인데요.

지금 이재명 정부는 국가 중심의 인공지능 대전환 정책을 강력하게 추진하고 있습니다. "AI 시대"를 열겠다고 공약하기도 했지요. 인공지능 기술 개발은 노동, 환경, 정보, 인권, 평등 등, 우리 모두의 삶과 직결되어 있습니다. 

이에 한국성폭력상담소도 7월 8일 ｢인공지능 윤리원칙｣(안)에 대한 의견서를 제출했습니다. 과기부가 제시한 제정안은, 기술과 산업 혁신의 중요성과 디지털 격차 해소에 중점을 두어 작성되어 있습니다. 그러나 인공지능 기술의 도입과 산업 육성에 따른 인권과 기본권 침해, 사회적 위험 예방에 대한 내용은 빈약합니다. 한국성폭력상담소는 윤리원칙 전반에 1) 인권, 성평등 관점에 대한 원칙을 기재하고, 2) 인공지능이 야기할 수 있는 사회적 위험에 관해 서술할 필요가 있으며, 3) 인권보장, 다양성·차별금지, 공공성, 책임성 항목을 원칙으로 추가 보완할 필요를 설명했습니다. 

○ 한국성폭력상담소 인공지능 윤리원칙 제정안 검토의견

■ 총평

현 윤리원칙(안)은 기술과 산업 혁신의 중요성 및 디지털 격차 해소에 중점을 두어 작성되어 있음. 그러나 급격한 기술변화에 따른 인권과 기본권 침해, 사회적 위험의 예방에 대한 내용이 빈약함. 이에 윤리원칙 전반에 다음 내용에 대한 보완 필요함. 1) 인권, 성평등 관점에 대한 원칙 기재. 2) 인공지능이 야기할 수 있는 사회적 위험에 관해 서술. 

• 3대 가치 ①인간의 존엄성에 기본권과 인권을 명시

- 현 제정안은 인공지능으로 인한 인간의 물리적, 경제적 위해만을 다루고 있음. 

- 이에 인공지능으로 인하여 침해되거나 훼손되어서는 아니 되는 항목에 ‘기본권과 인권’을 추가하여, 자유, 평등 및 행복을 추구하고 인간다운 생활을 할 권리를 포함할 필요가 있음. 

- 현재에도 인공지능을 매개로 한 젠더기반폭력과 차별이 발생하고 있는 바, 인간의 존엄성 항목에 기본권과 인권을 포함하는 것은 필수적임. 

• 6대 원칙을 8대 원칙으로 보강하여 ①인권보장 ② 프라이버시 ③ 공정성 ④다양성·차별금지·포용성 ⑤지속가능성·공공성 ⑥ 안전성 ⑦투명성 ⑧책임성 등의 원칙 기재

• ①인권보장

- 인권보장 원칙을 제 1원칙으로 추가해야 함. 

- 본 초안이 “계승·발전”한다고 밝힌 2020년 「인공지능(AI) 윤리기준」은 10대 핵심요건의 첫 번째로 ‘인권보장’을 두었으나, 현 제정안에서는 이 요건이 전면 삭제되었음. 현 제정안은 ‘기본권’, ‘인권’을 단 한 번도 명시하지 않고 있음. 

- 윤리원칙의 목적은 인공지능기술이 인간의 존엄과 기본권을 보호하고 평등과 민주주의를 증진하고, 사회적 신뢰를 바탕으로 책임있게 개발·활용·이용할 수 있도록 공통의 기준을 마련하는 데 있으므로 기본권과 인권이라는 규범적 가치가 명시될 필요가 있음. 

- EU의 「신뢰할 수 있는 인공지능 윤리지침」역시 윤리적 AI의 토대를 EU기본권헌장과 국제인권법상 기본권(인간의 존엄성, 자유, 민주주의·법치주의, 평등·차별금지·단결)으로 명시하고 있음.

•  ④다양성·차별금지·포용성 (기존의 공정성·포용성 원칙을 수정)

- 성별·연령·장애·언어·지역·종교 등 역사적·구조적 차별이 인공지능 시스템을 통해 재생산되고, 고착될 수 있음. 이에 헌법이 명시하는 인권과 기본권의 가치에 따라 ‘차별금지’를 명확한 원칙으로 제시해야 함. 

- 현 제정안은 활용역량에 따른 인공지능기술에 대한 접근권 보장을 차별금지와 포용성과 같은 층위에 두는 오류를 범하고 있음. 인공지능기술을 쓰지 못하는 사람이 없도록 하겠다는 ‘디지털 격차 해소’ 관점의 포용성 개념을 재정비할 필요 있음. 

- 이에 ‘활용역량’, ‘공정한 배분’, ‘인공지능의 혜택에 동등하게 접근할 수 있어야 한다’는 구절을 삭제하여, 인권에 기반한 ‘다양성·차별금지·포용성’ 원칙을 선명하게 드러내야 함.

•  ⑤지속가능성·공공성 (기존의 지속가능성 원칙에 공공성 원칙을 보강)

- ‘공공성’을 6대 원칙으로 명시하여, 인공지능기술이 사회 구성원 전체의 공공가치이자 민주적 가치를 실현하고 있음을 확인하는 기준을 마련할 필요 있음.

- 인공지능기술의 확산은 기존의 차별과 혐오 구조를 심화하거나, 허위정보를 확산하거나, 인간의 판단 과정에 개입하는 등 민주주의에 영향을 미칠 수 있다는 사실이 지적되고 있음. 이에 장기적 관점에서 평가·점검되어야 할 가치에 ‘민주주의’를 삽입해야 함. 

- 인공지능은 개발·제공·이용 전 과정에서 막대한 사회적·환경적 자원을 사용하며, 사회 전 구성원에게 영향을 미침. 따라서 인공지능은 공공성을 가져야 하며, 인공지능으로 인해 창출된 편익은 소수의 개발자 등 이해관계자에 의해 독점될 수 없음.

•  ⑧책임성 

- 책임성 원칙을 추가할 필요 있음.

- 2020년 「인공지능(AI) 윤리기준」에는 책임성 항목을 포함하여, 인공지능 기술로 인해 발생할 수 있는 피해를 최소화하는 기준을 명시했으나, 현 제정안에는 이에 해당하는 원칙이 삭제됨.

- 젠더 편향으로 인한 차별과 배제의 문제나, 젠더기반폭력 피해구제 및 보호를 위해서는 책임성 요건을 보완 강화할 필요 있음. 사전 예방뿐 아니라, 실제 피해 발생 시 구제로 이어지기 위해서는 책임성이 명확해야 하기 때문임. 

- 책임성 원칙을 추가하여, 사전 영향평가 절차, 감사 및 보고 체계, 구체 절차 등을 명확히 해야 함.

자세한 내용은 첨부된 의견서 문서에서 확인하실 수 있습니다.