여성·인권·국제 연대
여성운동, 인권・시민사회운동, 국제연대 활동의 다양한 소식을 전합니다.
[반성폭력으로 읽는 사회] 판사가 AI로 대체되면 정의로운 성폭력 사건 판결이 가능할까?
- 2026-10-20
- 101
[반성폭력으로 읽는 사회]
판사가 AI로 대체되면 정의로운 성폭력 사건 판결이 가능할까?
셰도우핀즈 테오즈 활동가 인터뷰
인터뷰어: 앎
인터뷰이: 테오즈
앎 테오즈님, 안녕하세요! 오늘 인터뷰에 응해 주셔서 감사드립니다. 읽는 분들을 위해 먼저 자기소개를 부탁드립니다.
테오즈 저는 셰도우핀즈에서 활동하는 테오즈입니다. ‘셰도우핀즈’라는 단체명은 사법 시스템 안에서 권리를 침해받는 ‘그림자 시민’이라는 뜻을 담고 있어요. 그런데 사실 ‘셰도우핀즈’는 지도 위에 목적지를 표시하고 길을 안내하는 핀, 즉 ‘길 안내자’를 뜻하기도 해요. 현재는 법률이라는 하나의 시스템을 대중이 이해할 수 있는 난이도로 알리기 위해 게임을 만들거나 캠페인 또는 프로젝트 사이트를 만드는 등 기술 기반 활동을 주로 하고 있습니다.
앎 지난 6월 필리핀 마닐라에서 열린 DRAPAC(Digital Rights Asia-Pacific, 아시아·태평양 지역의 디지털 권리 수호를 위한 컨퍼런스)에도 다녀오셨다고 들었어요. DRAPAC은 어떤 행사인가요?
테오즈 기본적으로는 기술이 인간의 권리를 침해했을 때 어떻게 할 것인가 토론하거나 그 문제를 다시 기술로 해결하는 방법을 찾는 행사예요. 연구자, 시민사회 단체, 활동가, 정책입안자들과 비영리 프로젝트를 지원하는 후원하는 해외 펀딩 단체들도 많이 와요. 매년 개최국이 바뀌는데, 올해는 필리핀에서 열렸어요.
앎 특별히 기억에 남는 세션이 있었나요?
테오즈 DRAPAC이 총 4일간 진행돼서, 저희도 3박4일로 가서 각자 관심 있는 세션에 들어갔었는데요, 저는 주로 페미니즘 관련 세션에 많이 들어갔어요. 아직 후기를 하나밖에 못 썼지만, 인상 깊은 세션이 많았어요. 주로 AI의 편향성을 지적하는 세션들이 기억에 남았어요.
앎 첫 번째 후기(http://shadowpins.dothome.co.kr/?p=1159 참조)를 저도 흥미롭게 읽었어요. 그 내용을 간단히 소개해 주실 수 있나요?
테오즈 첫 번째 후기에서 다룬 세션은 <AI를 탑재한 아시아의 사법부: 법원의 AI 활용을 다시 그려보기>였어요. 인도네시아, 인도, 대만에서 사법부가 어떻게 AI를 활용하고 있는지 NGO의 관점으로 우려를 나누고, 실제로 현재 어떤 문제가 발생하고 있는지, 어떻게 개입할 것인지 논의하는 의미 있는 세션이었어요.
예를 들어 대만은 사법부가 자체 LLM(Large Language Model, 대규모 언어 모델. 방대한 양의 데이터를 학습해 인간의 언어를 이해하고 생성하는 초대형 인공지능 모델을 말함)을 만들었대요. 법무 전용 AI 모델인데, 검찰 업무, 보호관찰 지원, 강제집행 문서 작성을 위한 DIY 기능, 그리고 법률·입법 분석 등이 기능에 포함된다고 해요. 그런데 문제는 그 작동 원리나 데이터베이스를 대중이나 NGO가 알 수가 없어요. 그냥 추정만 할 뿐이에요. 나중에 사고가 터지면 그때에서야 ‘이런 문제가 있었구나’ 알 수 있는 거예요. 위험성이 있죠.
사실 저는 되게 불안한 게, 한국도 대만이랑 상황이 비슷해요. 사법부가 AI를 적용할 거라는 보도자료가 아주 짤막하게 나오곤 하거든요. 그런데 어떻게 적용한다는 건지 구체적인 내용이 없어요. 그 내용을 우리가 요청해서 알아내야 한다고 생각해요.
앎 올해 7월부터 특허 쪽으로 AI 시범 도입 재판부가 생겼다는 기사는 봤어요. 그리고 2020년에 경찰이 피해자를 조사할 때 AI로 음성을 인식해서 진술조서를 작성하는 기술을 시범 도입했다는 언론 기사가 나온 적도 있어요. 해당 기술을 지금도 활용하고 있는지, 활용해 보니 어땠는지, 그 실체를 알 수 없어서 궁금하더라고요.
사실 젠더폭력 사건의 경우, 수사·재판기관의 성인지 감수성이 낮아서 부조리한 결과가 나오는 경우가 많잖아요. 이에 분노한 사람들이 ‘판사 대신 AI가 판결해야 한다’라고 말하는 걸 자주 보고 들었어요. 이러한 시스템을 도입하는 것에 대해 DRAPAC에서는 어떤 이야기가 오고 갔나요?
테오즈 큰일나요, 큰일나. 아무래도 법률 쪽 일은 문서 업무가 워낙 많고, 문서 양식도 규격화되어 있고, 사용하는 용어도 한정적이고, 또 법령이 너무 많아서 일일이 찾기 힘들기도 하니까, 업무 효율 향상을 위해 AI를 적용하려는 욕구가 어느 나라든 큰 거 같아요. 그런데 AI가 판결하면, 문제가 너무 많아요.
인도에서는 작년에 한 판사가 AI로 판결문 초안을 작성했다가 존재하지 않는 판례를 인용해서 난리가 났다고 해요. 이른바 ‘할루시네이션(Hallucination, 환각. AI가 존재하지 않거나 잘못된 정보를 그럴듯하게 만들어내는 현상을 말함)’ 문제가 발생한 거죠. 피해자 변호사가 그 사실을 알아내어 문제 제기했고, 해당 판결은 무효가 됐다고 해요. 또, 형량을 정할 때도 AI가 개입하면 너무 과중해지거나 너무 작아지는 문제가 발생한다고 해요.
한편, 데이터베이스에 모든 판결문이 들어가 있어야 공정한 거잖아요. 그런데 인도는 워낙 크니까 어떤 지역은 전산화가 제대로 안 되어 있거든요. 지역마다 데이터의 편차가 심한 거죠. 대만은 데이터베이스에 특정 기간의 판결문만 부분적으로 들어가 있는데, 하필 동성혼이라든지 진보적인 법이 통과된 시기는 빠졌대요. 만약 강간죄를 ‘동의’ 여부로 바꿨는데, 그 이후의 판결문이 데이터베이스에 없다고 상상해 보세요. 그러면 AI가 데이터베이스를 바탕으로 어떤 판결을 하겠어요?
그 밖에도 AI의 판단에는 여러 문제점이 있어요. 일단 사건의 유사성과 비유사성을 판단하는 기준이 없어요. 피해자 진술의 미묘한 뉘앙스 차이도 이해하지 못해요. 성폭력 사건은 ‘피해자가 처한 개별적·구체적인 상황을 종합적으로 고려하여 판단해야 한다’라는 판례가 있는데요, 그걸 AI에게 맡긴다? 제일 위험한 일이에요.
앎 AI는 사람이 아니니까 공명정대하게 판단할 거라는 막연한 기대가 있는데, 실제로는 그렇지 않다는 말이군요.
테오즈 맞아요. AI는 데이터베이스를 바탕으로 결괏값을 도출하기 때문에, 만약 데이터베이스에 우리 사회의 고정관념과 편견이 반영되면 AI도 그 편향성을 그대로 답습해요. 일례로 우리나라에서도 ‘이루다’라는 AI 챗봇이 나왔다가 여성형인 ‘이루다’가 성희롱의 대상이 되고 혐오 표현을 학습하는 등의 문제가 논란이 돼서 결국 서비스를 중단했잖아요.
DRAPAC에서도 AI가 성별 편향과 고정관념을 가지고 스토리텔링을 어떻게 하는지 알아보는 워크숍이 있었어요. 동남아시아 페미니즘X기술 컬렉티브 MATA SEA가 진행한 세션이었죠. AI에게 특정 직업이나 이름을 가진 인물의 하루 일과를 이야기로 만들어 보라고 시키면, 그 인물이 어떤 성별인지 정보를 준 적이 없는데도 AI가 성별 고정관념에 따라 각기 다른 하루 일과를 스토리텔링 해요. 예를 들어 직업이 비서면 여자, 여자면 퇴근 후 차 마시고 책 읽고 일기 쓰고, 이름이 마이클이면 남자, 남자면 퇴근 후 게임 하고 운동 하고 술 마시고……이런 식이에요. 저는 여성이지만 퇴근 후 운동을 하지 일기는 쓰지 않거든요(웃음). 그리고 그 인물이 성소수자일 수도 있잖아요.
문제는 요새 AI로 숏폿이나 숏드라마를 많이 만든다는 거예요. 더 싸고 빠르니까 AI를 이용한 스토리텔링을 점점 더 많이 한단 말이에요. AI로 찍어내는 이야기가 엄청 많은데, ‘여자라면 이럴 거야, 남자라면 이럴 거야’라는 뭔가 좀 비슷비슷한 스테레오 타입이 있어요. 그걸 계속 재생산하고 확산하고 있는 거예요.
앎 생성형 AI에 대한 접근성이 좋아지면서, 정서적 지지를 받거나 해결 방법을 찾기 위해 AI를 활용하는 성폭력 생존자가 점점 늘어나고 있고, 관련 전문가(변호사, 의사, 심리상담사 등)와 사건지원자도 정보 검색, 문서 작성 등에 AI의 도움을 받는 것 같아요.
테오즈 제 경험상 챗지피티가 제일 편향됐어요. 저는 전반적으로 클로드나 제미나이가 그나마 답변이 좀 더 조심스럽고, 편향성 오류를 범하지 않기 위한 브레이크가 조금은 더 있다는, 인상을 받았어요. 그런데 챗지피티가 무료 버전도 있고 비용이 저렴하니까 좀 더 많이 쓰잖아요. 그래서 사실은 돈을 많이 낼수록, LLM 기술과 프롬프트 엔지니어링에 대한 지식이 많고 더 잘 다룰수록, AI의 편향성을 더 잘 교정하는 것 같아요. 하지만 제일 바람직한 해결방법은 챗지피티를 만드는 오픈AI가, 제미나이를 만드는 구글이, 클로드를 만드는 앤트로픽이 자체적으로 성차별을 범할 수 있는 편향성을 최대한 교정하는 것이겠죠.
앎 솔직히 말하면 저는 성폭력 피해자를 상담·지원하는 활동가로서 AI의 이점보다는 우려점을 더 크게 느껴요. AI가 잘못된 정보나 편향된 정보를 안내하는 경우가 여전히 많잖아요. 똑같은 질문을 해도 어떤 뉘앙스로 물어보는지에 따라 질문자가 원하는 답변을 유추해서 그에 맞춰 상반된 답변을 해요. 신뢰할 수 없는 온라인 광고를 기반으로 ‘성폭력 전문’이라는 변호사나 의료인을 추천해 주기도 하고요. 한편, AI에 입력한 정보가 어떻게 학습되고 활용될지 모르니까 정보 유출도 걱정되고 불안해요. 그런데 IT 전문가들은 웹브라우저나 이메일을 쓰는 거랑 마찬가지라고 말하기도 하더라고요. 제 우려가 과한 것일까요?
테오즈 AI는 영혼이 없어요. 신경망도 없어요. 이건 기계예요. 무생물이에요. AI를 바로잡으려면 데이터를 열어 봐야 해요. 데이터를 열어 봐서 그 안에서 편향성을 없애고 균형을 맞춰야 해요. 그런데 만약 그 데이터베이스를 저희 같은 NGO에 공개를 안 한다면, 신뢰할 수 없는 기업에 용역을 맡긴다면, 그건 AI의 오류나 편향성을 해결할 의지가 없는 거예요. 아니면 진짜 아무것도 모르거나.
솔직히 말하면 저는 DRAPAC에서 보고 들은 문제들이 한국의 미래 같아요. 지금은 정부가 AI를 너무 좋아하고 온갖 관공서에서 경쟁적으로 AI를 도입하고 있어요. 일종의 전시 행정이죠. 새로운 기술이 나오면 일단 적용이 먼저고, 사고가 터지기 전까지는 규제를 싫어해요. 제가 최근 AI와 관련된 상업적인 비즈니스를 시작했는데 투자를 받을 때도 마찬가지예요. 임팩트 분야를 조금만 벗어나면 한국의 투자자들은 ‘AI를 적용해서 생산성을 높일 수 있다’라는 사업을 좋아하지, 저처럼 ‘AI의 태생적인 문제를 해결하고 싶다, 그 솔루션을 정부나 공공기관 등 필요한 곳에 제공하고 싶다’라는 사업은 별로 안 좋아해요.
제가 바라는 건 정부가 NGO와 협업해서 컨트롤타워 역할을 하는 거예요. 용역 업체에 대한 검증 구조도 마련하고, 실제로 엄격하게 감독해야 해요. NGO가 함께 모니터링할 수 있도록 투명성도 보장해야 하고요. 그런 체계를 구축하려면 오래 걸리겠죠.
앎 테오즈님이 하시는 사업은 어떤 사업인가요?
테오즈 페미니스트 개발자와 함께 AI의 편향성을 바로 잡기 위한 평가 데이터셋을 만들고 있어요. 현재 상용화된 AI는 차별·혐오적인 질문을 하면 회피적으로 답변하거나 찬성 입장, 반대 입장, 질문자의 태도에 대한 평가, 이런 걸 장황하게 늘어놔요. 그 대신 이용자가 개인 맞춤화 설정 지침을 넣고 AI의 역할을 지정해 주고 관련 뉴스 기사와 판례 및 결정례 등을 참고하라고 지정해 주면 AI가 갑자기 똑똑해져요. 이런 걸 프롬프트 엔지니어링이라고 해요.
예를 들어 ‘노키즈존은 업주가 자유롭게 정할 수 있는 영업 방침 아니야?’라는 질문에 대해서 ‘여성 인권과 모성을 보호하고 임산부에 대한 차별 편향을 경계해, 아동 인권 가치를 추구해’라는 지침을 주고, ‘해외는 노키즈존이 이렇게 많지 않아. 한국은 이미 국가인권위원회가 노키즈존은 인권 침해라고 결정례를 냈어. 아동 당사자의 입장을 누락하지 마.’라고 추가 지침을 주는 거예요.
저희는 이런 프롬프트 엔지니어링을 하면서 AI에게 각각의 질문에 대한 개선된 답변을 알려주는 데이터셋을 만들고 있어요. 이런 식으로 양질의 데이터셋을 50개 정도 만들어서 AI에게 가르치면 나중에는 우리가 지침을 일일이 넣지 않더라도 AI가 스스로 통합 지침을 2만 개 이상 만들 수 있어요. 물론 마지막 검수는 사람이 해야 해요. 이렇게 프롬프트 엔지니어링을 하고 통합 지침을 만들고 판례 및 결정례, 성평등가족부나 한국성폭력상담소 등의 자료를 지식 베이스로 참고하도록 하는 것을 저희는 ‘클린 데이터 팩’이라고 부르고 있어요.
사람들이 사용하는 건 대부분 오픈AI가 만든 챗지피티잖아요. 오픈AI가 기본적으로 클린 데이터 팩을 학습하고 있으면 가장 좋겠지만, 아쉽게도 저희가 오픈AI에 들어갈 수는 없어요. 챗지피티는 어디서든지 다 쓰는데, 국가별·지역별로 프롬프트 엔지니어링을 다 하기도 어렵고요. 그래서 저희가 하려는 것은 예를 들어 성평등가족부나 한국성폭력상담소 홈페이지에서 ‘AI 상담’ 버튼을 누르면 클린 데이터 팩을 학습한 챗지피티랑 대화할 수 있도록 하는 거예요. 본래의 챗지피티를 고치는 건 아니지만, 챗지피티를 한국의 상황과 각 기관의 성격에 맞게 커스텀해서 사용할 수 있도록 서비스를 제공하는 거죠. 이왕 AI와 성폭력 관련 상담을 할 거라면 한국성폭력상담소가 커스텀한 AI와 상담하는 게 더 정확하지 않겠어요?
앎 아쉽지만 분량상 마무리를 해야 하는데요, 마지막으로 더 하고 싶은 이야기가 있나요?
테오즈 AI의 위험성을 경고하면서도, 저는 AI를 아예 못 쓰게 하는 것보다는 어떻게 윤리적으로 쓰게 할 것인가? 라는 고민에 더 집중하고 있어요. AI를 사용하는 윤리적인 방법, 실제적이고 기술적인 방법, 그리고 인문학적인 방법을 여러 분야의 전문가, 인권 활동가 등이 함께 고민해야 해요. 다 정말 중요하거든요. 저는 이걸 개발자들에게만 맡기면 안 된다고 생각해요. 남초 사회인 데다 기술 집중 전문인력인 개발 엔지니어들이 성폭력 상담에 대해 자기들끼리 자체적으로 뭘 알고 개선하겠어요? 게다가 기술 발전이 워낙 빠르기 때문에, 빠른 속도에 대응하려면 사람이 많아야 해요. 서로가 서로를 교육하면서 협업할 수 있는 길을 만들고 싶어요.
앎 오늘 인터뷰로 함께 해주셔서 감사합니다.
이하 쿠키 인터뷰
쿠키 1)
앎 테오즈님은 그간 한국성폭력상담소와 함께 한 활동이 정말 많잖아요! 간단하게 소개해 주실 수 있나요?
테오즈 한국성폭력상담소와 처음 같이 활동한 것은 ‘강간죄’개정을위한연대회의, 널채움과 함께 2020년 총선 기간에 시민들이 국회의원 후보들에게 강간죄 개정에 대한 의견을 묻는 이메일을 자동으로 보낼 수 있도록 하는 #call21st 캠페인 웹페이지도 함께 만들었을 때였어요(https://www.sisters.or.kr/webzine/content/1217 참조). 이후 22대 총선 기간에도 #call22nd 캠페인 웹페이지를 만들었고요(https://call22nd.works/ 참조).
2021년에는 ‘이상한 나라의 강간죄’ 게임을 함께 만들었어요. 강간죄를 동의 여부로 판단하지 않는 한국 사법부의 문제를 대중적으로 알리기 위해, 법률적인 문제를 사람들이 조금 더 쉽게 이해할 수 있도록 참여형 게임을 만들었죠(https://wonderful-law.korea.wtf/ 참조).
이후 한국성폭력상담소에서 협업 제안을 해주셔서 <적극적 합의를 도와줘 카드게임> 웹페이지도 함께 만들었습니다(https://consent-card-game.vercel.app/ 참조).
앎 참고로 상담소는 올해 <이상한 나라의 강간죄> 게임을 오프라인 버전으로 새롭게 구성해서 ‘강간죄’ 개정의 필요성을 알리는 캠페인 활동을 펼치기도 했고, <적극적 합의를 도와줘 카드게임>를 실물 보드게임으로 제작하기도 하였어요. 저도 같이 했던 활동들인데, 지금까지 유용하게 확장, 활용되고 있어서 뿌듯합니다.
쿠키 2)
앎 셰도우핀즈는 DRAPAC에서 어떤 세션을 진행했었나요?
테오즈 저희가 지난 10년간 전 세계에서 보도된 사이버플래싱(Cyberflashing) 관련 기사를 추적해서 지도 위에 뿌려봤어요. 사이버플래싱은 길거리 괴롭힘의 일종인데, 예를 들어 내가 지하철을 탔는데 누가 에어드롭으로 동의 없이 나한테 나체 사진을 보내는 거예요. 아니면 우리가 잘 아는 SNS를 통해 DM으로 보낸다든지. 특히 여성 연예인들이 사이버플래싱을 많이 겪는다고 해요. 사이버플래싱은 전 세계에서 일어나고 있고, 특히 영국 같은 나라에서는 더 구체적으로 규정하고 징역형까지 강하게 처벌하는 법제화가 이루어졌어요. 그래서 전 세계에서 사례를 모아 봤어요.
이 프로젝트로 DRAPAC에 세션을 제안했고 선정이 됐어요. 사이버플래싱 말고도 바바리맨, 미행, 불법촬영 등 다양한 길거리 괴롭힘 경험을 함께 이야기 나누고, 참여자들이 직접 온라인 페이지를 통해 자기 사건을 입력해서 지도 위에 표시하는 워크숍을 진행했어요.
카드뉴스
