여성 살해를 정신 질환 환자의 우발적 일탈로 믿고 싶은 남성 문화는, 인류의 반인 여성이 자신의 성별 때문에 평생을 공포 상태에서 살아가야 하는 구조의 핵심이다.
—정희진, <다시 페미니즘의 도전 - 한국 사회 성정치학의 쟁점들>

AI 윤리 뉴스 브리프

2025년 4월 다섯째 주
by 🧑‍🎓민기

1. 성별 탐지 CCTV 설치 논란 돌아보기

• 안양시에서 여자화장실 앞에 성별 탐지 AI CCTV를 확대 설치할 계획을 밝혔으나, 이틀 만에 인권·개인정보 문제를 들어 폐지하기로 했습니다. 원래 안양시는 화장실 28곳에 AI CCTV를 설치해, 입구에서 남성이라고 인식되면 경고를 보내는 시스템을 도입할 계획이었습니다. 그러나 이 사실이 알려진 후, 시민들과 시민단체의 우려가 전해졌습니다.
• 우선 오작동에 대한 우려가 있었습니다. 안면 사진을 통한 성별 분류 AI의 SOTA(최고 성능) 모델도 정확도가 98%여서, 화장실 이용자 수를 생각하면 오인 가능성을 무시할 수 없다는 의견이 있었습니다. 전형적이지 않은 외모의 여성을 차별해, 여성에 대한 편견을 강화할 것이라는 의견도 있었고요. “국가인권위원회가 2022년 얼굴인식 등 원격 생체인식 기술의 공공장소 도입에 대해 입법 전 모라토리엄(시행하지 않을 것)을 권고했음에도, 여전히 적절한 규제 체계가 마련되지 않고 있다”라며 정부와 국회의 선제적 조치가 부족했다는 정의당 경기도당의 성명도 나왔습니다. 그러면서 대안으로 “인력 기반 순찰 강화, 비상벨 시스템 개선, 지역사회 기반 예방 프로그램”을 제시했습니다.
• 안양시는 우려에 따라 사업을 재검토하기로 했습니다. 이 과정에 대해 페미니즘 연구자 권김현영 교수는 우연한 계기로 이뤄진 공무원과의 연계를 소개했습니다. 사업 추진 배경에 대해 자세히 알기 위해 정보공개청구를 예고했더니, 담당자가 이를 보고 재논의를 했다는 것입니다. 그러면서 “불법촬영 문제에 대한 시 차원의 의지는 여전하다”, “정책에서의 성인지감수성을 총괄 및 검토하는 역할의 중요성에 대해서 (…) 처음으로 제대로 인지”했다고 전하고 있습니다.
• 미아역 여성 살인 사건 등 연이어 충격적인 여성살해 소식이 알려지며, 여성이 겪는 폭력 피해에 대한 불안과 경각심이 높아지고 있습니다. 이러한 걱정을 대부분의 남성은 겪지 않는다는 것이, 바로 구조적 성차별이 엄연히 존재한다는 걸 뜻하고, 성평등의 필요성을 알려줍니다. 그런 의미에서, 문제를 해결하는 방식도 성평등을 강화하는 방향으로 고민해야 할 필요가 있지 않을까요. AI가 위치한 ‘기술’이라는 영역은 결코 사회문화적 배경에서 독립적일 수 없습니다. AI를 도입하는 정책에도 성인지적 관점에 대한 고민이 필요해 보입니다.

2. 대선에서 가동을 알린 딥페이크 탐지 AI

• 이번 대선에서 허위·비방용 딥페이크 영상을 막기 위해 딥페이크 탐지 AI가 쓰인다고 합니다. ‘아이기스(Aegis)’라는 이름의 이 AI는 국립과학수사연구원과 한국전자기술연구원(KETI)가 공동으로 개발했고, 경찰대학, KAIST 등이 참여했다고 합니다. 공직선거법은 유권자 혼란을 방지하기 위해 딥페이크 영상를 활용한 선거운동을 금지하고 있습니다.
• 선관위가 꾸린 ‘허위 사실·비방 AI 딥페이크 특별대응팀’은 AI 외에도 인력을 활용해 3단계로 딥페이크를 구별한다고 합니다. 1단계는 모니터링단의 맨눈 구별, 2단계는 AI 기반 소프트웨어 활용, 3단계는 AI 전문가의 감별이라고 합니다.
• 이 AI는 작년 4월부터 진행된 연구의 결과물이라고 합니다. 그런데 이 모델이 충분한 성능을 갖고 있다면, 작년 하반기에 터진 딥페이크 성범죄 사태 때 개발하겠다고 했던 ‘딥페이크 탐지 AI’와는 어떤 차이점이 있는지 의문이 들기도 합니다. 또, AI가 가지고 올 민주주의의 변화가 단순히 선거기간의 가짜뉴스 뿐일 리도 없습니다. AI 댓글을 통해 여론을 조작하는 것도 생각해 볼 수 있지만, 반대로 AI의 정보처리력을 통해 민주주의의 숙의과정을 돕는 것도 소개한 적 있습니다. 이번 대선이 AI 산업 진흥 정책만 얘기하는 것 아니라, AI가 갖고 올 민주주의의 변화에도 주목하는 선거가 됐으면 좋겠습니다.

3. 동의 없는 개인정보 AI 학습 허용 추진, 위헌 논란

• 기업이 수집한 개인정보를 AI 학습에 사용할 수 있도록 하는 정책을 비판하는 목소리가 나왔습니다. 시민단체들(민주사회를 위한 변호사모임 디지털정보위원회, 참여연대, 정보인권연구소, 진보네트워크센터)은 24일 이와 같은 내용을 담은 입법의견서를 제출했습니다. 민병덕 더불어민주당 의원과 고동진 국민의힘 의원이 대표발의한 개인정보보호법 개정안(1, 2)에는 “인공지능(AI)의 기술 개발, 성능 개선을 위해 원본 데이터를 학습데이터로 정보주체의 동의 없이 활용할 수 있도록” 하는 내용이 담겼습니다. 시민단체들은 이를 비판하며, “개인정보보호법의 기본 원칙을 무시하고 개인정보자기결정권이라는 헌법상 기본권을 침해하는 위헌, 위법적인 법안이며 정보주체의 권리를 등한시하고 기업 측의 이해만 반영한 법안”이라는 입장을 밝혔습니다.
• 이루다 1.0 사태를 기억하실 것입니다. 스캐터랩은 자사의 기존 서비스 ‘연애의 과학’에서 수집한 대화내역을, 챗봇 ‘이루다’ 학습에 사용하였습니다. 결국 개인정보보호위원회는 이에 대해 “이용자의 개인정보를 수집한 목적을 벗어나 이용한 것”이라고 판단하여 과태료와 시정조치를 결정하였습니다. 이번에 제안된 법안은, 기업이 개인정보위 심의를 받으면 (사용자가 동의하지 않았어도) 이런 일을 할 수 있도록 허용하는 법안이 될 수 있습니다. 내 개인정보의 AI 학습 여부를 내가 아닌 개인정보위가 결정할 수 있게 하는 것입니다. AI의 특성상, 동의를 철회하는 것도 어렵습니다.
• 주요 대선 후보들이 AI 기업 지원을 얘기하는 동시에, 국회도 AI 기업을 위한 규제 폐지에 서두르는 모습입니다. 반면에, 현재 AI 분야를 통틀어 부작용으로부터 시민들을 보호하는 역할을 담당하는 정부 기관이 과연 있는지 의문입니다. 과학기술정보통신부는 AI 기본법에 따른 주무 부처이지만, AI 기본법 제정 과정에서 기업의 요구를 우선해 규제를 최소화하려는 모습을 보였습니다. 국가인공지능위원회는 과기부와 함께 방통위의 ‘생성형 AI 이용자 보호 가이드라인’에 제동을 걸기도 했고요. AI안전연구소의 김명주 소장은 “AI안전연구소는 단순히 규제관이 아니다”라고 발언하였습니다. 국가인권위원회의 경우 AI 기본법의 인권보장 방안이 미비함을 경고한 바 있지만, 자체적 권한이 약하고 최근에는 세계국가인권기구연합(GANHRI)의 특별심사대상이 되는 수모를 겪기도 했습니다.
• 개인정보 뿐만 아니라, 내가 생산한 데이터, 노동의 결과물에 대해서도 이런 시도는 또 일어날 수 있습니다. 이런 상황에 정부를 견제해야 할 국회마저 AI의 화려한 약속에만 빠져 감시 역할을 소홀히 한다면, 누가 시민들의 개인정보와 권리를 지켜줄까요.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.