2025 AI 지옥도 월드컵 결과 발표
독자 여러분이 선정한 올해 최악의 장면은?
미국 정부와 전 세계 민주 정권의 정당성은 더 효율적으로 기술과 소프트웨어를 도입해 경제적, 기술적 생산성을 높이는 것에 달렸다.
—알렉스 카프, 팔란티어 CEO <기술공화국 선언>
AI 윤리 뉴스 브리프
2025년 12월 셋째 주
by 🍊산디
목차
1. 타임지 선정 올해의 인물 "AI 설계자들"
2. 트럼프: "단 하나의 규정집만 있어야 한다"
3. [2025 AI 지옥도 월드컵] 독자 여러분이 선정한 올해 최악의 장면은...
1. 타임지 선정 올해의 인물 "AI 설계자들"
2. 트럼프: "단 하나의 규정집만 있어야 한다"
3. [2025 AI 지옥도 월드컵] 독자 여러분이 선정한 올해 최악의 장면은...
1.타임지 선정 올해의 인물 “AI 설계자들”
- 타임지가 올해의 인물로 “AI 설계자들(The Architects of AI)”을 꼽았습니다. 마크 저커버그, 리사 수, 일론 머스크, 젠슨 황, 샘 알트만, 데미스 허사비스, 다리오 아모데이, 리 페이페이 등 AI 업계 CEO들이 타임지 표지를 장식했습니다.
- 표지는 뉴욕 록펠러센터 건설 노동자들을 촬영한 사진 '마천루 위의 점심(Lunch Atop a Skyscraper)’를 오마주 한 것으로 보입니다. 노동자들의 자리를 밀어낸 AI 기업 대표들의 모습에서 불쾌함과 섬뜩함이 함께 느껴집니다. 뭔가 위태로워 보이기도 하구요.
- 한편 올해의 기술로 AI를 꼽더라도 다른 인물을 고를 수는 없었을까 하는 생각도 듭니다. 올해의 AI 광풍을 가장 잘 대변할 수 있는 인물은 누구일까요? 보이지 않는 노동을 수행하고 있는 사람들, 권리를 찾기 위해 싸우고 있는 창작자들도 떠오릅니다. 여러분의 올해의 인물 전면은 누구인가요?
🦜
댓글
🤖아침: ”데이터 노동자 설문”(Data Workers' Inquiry)은 데이터 노동자가 주체가 되어 문제를 제기하고 지식을 생산하는 참여 연구 프로젝트입니다. 케냐, 시리아, 베네수엘라, 브라질, 독일 등지의 데이터 노동자들이 직접 연구한 내용을 발행하고 있는데요.
최근 공개된 "친밀한 AI 뒤편의 감정 노동"(The Emotional Labor Behind AI Intimacy)은 AI 컴패니언(정서적 교류를 시뮬레이션하는 챗봇)을 떠받치는, 감춰진 노동자들의 이야기를 담고 있습니다.
- "친밀한 AI 뒤편의 감정 노동" 원문
- 포스타입 '단삭'님이 번역한 한국어본
🤖아침: ”데이터 노동자 설문”(Data Workers' Inquiry)은 데이터 노동자가 주체가 되어 문제를 제기하고 지식을 생산하는 참여 연구 프로젝트입니다. 케냐, 시리아, 베네수엘라, 브라질, 독일 등지의 데이터 노동자들이 직접 연구한 내용을 발행하고 있는데요.
최근 공개된 "친밀한 AI 뒤편의 감정 노동"(The Emotional Labor Behind AI Intimacy)은 AI 컴패니언(정서적 교류를 시뮬레이션하는 챗봇)을 떠받치는, 감춰진 노동자들의 이야기를 담고 있습니다.
- "친밀한 AI 뒤편의 감정 노동" 원문
- 포스타입 '단삭'님이 번역한 한국어본
2.트럼프: “단 하나의 규정집만 있어야 한다”
- 지난 11일, 트럼프는 ‘AI 국가 정책 프레임워크 확보’ 행정명령에 서명했습니다. 미국 주 정부 단위로 이루어지고 있는 AI 규제를 막고, 연방 차원에서 ‘최소 규제, 단일 표준’을 확보하겠다는 취지입니다. 구체적인 내용은 이렇습니다. 미국 상무부는 각 주의 AI 관련 법률을 분석해 ‘과도한 규제’를 분류하여 법무부에 전달합니다. 미국 법무부는 ‘AI 소송 전담 태스크포스(AI Litigation TF)’를 신설하고 주 정부의 AI 규제가 연방의 정책과 충돌할 경우 법적 대응에 나서게 됩니다.
- 뉴욕타임스는 이번 행정명령을 “AI 규제 반대 로비를 벌여 온 기업의 승리”라고 표현했습니다.
- 미국의 AI 규제는 주로 주단위에서 이루어져 왔습니다. 연방 의회 상하원 모두 AI 규제에 높은 관심을 가지고 있기는 하나, 구체적인 법안의 형태는 여전히 불분명한 상태이죠. 연방 차원의 포괄적인 AI 규제가 부재한 상황에서 주 단위 입법이 활발히 이루어져 왔습니다. 캘리포니아주는 주요 AI 모델의 안정성 검사 공개를 의무화했고, 사우스다코타주는 정치 광고에 딥페이크를 활용하지 못하도록 금지했습니다. 유타, 일리노이, 네바다주는 기업으로 하여금 이용자에게 AI 챗봇과 대화하고 있다는 사실을 알리도록 했죠. 이렇게 미국의 50개 주 모두가 연방의 규제 공백을 메울 수 있는 자율적인 법안을 갖고 있습니다.
- 트럼프 그리고 AI 기업들은 이러한 규제 환경이 미국의 경쟁 우위에 악영향을 미친다고 주장합니다. 트럼프는 미국이 AI 경쟁에서 선두를 유지하기 위해서는 “단 하나의 규정집만 있어야 한다”고 말했죠.
- 트럼프는 이미 취임 첫 날부터 바이든 행정부의 AI 행정명령을 무효화한 바 있습니다. 이 행정명령은 AI로 인한 부정적인 영향을 최소화하기 위해 연방 행정기구들이 취해야 하는 조치들을 주문하고 있었죠. 바이든 행정부의 정책을 철회한 이후, 트럼프 정부가 발표한 AI 관련 행정명령들은 주로 반도체 공급망 재편과 중국의 기술 접근 제한, AI 인프라 강화, 연방 정부 AI 도입 확대, AI를 활용한 군사정보 관리, 중복 규제 효율화 등 행정 효율화와 패권 경쟁을 위한 정책들에 치우쳐져 있습니다. AI 진흥 일변도의 정책 기조들이 전 세계적으로 더욱 가속화되는 듯 하네요.
🦜
[2025 AI 지옥도 월드컵]
독자 여러분이 선정한 올해 최악의 장면은...
- 2025 AI 지옥도 월드컵 결과를 공개합니다. 쟁쟁한 16개 후보 중 어느 것이 최악의 불명예를 차지했을까요?
- 🥇 올해 최악의 장면은 "끝나지 않은 딥페이크 성범죄". 12/14 기준 참여자 44%의 선택을 받아 압도적 우승을 차지했습니다.
- 🥈 2위에는 "대통령경호처의 군중 감시 AI 추진"(14%)이,
- 🥉 3위에는 "AI 디지털교과서... 아니 교육자료"(10%)가 선정되었습니다.
딥페이크 성범죄는 어떤 의미에서 극단적인 사례이지만, 동시에 (생성형) AI 기술이 작용하는 아주 보편적인 양상을 드러내기도 합니다. 그 양상을 다음과 같이 정리해볼 수 있을 듯합니다.
🦜
여성에 대한 성착취를 담은 시각적·언어적 표현이 인터넷을 거쳐 각종 데이터셋에 포함되고, 해당 데이터를 학습한 AI 모델은 유사한 시각적·언어적 표현을 재구현하는 기능을 장착하며, 이런 AI 모델을 활용해 다시금 여성에 대한 성폭력이 이루어지는 자동화된 성착취의 악순환 구조다. ... 즉 AI 기술은 생산부터 활용에 이르기까지 전 생애주기에 걸쳐 여성의 신체에 대한 통제능력(자기결정권)을 당사자로부터 빼앗아 타자(디지털 성폭력 가해자, AI 시스템 개발자, 기업 등)에게 넘겨주는 방식으로 작용하는 것이다.
(고아침, 「기술도 유죄다」, 『참여사회』 2024. 11. 통권 320호)
(고아침, 「기술도 유죄다」, 『참여사회』 2024. 11. 통권 320호)
많은 분이 올해 최악의 장면으로 "끝나지 않은 딥페이크 성범죄"를 꼽은 이유를 짐작해 보자면요. 우선 기술매개 젠더기반폭력의 심화와 우리 사회에서 여성 인권에 AI 기술이 미치는 영향에 관한 우려가 클 것 같습니다. 그뿐 아니라, 여기서 드러나는 '사람들의 데이터를 활용하여 만든 기술로 사람들을 취약하게 만드는 구조'가 젠더를 넘어 각종 사회 영역에서 발현하고 있는 상황에 대한 공감대 역시 있으리라 생각합니다.
결국 이같은 흐름에 대응하기 위해서는 "AI예산에 반드시 성평등과 인권 관련한 예산을 배분해야 한다"는 참여자 코멘트에 주목해 봅니다.
2025 AI 지옥도 월드컵에 참여해주신 여러분 모두 감사합니다. 월드컵은 계속 열려 있으니 아직 참여하지 못한 분들도 언제든지 살펴보세요. (예상 소요 시간 5분)
#feedback
오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.
