빅테크

아이들을 걱정한다는 법안들

아동 보호 실패 판결과 책임의 기록

30 3월 2026 — 7 min read

두 명의 인간. 아기와 나

엄마가 보기론 그렇게 못난이가 아니고 오히려 귀엽고 예쁘게 보이는데 외할머니는 하나야를 보고 "모개야"하고 부르고 외할아버지께서는 진짜로 못났다고 "참못난아"하고 부르신단다. ... 그래도 엄마가 보기엔 괜찮단다.
—이옥선, 김하나, <빅토리 노트>

AI 윤리 뉴스 브리프

2026년 3월 다섯째 주
by 🎶소소

목차
1. 미국 법원, 빅테크의 아동 보호 실패에 잇단 책임 인정
2. EU, AI 생성 아동 성착취물 금지 추진 논의 본격화
3. 미국 아동 온라인 안전법에서 빠진 조항

지난 주 미국에서 메타와 구글 등 플랫폼 기업을 대상으로 한 두 건의 중요한 배심원 평결이 나왔습니다.

캘리포니아 로스앤젤레스 법원 배심원단은 6살부터 유튜브, 9살부터 인스타그램을 사용하다 우울증·신체이형장애·불안 등을 겪었다는 20세 여성 케일리의 손을 들어줬습니다. 메타와 구글에 600만 달러(약 90억 원)를 배상하라는 평결입니다. 배심원단은 두 기업이 어린 사용자들을 중독시키도록 플랫폼을 의도적으로 설계했다고 판단했습니다.
뉴멕시코주 법원에서는 메타가 자사 플랫폼에서 일어나는 아동 성착취 문제를 알고도 방치한 혐의로 3억 7,500만 달러(약 5,600억 원)의 벌금을 부과하는 평결이 나왔습니다. 배심원단은 아동 보호 의무를 저버리고 “불공정하고 기만적인" 영업 행위로 뉴멕시코주 법을 위반했다고 봤습니다.
이번 배심원 평결이 최종 판결은 아닙니다. 두 회사 모두 즉각 항소 의사를 밝혔고, 서비스는 그대로 운영 중입니다. 그러나 이번 판결은 현재 빅테크를 상대로 계류 중인 수백 건의 유사 소송에도 영향을 미칠 것으로 보입니다.

지금까지 미국 플랫폼 기업들은 미국 통신품위법 제230조(Section 230)를 근거로 사용자가 올린 콘텐츠로 인한 피해 책임을 방어해왔습니다. 그러나 이번 판결들은 콘텐츠가 아니라 소셜미디어가 설계된 방식 자체에 법적 책임의 초점을 맞췄습니다. 배심원단은 메타의 앱과 유튜브가 의도적으로 중독성 있게 설계됐으며, 기업 임원들이 이를 알면서도 어린 사용자들을 보호하지 않았다고 결론지었습니다

이 거대한 소송의 결과가 플랫폼 기업의 중독을 유발하는 알고리즘 설계 변경까지 이어질 수 있을까요?

EU는 AI Act 개정안에 AI 생성 아동 성착취물(CSAM, Child Sexual Abuse Material) 금지 조항을 추가하는 방안을 제안했습니다. EU는 이미 디지털서비스법(DSA) 등에서 동의 없는 성적 콘텐츠 생성과 유포를 불법으로 규정하고 있지만, 이번 개정안은 CSAM을 생성할 수 있는 AI 시스템 자체를 명시적 금지 대상으로 처음으로 규정하는 것입니다. 최근 xAI 챗봇 그록을 이용한 성적 이미지 생성 사례의 증가가 도화선이 되었습니다.
이 제안은 AI Act의 규제 간소화 패키지인 AI 옴니버스 안에 포함됐습니다. 이 법안은 고위험 AI 규정 적용을 2026년에서 2027년으로 유예하는 내용이 핵심인데요. "AI 규제를 더 늦게, 더 가볍게" 패키지 안에, 규제 강화 조항이 끼워진 것입니다. EU 위원회는 규칙의 조화로운 시행을 위한 방안이라고 발표했지만, 규제 완화와 규제 강화가 같은 패키지 안에 공존하는 이 구조가 참 아이러니 합니다.

🦜

더 읽어보기
- 산업화하는 딥페이크 성착취물(2024-08-26)
- 딥페이크 성착취물은 피해자가 없다구요?(2025-6-23)

트럼프 행정부가 추진 중인 아동 온라인 안전 법안(KOSA, Kids Online Safety Act) 패키지에 상원에서 초당적 지지를 받았던 핵심 조항, 즉 기술 기업이 미성년자에게 유해한 콘텐츠에 직접적 책임을 지도록 하는 '주의 의무(duty of care)' 조항이 빠진 것으로 확인됐습니다. 이 법안은 소셜미디어 기업이 미성년자를 대상으로 유해한 콘텐츠(음란, 금융 사기, 마약, 자해, 도박 등) 위험 요소를 줄이기 위한 정책과 절차를 마련하도록 하는 내용입니다. 예를 들면, 알고리즘을 통해 콘텐츠를 자동 재생하는 기능을 끌 수 있게 하는 것이 포함됩니다.
기업에게 주의 의무가 있는 한 기업들은 무한스크롤·자동재생·중독 유발 추천 알고리즘을 구조적으로 바꿔야 하고, 진행 중인 소송에서도 불리할 수 있습니다. 그러나 ‘주의 의무(duty of care) 조항’이 빠지면서 안전 강화 조치는 약화된 셈입니다. 조항을 삭제하는 것 뿐만 아니라, "이 법의 어떤 내용도 플랫폼에 주의의무를 부과하는 것으로 해석될 수 없다"는 문구도 명시적으로 삽입되었습니다. 그러나 이 조항이 삭제되면서 플랫폼 설계 자체의 안전성을 강화하기보다 책임을 부모에게 전가할 수 있다는 우려도 제기됩니다.

아동 보호라는 의제는 이념과 정파를 막론하고 공감대가 형성되는 듯 보이지만, 정작 책임을 누가 질 것인가의 문제 앞에서는 다시 갈라집니다. 기업이 수백억 원을 배상하더라도, 알고리즘 설계가 바뀌지 않으면 같은 피해는 반복됩니다.