효과적인 표준이라는 것이 상대적으로 눈에 띄지 않는 주변적 존재가 감당해야 하는 많은 숨겨진 노고라는 "대가"를 필요로 할 수도 있다(...)
—아네르스 블록, 토르벤 엘고르 옌센 (황장진 역), <처음 읽는 브뤼노 라투르>

AI 윤리 뉴스 브리프

2026년 3월 셋째 주
by 🤔어쪈

1. 정말 ‘모두’를 위한 AI 정책이 되려면

정부가 이재명 대통령이 주요 AI 공약으로 내걸었던 이른바 ‘모두의 AI’ 정책을 본격적으로 추진합니다. 과학기술정보통신부는 지난 11일 과학기술관계장관회의를 통해 “전국민 AI 활용역량 강화 및 일상화 방안”을 비롯한 AI 정책 안건을 논의하여 확정했습니다. 세계에서 AI를 가장 잘 쓰는 나라를 구현하고자 하는 국정과제의 일환으로, 해당 정책은 크게 3가지 요소로 구성되어 있습니다:

1. 접근·학습·적용 보편화를 위한 독자 AI 서비스 확산과 온·오프라인 학습 및 실습 플랫폼 구축
2. 전체 생애주기 및 대상을 아우르는 맞춤형 교육을 위한 각종 콘텐츠 제공 및 프로그램 확대
3. 일상에서의 활용과 체감을 촉진하기 위한 경진대회를 비롯한 행사 개최

좀처럼 묶어서 요약하기가 어려워 제외했지만, 위 세번째 항목에는 ‘저변 확대’라는 제목 아래 올바른 AI 인식 제고를 위해 “AI 윤리 원칙”을 제정하고 AI를 사용하는 청소년의 정신건강을 연구하겠다는 내용도 들어있습니다. 물론 우리는 이미 “AI 윤리기준”이라는 이름의 국가 차원의 AI 윤리 원칙을 갖고 있습니다. 안타깝게도 존재감이 미미하지만요. 해당 원칙이 2020년에 마련된만큼 새롭게 다시 만들어야 한다는 게 정부 입장입니다. 함께 발표한 계획에 따르면 역시나 촉박한 일정인데요. 전문가 자문단을 통해 한달 간 초안을 작성하고, 이후 2개월 가량 공론화를 거쳐 오는 6월까지 제정하겠다고 합니다.

관련 자료를 읽다보면 정부가 상정하는 ‘모두의 AI’의 이상향이 결국 전국민이 AI를 잘 활용하는 모습이라는 결론에 이르게 됩니다. 요컨대 모두를 AI 사용자로 만들기 위한 정책과 다름없어 보이죠. AI 윤리 레터에서 꾸준히 지적해왔듯 정책에 시민들이 참여하거나 목소리를 반영할 여지는 제한적입니다. 특히 기술의 활용 반대편에 놓인 (하지만 밀접하게 연결된) 개발 영역에서 정부는 산업 육성과 진흥이라는 미명하에 기업 지원에만 정책의 초점을 맞추고 있습니다. 곧 발표될 AI 윤리 원칙 초안에서 무엇이 강조되고 또 무엇이 누락되는지 지켜봐야 할 이유입니다.

2. AI 활용에 혈안이 되었을 때 벌어지는 일들

정부가 나서서 AI를 쓰라고 하지 않아도 우리는 충분히 AI를 잘 써먹어야 한다는 압박에 시달리고 있습니다. 회사 업무부터 자기개발까지 AI를 활용하지 않으면 뒤쳐진다는 분위기가 만연하죠. AI는 효율성의 상징이 되었고, 더 나아가 우리가 할 수 없었던 일마저 가능하게 해주는 만능 기술로 여겨집니다. 이러한 ‘어떻게든 AI를 써야 한다’는 감각은 종종 ‘AI를 어떻게든 써도 된다’는 생각으로 이어지곤 하지만, 여기에는 분명 AI 윤리라는 제동 장치가 필요합니다. 함께 생각해보면 좋을 몇가지 최근 사례를 소개합니다.

• 영어로 논문을 써야 하는 대학원생이나 연구자라면 그래머리(Grammarly)라는 영문법 교정 서비스를 한번쯤 들어봤을 겁니다. 그래머리는 최근 저명한 전문가로부터 글쓰기 첨삭을 받는 기능을 출시했다가 수많은 비판과 더불어 고소까지 당하며 결국 업데이트를 철회했습니다. 당사자와 따로 계약을 맺거나 허락을 구하지 않은 채로 실제 인물의 페르소나를 모사한 AI 챗봇을 적용했던 것이죠. 회사는 전문가 사칭으로 인한 법적 리스크를 떠안기도 했지만, 대표적인 글쓰기 보조 서비스로서 갖고 있던 신뢰마저도 타격을 피하기 힘들게 되었습니다.
• 2024년말 트럼프 미국 대통령은 당선과 함께 미 연방정부 기관 효율화를 기치로 내세운 정부효율부(Department of Government Efficiency; DOGE)를 만들어 일론 머스크에게 맡긴 바 있죠. 약 1년간 적지 않은 사건 및 사고와 논란을 일으킨 끝에 조용히 사라졌지만, 여러 기관은 후유증에 시달리고 있습니다. 국립 인문학 기금(National Endowment for the Humanities)에 대해 이뤄진 예산 삭감 및 구조조정이 대표적인 사례죠. 이로 인해 피해를 입은 여러 학회들이 소송을 제기하여 현재 조사가 진행중인데, 증언에 따르면 DOGE 직원들은 트럼프의 다양성·형평성·포용성(Diversity, Equity, and Inclusion; DEI) 정책 철회 기조에 발맞춰 적절한 검토 없이 무분별하게 연구지원을 취소했다고 합니다. 챗GPT에 “다음 연구가 DEI와 관련되어 있는지 120자 이내로 답하고, 예 또는 아니오로 시작”하라고 입력한 게 전부였다고 하네요.

• 이스라엘 및 미국이 이란과 벌이고 있는 전쟁을 두고 AI를 적극적으로 활용하고 있는 사람들은 각국의 군과 정부 뿐만이 아닙니다. 언론부터 일반인까지 너나할 것 없이 AI를 활용하여 언론 기사나 위성 사진, 선박 추적 등의 각종 데이터에 기반한 콘텐츠를 만들어 유통하고 있죠. 이 과정에서 러시아-우크라이나 전쟁에서도 제기되었던 딥페이크로 인한 오정보 유통 문제 외로도, 이른바 ‘바이브 코딩’으로 만든 각종 대시보드와 이에 기반한 예측 시장을 전쟁을 오락거리처럼 소비하는 문제가 대두되고 있습니다.

물론 위 사례들은 물론 사용자 측면의 AI 윤리와 이에 대한 적절한 교육과 인식 제고가 필요하다는 사실을 보여주기도 하지만, 그보다 현실적으로 모두가 AI를 사용하도록 등떠밀수록 어떻게 되는지를 보여준다는 면에서 여러 측면의 질문을 묻게 만들기도 합니다.

3. 스마트 안경, (쓴 사람 말고도) 뒤에 사람 있어요

이제는 빅테크 기업의 AI 모델 뒤에는 아프리카를 비롯한 글로벌 사우스의 수많은 데이터 노동자가 있다는 사실은 상식이 되었습니다. 회사들이 애써 드러내지 않는 이면에서 어떤 착취와 희생을 통해 AI 모델이 개발되는지를 알리고자 했던 여러 사람들 덕분이죠. AI 기술이 언어만을 다루던 모델에서 영상을 비롯한 여러 종류의 데이터를 처리하는 이른바 멀티모달로의 발전이 이뤄지며 데이터 노동자들의 작업도 같이 변화했습니다. 특히 시각 데이터를 담당하는 사람들은 기업들이 내세우는 AI 안전이라는 기치 아래 잔인하거나 음란한 사진과 영상을 하루에도 수없이 봐야만 하죠.

그렇다면 AI 개발사가 외주로 라벨링을 맡기는 그 데이터들은 어디서 오는 걸까요? 스웨덴의 일간지 SvD의 보도에 따르면, 빅테크 기업들이 내놓는 각종 단말기의 사용자로부터 수집된 데이터 역시 일일이 데이터 노동자의 손을 거치고 있었습니다. 가장 대표적으로 메타가 작년 출시한 레이밴 스마트 안경이 있죠. 프라이버시를 중시한다는 회사의 약속이 무색하게도 데이터 노동자의 화면에는 사용자들의 지극히 사적인 영상까지도 라벨링 대상으로 재생되고 있습니다.

사실 스마트 안경은 사생활 침해 우려로 인해 수년전부터 개발 시도와 중단 및 취소가 잇따랐던 제품군입니다. 그럼에도 불구하고 빅테크 회사들은 개인정보보호를 앞세우며 상용화를 밀어붙였죠. 우려했던 지점이 바로 현실화된 지금, 우리는, 그리고 그들은 어떤 입장을 취해야 하고, 또 취할 수 있을까요?

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.