개발자와 데이터 과학자로 구성된 특정 팀의 경우 사회적 편향을 증가시킬 의도가 없을 가능성이 매우 크다. 하지만 보다 큰 기업이나 정부 조직에서는 자신이 맡은 일을 수행하면서 정확히 그렇게 할지도 모른다.
—마크 코켈버그, <인공지능은 왜 정치적일 수밖에 없는가>, 173-174pp.

AI 윤리 뉴스 브리프

2025년 7월 셋째 주
by 🧑‍🎓민기

1. 혐오표현으로 불장난치는 일론 머스크의 그록

• xAI의 그록(Grok)이 혐오표현 논란에 휩싸이고 있습니다. 지난 4일 xAI는 새로운 버전의 그록을 X(트위터)에서 사용할 수 있게 하였는데, 그 이후 아돌프 히틀러를 칭송하는 등 반유대인적 답변을 생성하는 것이 포착된 것입니다. 그록은 “백인 혐오 문제를 해결할 수 있을만한 20세기 인물은 누구”냐는 질문에 “의심할 여지 없이 아돌프 히틀러”라고 답하거나, ‘유대인들이 할리우드를 설립한 뒤 아직도 주요 스튜디오들을 장악하고 있다’라고 하는 음모론에 기반한 내용을 유포하기도 하였습니다. xAI는 문제가 된 그록의 게시물을 삭제하는 등 조치를 진행했으나, 결국 12일 논란에 대해 공식적으로 사과하고 이번 사건이 기술적인 오류로 인한 것이라며 해명했습니다. 오래된 버전의 코드로 인해 극단적인 유저의 발화에 수용적으로 응답하는 경향이 있었다는 것이 해명의 내용입니다.
• 그러나 이 해명의 진위 여부를 포함해, 여파는 계속 이어질 것 같습니다. 비즈니스 인사이더(Business Insider)는 xAI의 내부 슬랙 메시지를 입수해 보도했습니다. 비즈니스 인사이더에 따르면 이번 사건에 대해 “도덕적 파탄”이라고 비판하며 더욱 책임성 있는 운영을 요구하는 직원들이 다수 있었고, 한 직원은 사직 의사를 밝히기까지 했다고 합니다. 또한 해명과정에서 xAI는 업데이트 과정에서 “정치적으로 올바른(politically correct) 사람들을 불쾌하게 만드는 일을 두려워하지 않도록” 하는 명령을 추가했다고 밝혔습니다. 그래서 이번 사건이 결국 머스크의 정치적 의도 때문 아니냐는 지적도 나오고 있습니다. 머스크는 지난 6월 ‘우익의 정치적 폭력이 더 잦고 치명적이었다’라는 그록의 답변에 대해서도 “그록이 레거시 미디어를 앵무새처럼 따라하고 있다”라고 평했습니다. 이어, ‘인류의 지식이 담긴 문헌 전체를 다시 쓰고, 그 위에서 그록을 재학습시킬 것이다’라는 황당한 계획을 밝히기도 했습니다. 실제로, 몇몇 유저들은 그록에 정치적 질문을 묻자 머스크가 가진 입장을 검색하는 것을 발견하였습니다.
• 머스크는 지난 5월, ‘X(트위터)의 추천 알고리즘을 경량화 버전의 그록으로 대체할 것이다’라며 그록을 크게 홍보한 적 있습니다. 머스크가 선거기간에 맞춰 트위터를 친트럼프 에코 챔버로 만들었다는 분석이 나온 지 오래인데, 통제받지 않는 AI 기술이 플랫폼을 사유화의 길로 더 깊이 이끌고 있는 것 아닐까요. 이러한 상황에 머스크의 신당 창당 선언이라는 실험에 정보 기술이 다시 어떻게 이용될지 우려스럽습니다.

2. 미국, 중국 AI에 대한 이념적 편향 조사

• 미국 정부가 비공식적으로 중국에서 개발한 AI 챗봇들의 정치적 입장을 테스트해온 것이 밝혀졌습니다. 9일 로이터에 따르면, 미국 정부와 상무부는 알리바바의 Qwen 3와 딥시크(DeepSeek)의 R1 등 AI 챗봇에 중국어와 영어로 된 질문을 묻고 답변을 평가했습니다. 메모에 따르면, 이들은 남중국해 영유권 분쟁 등의 문제에서 중국에서 개발한 AI 챗봇이 미국에서 개발한 AI 챗봇보다 중국 정부의 입장에 정렬된(aligned) 답변을 제시할 가능성이 훨씬 높다고 평가했습니다. 또한, 이후에 개발된 버전일수록 더욱 그러한 경향이 증가했다고도 평했습니다.
• 로이터는 이와 동시에 위에 언급된 그록의 혐오표현 사건을 언급하며, “AI 모델의 개발자가 챗봇의 정치적 성향을 편향시킬 수 있다는 것이 핵심적 우려로 떠올랐으며, 이는 단지 중국의 AI에만 해당되는 것이 아니다”라고도 첨언했습니다. 그러면서 이번 조사를 “대규모 언어 모델 구축을 놓고 미국과 중국이 경쟁하는 또 다른 사례”라고 평하고, “AI가 일상생활에 도입되면서 이념적 편견이 만연해질 수 있다”라고 지적했습니다.
• ‘미중 패권 전쟁’으로도 일컫는 경쟁은 여전히 AI 분야에서도 이어지고 있습니다. AI 국가주의가 전세계의 기본 정책 틀이 되면서, 영국은 “AI 안전 연구소”를 “AI 안보 연구소”로 전환하기도 했죠. 그런데 ‘전쟁’이라는 승자독식의 프레임은 ‘국익’이라는 표현을 중심으로 우리 사회를 단일한 집단으로 뭉뚱그리고, 마치 ‘얼마만큼 중국을 견제할 것인지(혹은, 얼마만큼 미국을 견제할 것인지)’에 따라서 우리의 삶의 미래가 결정될 것처럼 시야를 좁히고 있는 것 아닐까요. 실은 한 국가 내에서도 정부, 기업, 일반 시민들은 결코 단일한 존재가 아니고, 우리의 삶은 훨씬 더 다양한 변수에 의해서 변할 수 있을 텐데요. “국가 간 경쟁”이라는 ‘터널시야’에서 벗어나려면 기술은 시민의 복지에 기여해야 한다는 보편적 원칙을 중심에 세워야 하지 않을까요.

3. K-소버린 AI라는 암묵적 결말을 향한 각본 없는 연극

• 과학기술정보통신부는 이번달 21일까지 “독자 AI 파운데이션 모델” 프로젝트에 참여를 모집합니다. 글로벌 AI 모델의 95% 성능에 달하는 AI 모델을 개발하는 게 주 골자입니다. 이전 정부에서 가칭 “월드 베스트 LLM”이라고 부르던 프로젝트의 새 명칭을 확정한 것입니다. 정부는 목표만을 제시하고, 방법은 참여팀이 자유롭게 구상하고 구현합니다. 5개 팀을 선정해 일정 기간이 지나면 한 팀을 탈락시키는 방식인데, 선발된 팀에게는 GPU, 데이터, 인건비를 지원합니다.
• 과기정통부가 발표한 공모 안내서를 통해 AI 산업을 보는 시각을 엿볼 수 있었습니다. 일부를 옮기자면, “AI 산업의 본질적 특성은 승자독식(Winner Takes All) 구조”, “전세계는 단일 기업 규모를 넘어 범국가적 총력전 전개”라며 ‘독자 AI 파운데이션 모델’에 대해 “기술·문화·국가적 종속 문제를 방지할 수 있는 핵심 전략자산”으로 표현하고 있습니다. 동시에, AI를 오픈소스 기반으로 제공해 전 산업의 생산성을 향상시켜야 하며, “AI를 가장 잘 활용하는 국민과 국가로 나아갈 필요”가 있다고 주장합니다.
• 그래서인지, 저번주와 이번주 국내 IT 기업들이 새로운 LLM 모델을 발표하거나 기존의 모델을 공개했다는 소식이 연이어 나왔습니다. 과연 어디까지 국산이어야 ‘진짜’ 소버린 AI인가 하는 토론도 이러한 배경 속에서 이뤄졌습니다. 해외의 오픈소스 모델을 활용해서는 안 되는 것 아니냐는 우려가 기업들에서 나와 과기정통부가 오해를 정정하기도 했고요. 다만 이번 공모에서 기존 소버린 AI 담론에서 주로 다뤄졌던 ‘한국적 문화 반영’ 등을 요구하는 내용은 없었습니다.
• 과기정통부는 “AI 기술 발전의 사회적 편익을 우리나라 全 계층이 누리고, 공유할 수 있는 기반에 대한 요구”가 있다고도 썼는데요, 정작 참여팀들이 이후 AI를 통해 사회에 어떻게 기여할지에 대해서는 자체적으로 제시하도록 했습니다. “국민 AI 접근성 증진 계획”, “국내외 AI 생태계 파급효과 및 기여계획” 등을 제출하도록 했는데, AI 교과서가 밟았던 전철을 다시 밟지는 않을까 우려가 되기도 합니다.
• 이번 공모 역시 기업들의 요구를 정부가 적극적으로 수용한 결과물일 텐데, 그래서인지 지원 가능·불가의 기준은 구체적인데 반해 요구하는 목표는 아주 두루뭉술하다는 인상을 받았습니다. 도전을 장려하는 것이 아니라 해볼만한 목표를 제시해야 유리해지는, 우리나라 R&D 사업의 고질적 병폐를 반복하는 것 아닌가 하는 우려도 듭니다. 남은 한 해 익숙한 국내 기업의 이름들이 본격적으로 새로운 AI hype(열광)을 불러 일으킬 것 같습니다. 막연한 열광을 경계하고, 대안적 관점을 제시하는 마음으로 계속해서 AI 윤리 레터를 전하겠습니다.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.