문제는 빅테크가 반도체 제공과 데이터센터 설치에 대한 대가로 각국에 부지, 에너지, 자원을 거의 무료로 요구하며, 고용에서도 자율성을 확보하는 등 시민 디지털 주권을 담보나 내기물로 하는 협상에서 유리한 위치를 점하고자 한다는 것이다.
—김현준, <AI는 (어떤) 세계를 생성하는가>, 문화과학, 2025년 가을호

AI 윤리 뉴스 브리프

2025년 10월 다섯째 주
by 🍊산디

1.대통령경호처의 수상한 연구과제: 군중 감시 AI

• 과학기술정보통신부와 대통령경호처가 2024년 4월에 발주한 연구과제가 도마에 오르고 있습니다. 대통령 경호를 목적으로 한 ‘군중 감시 AI’를 개발하려 했기 때문입니다.
• 예산 총 240억원(과기부 120억, 경호처 120억)에 달하는 이 연구과제는 군중의 행동 패턴을 원거리에서 분석해 위험물 유기 및 준비 또는 습격 등의 ‘위험 행동’을 인식하고, 생체신호를 분석해서 행인의 ‘긴장도’를 탐지하는 것을 연구 과제로 삼고 있습니다. 이상 탐지는 이동형 카메라, 로봇이나 드론 등 무인 이동체 등 분산된 다양한 장비를 통해 이루어집니다. 국정감사 질의 내용에 따르면, 해당 연구과제는 IRB(기관생명윤리위원회) 심의나 한국연구재단의 연구윤리사전검토도 없었습니다.
• 해당 연구과제의 추진배경은 이러합니다. 기존의 경호 방식은 경호대상 보호를 위해 다른 사람들의 접근을 차단하는 ‘차단 분리형 경비’로 국민들이 불편을 겪으니, 과학장비를 활용한 ‘개방형 경비안전 체계’로 변화할 필요가 있다는 것입니다. 이로써 경호대상뿐만 아니라 국민의 안전까지도 보장할 수 있게 된다(?)는 것이죠.
• 국민에 대한 감시가 어떻게 국민 안전 보장으로 탈바꿈 할 수 있는지 도무지 이해가 되지 않습니다. 해당 AI는 명백히 불특정 다수의 생체정보를 활용한 국민 감시를 위한 서비스입니다. 게다가 이렇게 개발된 AI의 수요처는 대통령경호처. <대통령 등의 경호에 관한 법률>은 경호대상을 전현직 대통령과 그 가족으로 규정하고 있습니다. 이는 대통령 경호를 교묘하게 국민 전체의 안전 보장으로 확대하고, 국가가 앞장서서 시민 감시 목적의 AI를 개발하려고 한 사건입니다.
• 연구개발 과제에 대한 언론과 시민사회단체의 지적 이후 연구재단은 연구비 지원을 중단했습니다.
• 문제의 연구과제 결과물은 실제 경호처에서 쓰일 수 있었을까요? EU AI법은 개인의 범죄 가능성을 평가하거나 예측하는 AI를 ‘허용할 수 없는 위험(unacceptable risk)’로 서비스 제공을 아예 금지하고 있습니다. 반면 한국의 AI기본법은(내년 1월 22일부터 시행됩니다) 고영향 AI가 서비스 제공 전에 검인증을 받고 사람의 기본권에 대한 영향평가를 받도록 ‘노력’해야 한다고 규정하고 있습니다. 현행법 상, 대통령경호처는 문제의 AI를 얼마든지 도입할 수 있었을 것입니다.
• 해당 연구과제는 국민 감시로 인한 기본권 침해 문제 외에도 연구개발 과제의 설계, 수주 과정에서도 많은 의혹들이 제기되고 있습니다. 아직 구체적인 실체를 알 수는 없지만요. 자세한 내용들은 AI 윤리 레터의 범위를 넘어서므로, 혹시 관심 있을 분들을 위해 과학기술정보방송통신위원회 국정감사 영상을 첨부합니다. (관련 질의는 영상 1시간 2분 33초부터!)

2.데이터센터, 지역사회에 정말 이로운가요?

• 한국에서도 데이터센터는 중요한 화두입니다. 최근에는 데이터센터가 지역발전 전략의 일환으로 해석되면서 데이터센터 ‘유치 경쟁’도 치열한 모습입니다. 울산에는 SK, 아마존웹서비스가 함께 데이터센터를 건립합니다. 전남에는 오픈AI와 SK의 합작 AI 데이터센터와 국가AI컴퓨팅센터가 지어질 예정입니다. 데이터센터가 일자리 창출, 제조업 혁신 등의 연쇄효과로 이어져 국가 균형발전을 이룰 것이라는 게 업계와 정부의 공통된 기대입니다.
• 하지만 데이터센터가 지역사회에 장밋빛 미래를 보장하는 것은 아닙니다. 뉴욕타임스의 조사에 따르면 막대한 전력과 냉각수를 필요로 하는 데이터센터가 늘어나면서 영국, 네덜란드, 아일랜드, 싱가포르, 스페인, 칠레, 멕시코, 남아프리카공화국 등의 국가들이 데이터센터로 인한 전력망 부담과 지하수층 고갈 위험을 겪고 있습니다. 문제는 이러한 전력, 수자원 부담이 데이터센터로 인해 발생한 것인지 인과를 확인하기 어렵다는 점입니다. 기업과 정부가 데이터센터의 자원 소비량 공개에 소극적이라는 점 또한 문제를 가중하고 있습니다. 기대했던 고용효과 역시 없었다는 것이 주민들의 증언입니다.
• 다른 한편에서는 데이터센터의 국제적 불균형이 문제라는 지적도 존재합니다. 미국, 중국, 유럽연합은 인공지능 개발에 활용되는 전세계 데이터센터의 50% 이상을 보유하고 있고, 전세계 국가 중 32개 국가만 데이터센터를 갖추고 있습니다. 뉴욕타임스는 AI 컴퓨팅 허브를 갖고 있지 못한 150개 이상의 국가들이 과학/기술 연구, 기업 활동, 인재유치에 더욱 어려움을 겪게 될 것이라고 전망합니다.
• 데이터센터의 전략적 중요성과 지역사회 주민들의 이해관계 중 우리는 무엇을 우선해야 할까요? 올해 세계 기업들이 데이터센터에 지출할 것으로 예상되는 금액은 3,750억 달러. 내년에는 5,000억 달러 이상이 지출될 예정입니다. 이 금액이 지역사회와 국가, 지구를 위해 쓰일 수 있는 방법은 없는 걸까요.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.