사실 AI는 전혀 다른 모습이 될 수도 있었다. 노동을 해방하는 기술, 자원을 효율적으로 분배하는 기술, 인간을 해방하는 기술이 될 수도 있었다. 하지만 현실에서 AI는 '노동 가속기'이자 '감시 강화 장치'로 자리 잡아 가고 있다.
—마크 그레이엄, 제임스 멀둔, 캘럼 캔트, <AI는 인간을 먹고 자란다>, 253p.

AI 윤리 뉴스 브리프

2025년 9월 셋째 주
by 🧑‍🎓민기

1. 국가AI전략위원회 출범, 어떤 얘기가 오갔을까?

• 지난 8일, 이재명 정부의 ‘국가인공지능전략위원회’가 출범하고 첫 회의를 열었습니다. 앞으로 이 전략위원회가 국가의 AI 정책을 심의 · 의결하고, 부처간 조정과 성과 관리를 맡게 됩니다. 8개 분과(인프라, 산업AI 전환, 공공 AI 전환, 데이터, 사회, 국제협력, 과학 및 인재, 국가 및 안보)에는 기업, 대학 등의 민간위원 34명이 배치되었습니다.
• 이 날 첫 회의에서는 민간위원 임명과 함께, ‘AI액션플랜’ 추진 방향, ‘AI 고속도로 구축’을 위한 국가AI컴퓨팅센터 추진 방안, 인공지능 기본법 하위법령(시행령 등) 및 가이드라인 초안이 논의되었습니다. 국가AI컴퓨팅센터는 정부가 추진하는 GPU 중심의 AI 컴퓨팅 센터 조성 사업인데, 벌써 두 번이나 참여한 기업이 없어 조건을 완화해 세 번째 공모에 나섭니다. 그리고 인공지능 기본법의 시행령이 이 날 처음 공개되었죠.

• 우선 AI전략위원회의 민간위원 인사부터 비판이 나오고 있습니다. 현직 기업인을 포함해 산업계 인사들이 거의 절반을 차지하고 있고, 학계 인사도 몇몇 대학에 편중되어 있습니다. 사회 각계각층의 다양한 의견을 대변할 시민단체 인사는 찾아보기 어렵습니다. 참여연대, 민변 디지털정보위원회, 진보네트워크센터 등을 비롯한 시민사회단체들은 “인공지능의 영향을 직접적으로 받는 다양한 사회 집단과 시민사회단체의 참여가 사실상 배제되었다”라며 재구성을 요구하기도 했습니다.
• AI기본법에 담긴 과태료 조항의 적용 유예는 확실해졌습니다. 많은 기업들은 AI기본법의 규제가 불분명하고 과도하다며 폐지하거나 적용을 유예해 줄 것을 계속해서 요구해 왔습니다. 이번에 정부가 내놓은 안은 위반에 대한 조사를 시행하되, 계도기간을 두고 과태료 적용시기는 추후 논의하여 확정하겠다는 것입니다. 규제가 충돌없이 잘 정착할 수 있도록 하는 것도 중요하겠지만, 과기부 장관과 여당의 황정아 의원 등으로부터 ‘규제 3년 유예’라는 주장이 흘러나오는 상황은 과연 정부가 규제를 시행할 의지가 있는지 의심하게 만듭니다. 무기한 유예보다는 규제의 취지를 현실화할 수 있는 방안이 시급해 보입니다.
• 올해 초 미국에서는, 트럼프 행정부의 출범과 함께 빅테크 과두제에 대한 우려가 터져나왔습니다. IT 기술을 바탕으로 소수 특권층이 견제 없이 권력을 독점할 수 있다는 경고였습니다. 최근에는 무리한 친원전 정책을 펼치던 윤석열 정부 시기 한전 · 한수원이 수출 성과를 위해 미국 원전 기업인 웨스팅하우스와 굴욕적인 불평등 계약을 맺은 것으로 드러나 파문이 일기도 했습니다. ‘AI 올인’으로도 불리는 이재명 정부의 AI 정책이 이러한 전철을 밟지 않으려면 구조적인 장치가 필요하지 않을까요?

2. 구글, AI 프롬프트의 자원 소비량 공개

• 지난 8월 22일, 구글은 대규모 AI 서비스를 제공하는 기업 중에서는 최초로 전력 · 담수 · 탄소 배출량에 대한 구체적인 데이터가 담긴 리포트를 발표하였습니다. 이 자료에 따르면 평균 프롬프트 1개는 0.24Wh 전력, 0.26ml 물, 0.03g CO₂를 발생시킵니다. 이번 발표 내용을 인터뷰한 MIT 테크놀로지 리뷰에 따르면, 이는 전자레인지 1초 가동이나 물방울 다섯 방울 수준과 유사한 수치입니다. 2024년 5월 대비 1년 후인 2025년 5월에는 프롬프트당 에너지 소비가 33배 감소했다라고도 밝혔고요.
• 이번 발표의 한계 또한 존재합니다. 이번 발표에서 이미지 · 동영상 생성은 대상에서 제외되었습니다. 또 구글은 프롬프트 하나의 자원 소비량 ‘중간값’을 계산하는 데 집중했는데, 정작 구글이 처리하는 총 쿼리 수와 총 자원 소비를 공개하지는 않았습니다. 또한 전력 공급을 위해 필요한 수자원 소모는 계산에 넣지 않았고요. 그리고 구글은 전력 구매를 통해 일반 전력망 대비 탄소배출량을 1/3 정도로 낮출 수 있었다고 계산했는데, 전력 구매를 통해 탄소 배출을 외부에 떠넘기는 방식이 과연 실제로 탄소 배출 저감에 기여하고 있는지 의문을 품을 수도 있을 것입니다. 구글과 같이 대규모 서비스를 제공하는 기업이 아니면 따라할 수 없는 방법이죠.
• 좀 더 넓은 시야에서 볼까요. 하나의 프롬프트로 소모되는 자원이 지금의 AI 사용 사례를 대표하기는 어렵습니다. 한번의 생성으로 답을 내는 것이 아니라 ‘추론’ 단계를 거치는 CoT (Chain-of-Thought), 다양한 시스템과 상호작용하며 작업하는 AI 에이전트가 이미 상용화되어 있습니다. ‘추론 시간 스케일링(Inference-Time Scaling)’이라는 패러다임은 더 나은 답이 나오도록 모델을 무한정 작동시킵니다. 사실상 AI 서비스의 주력 기술은 하나의 프롬프트가 아니라 여러 프롬프트의 연쇄를 통해 문제를 해결하는 단계로 넘어온 것이죠. 단 하나의 프롬프트를 효율적으로 계산할 수 있게 되더라도, 이렇게 계산을 더 많이 필요로 하는 기술이 계속 상용화됨에 따라 실제로 AI 서비스에서 소모되는 자원은 훨씬 더 큰 수도 있게 됩니다.
• 이번 발표를 두고 크게 두 가지 해석이 나옵니다. 첫번째는 구글이 보여준 것처럼 AI 기술이 빠르게 효율화되고 있으니 AI로 인한 전력 부족을 우려할 필요가 없다는 주장입니다. 두번째는 구글의 발표는 눈속임일 뿐 실제로 전력 소모는 증가하고 있으니 안정적인 저탄소 발전원 확충과 댐 건설이 필요하다는 주장입니다. 그러나 두 주장 모두 AI의 활용이 폭발적으로 늘어날 것이라는 대전제가 깔려있고, AI 인프라 확대에 막힘이 없기를 바라면서도 정작 그 필요와 효용에 대해 질문하지는 않습니다. 예를 들어, 구글이 거의 모든 검색마다 생성하는 AI 개요 기능은 정말 필요한가요? 기술을 확장시키기 위해 자원을 개발하는 게 아니라, 가용한 자원의 한계 안에서 기술을 고도화시키는 방향은 불가능할까요? 과연 풍요로운 삶은 자원을 무한정 개발해야만 가능한지, AI 기술이 그러한 소비를 정당화하고 있지는 않은지 질문해 봅니다.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.