데이터에 관한 이야기는 경쟁으로 가득하다. 무엇이 참인지 정의하기 위한 경쟁, 데이터를 이용해 권력을 키우기 위한 경쟁, 알고리즘과 데이터를 이용해 어둠에 빛을 비추고 무력한 존재들에 힘을 실어주기 위한 경쟁 말이다.
—크리스 위긴스, 매튜 L. 존스 (노태복 역), <데이터의 역사>

AI 윤리 뉴스 브리프

2025년 7월 다섯째 주
by 🤔어쪈

1. 한국: 슈퍼스타K-AI 결과는… 8월에 공개합니다!

정부가 지난 21일까지 공모한 “독자 AI 파운데이션 모델” 사업의 참여 ‘정예팀’이 추려지고 있습니다. 제안을 접수한 컨소시엄은 총 15개로, 25일까지 서면평가를 통해 10개로 압축되었습니다. 의료 분야와 같은 특화 모델 개발 또는 상대적으로 작은 규모의 기업을 앞세운 연합체가 탈락의 고배를 마셨죠. 8월초까지 발표 평가를 통해 최종 5개 정예팀을 선정하여 프로젝트를 추진합니다. 이후에는 6개월마다 한 팀씩 탈락시키는 흡사 오디션 프로그램과 같은 절차가 진행되죠.

사업 내용에 대해서는 앞서 지지난주에 민기님께서 다뤄주셨으니, 오늘은 프로젝트가 시작되는 8월 전후 본격적으로 논의가 촉발될 주제를 간략히 짚어보고자 합니다. 바로 어떻게 독자 AI 파운데이션 모델을 개발할 정예팀을 골라낼 수 있을지를 둘러싼 평가 문제입니다. 당장 대통령실 AI미래기획수석비서관, 과학기술정보통신부 장관이 모두 공모에 참여한 주관기관을 대표하던 인물이라는 점이 결과와 무관하게 논란을 일으킬 수 있죠. 또한 국내 AI 전문가풀이 넓지 않다는 점을 고려할 때, 과연 10개 팀과 아무런 이해관계가 없으면서도 충분한 전문성을 갖춘 평가위원회를 구성할 수 있을지 의문이 들기도 합니다.

더 나아가 본 사업이 추구하는 이른바 ‘소버린 AI’ 기술을 어떻게 해석할지도 관건입니다. 이미 과학기술정보통신부는 논란을 의식한 듯 해외 AI 모델을 추가로 학습한 파생 모델은 독자 AI 파운데이션 모델로 볼 수 없다고 한차례 입장을 정리한 바 있죠. 하지만 여전히 얼마나, 또 어디까지 국산이어야 프로젝트의 목표를 달성했다고 볼 수 있는지는 불분명합니다. 때문에 소셜 미디어에서는 독자성 내지는 AI 주권 수준을 등급으로 나눠야 한다는 주장과 더불어 이를 어떻게 구분할 수 있을지에 대한 토론이 이어지고 있죠. AI 모델의 사전·사후학습에 쓰인 데이터부터 구조 설계와 학습 방법, 학습과 추론 과정에 쓰이는 AI 반도체와 인프라까지 국산화 요구 범위는 정말 다양할 수 있습니다. 이처럼 꽤나 넓은 스펙트럼에서 정부가 과연 어느 지점을 독자 AI 파운데이션 모델의 기준으로 정할지 궁금해집니다.

2. 미국: 미국의, 미국에 의한, 미국을 위한 AI!

미국 백악관은 지난 23일 “AI 경쟁에서 승리하기 (Winning the AI Race)”라는 제목을 붙인 AI 정책을 발표했습니다. 지난 1월 미국의 AI 리더십을 방해하는 장벽을 제거하겠다며 바이든 정부 정책을 철폐한 트럼프의 AI 행정명령 후속 조치입니다. 이 AI 행동 계획(Action Plan)은 1) AI 혁신 가속화, 2) 미국 내 AI 인프라 구축, 3) 국제 AI 외교 및 안보 리더십 확보라는 3개 축을 중심으로 총 90여개의 세부 정책으로 구성되어 있습니다.

백악관이 특히 강조한 4가지 AI 정책은 아래와 같습니다:

1. 우방 및 동맹국으로의 미국 AI 수출 촉진: GPU를 비롯한 하드웨어와 AI 모델, 어플리케이션과 표준까지를 포괄하는 풀스택 AI 패키지의 수출을 지원함으로서 미국 중심의 AI 동맹을 공고히 하고 다른 나라들이 미국의 혁신과 투자에 무임승차하거나 적국의 기술에 의존하지 않도록 함
2. 신속한 데이터센터와 반도체 공장 구축: 환경 규제를 완화하는 등 데이터센터와 반도체 공장 설립 절차를 간소화하고 운영에 필요한 전력망 구축과 관련 산업에서 요구되는 기술과 인력을 확보함
3. 민간 부문 중심의 AI 혁신을 위한 규제 완화: 산업계 의견 수렴을 통해 전반적인 규제를 점검하여 철폐하고 개별 주 단위의 AI 규제 역시 이에 조응하도록 재정적·행정적 조치를 취하며, 연방거래위원회(FTC)에서 진행중인 기업 조사 역시 AI 혁신을 저해하지 않도록 재검토함
4. AI 모델 내 표현의 자유 보장: 표준기술연구소(NIST)의 AI 위험 관리 프레임워크 내의 오정보, 다양성·공정성·포용성, 기후변화 관련 내용을 삭제하고 정치적 편향에서 자유로운 AI 모델만 미 정부 조달 계약 대상으로 취급함

모두가 어느 정도 예상했지만 미국의 AI 기업들이 원하는 바를 그대로 한데 담은 모양새죠. 덕분에 회사 CEO를 비롯한 산업계를 대표하는 여러 인사들이 지지와 찬사를 보냈습니다. 기업 중 유일하게 우려 의견을 표한 앤트로픽은 미 정부가 엔비디아 등의 반도체 기업의 요구를 일정 부분 받아들여 GPU 수출 제한을 완화한 것을 두고 중국 AI 기업에 대한 견제가 약해질 수 있다고 평했죠. 이를 보면 공공 정책에 해당하는 문서임에도 불구하고 서로 다른 이해관계를 가진 기업 간의 요구사항들을 조율하는 데에만 초점이 맞춰진 것 같기도 합니다. 온통 ‘미국’이라는 단어로 포장했지만 실상 빅테크 기업을 위한 정책이라는 점에 반기를 든 시민단체들은 이를 거부하는 성명서를 내기도 했죠. 우리나라도 미국의 행보를 따르진 않을지 걱정이 되기도 합니다.

3. EU: 실천 강령에 서명할 회사들 여기 모여라!

일찍이 제정된 유럽연합의 AI 법은 올해 8월부터 범용 AI(General-Purpose AI)에 대한 규칙을 적용하도록 적고 있습니다. 범용 AI란 대량의 데이터의 자기 지도 학습을 통해 개발된 다목적 AI 모델로, 국내외에서 파운데이션 모델로 칭하는 기술과 다르지 않습니다. EU 집행위원회는 내년 8월 해당 정책 시행을 앞두고 (신규 모델 기준, 기존 모델은 2년 후) 산업계의 규제 준수를 돕기 위한 범용 AI 실천 강령(Code of Practice)을 발표했습니다. 실천 강령은 작년 AI 법 시행 이후 1년 가까이 1000여명의 이해관계자의 의견을 수렴하여 만든 문서로, 범용 AI 모델 제공 업체들로 하여금 자유롭게 서명하되 참여 기업에 행정적인 부담을 덜어준다고 합니다.

실천 강령은 다음과 같이 총 3개 장으로 이루어져 있으며, EU AI 사무국이 AI 법의 범용 AI 관련 규제를 어떻게 해석하고 적용할 것인지를 엿볼 수 있다는 점에서 중요한 의미를 가집니다.

1. 투명성 확보: AI 법에서 규정한 정보 공개 범위를 명확히 나타낸 AI 모델 관련 정보의 문서화 형식(Model Documentation Form)을 정의했습니다. 업계에서 표준으로 채택한 모델 카드와 비슷하지만, 학습 데이터를 얼마나 또 어떻게 수집하고 큐레이션했는지 훨씬 자세히 적도록 하고 있습니다. 그 외로도 학습 과정에 들어간 컴퓨팅 및 에너지 자원 역시 측정하여 명시하도록 한 점이 눈에 띕니다.
2. 저작권 준수: 범용 AI 모델 제공업체가 EU의 저작권을 비롯한 지적재산권을 준수하기 위한 실무 지침을 담고 있습니다. 참여 기업들로 하여금 웹 크롤링 관련한 인터넷 생태계 관련 표준을 준수하고, 저작권 침해 소지가 있는 출력을 방지하는 기술 조치를 취하며, 관련 민원 처리를 위한 창구를 마련하도록 하고 있습니다.
3. 안전 및 보안 책임: 범용 AI 모델로 인해 발생할 수 있는 각종 위험을 관리하기 위한 프레임워크와 방법론, 관련 문서들을 정의했습니다. 위험 식별과 분석, 위험 수준 평가와 완화 방안을 비롯한 절차별 조치 사항을 명시하고 안전 및 보안 사고가 발생할 것을 대비하여 어떤 정보를 기록하고 관리해야 하는지도 정리하고 있습니다.

기업들의 자발적인 참여를 유도하기 위해 규칙을 완화했다는 평가를 받는 실천 강령에 대해 주요 AI 기업들은 참여 여부를 두고 열심히 계산기를 두들기고 있는 모습입니다. 오픈AI나 앤트로픽, 마이크로소프트는 일찍이 서명 의사를 표명한 반면, 아직 구글과 아마존은 공식적인 의견을 내놓지 않았죠. 반면 메타는 서명하지 않겠다고 반기를 들었습니다. 해당 실천 강령이 유럽의 혁신을 저해할 뿐만 아니라 여전히 법적 불확실성이 남아있다는 입장이지만, 아직 AI 법이 요구하는 바를 충족할 준비가 안되어 있다는 뜻으로 이해해도 크게 틀리진 않겠죠. 다만 EU 역시 우리나라와 마찬가지로 여전히 AI 법 시행 시점을 연기하도록 요구받고 있다는 점에 유의하며 소식에 귀기울여야 하겠습니다.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.