특히 인공지능 기본법은 인공지능 산업 진흥에 방점을 두고, 필요 최소 규제 원칙에 따라 인공지능 사업자에 대한 의무 사항이나 제재는 최소화하고 인공지능산업 진흥을 위한 사항은 폭넓게 반영한 게 특징이다.
—과학기술정보통신부 보도자료, <인공지능 3대 강국(인공지능 G3)의 기틀인 「인공지능 기본법」 시행>

AI 윤리 뉴스 브리프

2026년 1월 다섯째 주
by 🍊산디

1.AI 기본법 시행, 하지만 규제는 쉼표

• 법의 시간은 누구를 위해서 흐를까요?
• AI 기본법(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법)이 지난 22일부터 시행되었습니다. AI 기본법은 AI의 건전한 발전과 신뢰 기반 조성이라는 두 마리 토끼 모두를 잡기 위해 만들어진 법이었습니다. 하지만 지금은 AI 산업 진흥에 좀 더 방점을 두는 모습이네요. 과학기술정보통신부의 보도자료는 AI 기본법이 “AI 산업 진흥에 방점을 두고, 필요 최소 규제 원칙에 따라 AI 사업자에 대한 의무 사항이나 제재는 최소화하고 AI산업 진흥을 위한 사항은 폭넓게 반영한 게 특징”이라고 평가하고 있죠.
• EU의 AI법이 비록 세계 최초로 제정되었으나 AI의 위험 수준에 따라 단계적으로 시행된다는 점을 고려하여, 한국의 AI 기본법을 세계에서 최초로 전면 시행되는 AI에 관한 포괄적 법령이라는 보도도 보입니다. 하지만 법의 단계적 시행, 특히 기업 규제에 조심스러운 태도를 취하며 단계적 접근을 취하는 것은 한국도 마찬가지입니다.
• 실제로 AI에 관한 규제 수단들이 모두 적용되기 시작한 것은 아닙니다. 기업의 혼란을 최소화하고 현장이 준비할 수 있는 충분한 시간을 제공하기 위해 과기부가 사실조사, 과태료 부과 등의 규제를 1년 이상 유예했기 때문입니다.
• AI 기본법과 그 시행령을 종합했을 때, 현재 우리 법에 명시되어 있으나 한동안 유예될 규제들은 다음과 같습니다. 계도기간 동안에는 인명사고, 인권훼손 등 극히 예외적이며 중대한 사회적 문제가 발생할 경우에만 사실 조사가 이루어지게 됩니다.
  • (투명성 확보 의무) 고영향 AI, 생성형 AI를 활용하여 AI 제품 또는 서비스를 제공하는 AI 사업자는 이용자가 AI를 활용하고 있음을 고지하여야 함. 위반 시 사실조사 또는 과태료 부과 가능. 단, 애니메이션과 같이 AI를 활용한 예술적이고 창의적인 표현물은 인간의 눈에는 보이지 않는 워터마크도 허용.
  • (안전성 확보 의무) 1) 학습에 사용된 누적 연산량이 10의 26승 부동소수점 연산 이상이고, 2) 최첨단 기술을 적용하며, 3) 위험도가 사람의 기본권에 광범위하고 중대한 영향을 미칠 우려가 있는 AI의 경우 AI 수명주기 전반에 걸친 위험을 식별ㆍ평가ㆍ완화하고, 안전사고 예방을 위한 위험관리 체계를 구축하여야 함. 위반 시 사실조사 가능.
  • (고영향 AI 사업자의 의무) 고영향 AI을 활용한 제품 또는 서비스를 제공하는 경우 위험관리방안, 이용자 보호 방안, AI 개발에 사용된 학습데이터의 개요, AI가 도출하는 결과물의 설명 방안 등을 수립하는 등 안전성ㆍ신뢰성 확보 조치를 이행하여야 함. 고영향 AI는 에너지/먹는 물/의료/원자력/범죄 수사/채용/대출 심사/교통/공공서비스/교육 등 10개 영역에 활용되었는지 여부, 중대한 위험의 소지가 있는지 여부, 최종 결정 과정에 사람이 개입하는지 여부 등을 종합 고려하여 판단함. 위반 시 사실조사 가능.
• 이로써 AI 기본법의 규제들은 사실상 강제성 없는 권고 수준에 머물게 된 것으로 보입니다. 시민의 안전과 기본권을 보호할 핵심 규제들이 유예된 현시점에서 AI 기본법이 산업 진흥의 근거 법령을 넘어서는 신뢰의 발판이 될 수 있을까요?

2.미국 전쟁부, AI 가속화 전략 발표

• 지난 12일, 미국 전쟁부(Departmnet of War)는 AI 가속화 전략(AI acceleration strategy)을 발표했습니다. 해당 계획은 후방에서 최전방에 이르기까지 AI 도입과 실험을 촉진하여 다른 국가는 넘볼 수 없는, 비대칭적인 군사력을 확보하겠다는 내용을 담고 있습니다.
• ‘가속화’라는 문서 제목에 걸맞게, AI 가속화 전략은 속력을 전면에 내세울 뿐만 아니라, 속력만을 다루고 있습니다. 전략 문서는 미군이 어떻게 AI를 활용한 새로운 전투 방식의 발견, 테스트, 피드백, 확장의 전 과정을 보다 빠르게 해낼 것인지 포부를 밝힙니다. 이로써 군이 민간에서 개발된 새로운 AI 기술을 도입하기까지 걸리던 시간을 연 단위에서 시간 단위로 가속하겠다는 것이죠.
• 가속화 과정에서 방해가 되는 것은 ‘식별하고 제거’됩니다. 예를 들어, 다양성과 형평성, 포용성을 내세우는 책임 있는 AI와 같은 ‘유토피아적 이상주의’ 등이 속력전을 방해하는 대표적인 요소입니다.
• AI 가속화 전략은 정의로운 전쟁이 무엇인지에 대해서는 전혀 다루지 않습니다. 다만 더 빨리 더 많은 AI가 군에 도입될수록 승리할 것이라고 전제하죠. 이들의 세계관 속에서 속력은 언제나 승리합니다. 이스라엘 군이 AI 기반 의사결정 시스템을 도입한 이후 전쟁에서 사망한 민간인의 수가 늘어났다는 보도나, 전장이 어떻게 빅테크 자본의 실험실이 되었는지에 대한 비판은 이들에게 중요하지 않아 보입니다.
• 전쟁부의 AI 가속주의에 의해 논의와 점검, 숙의의 관행은 무가치할 뿐더러 미국의 억지력을 약화하는 방해 요소가 되어버렸습니다. 가속주의와 국가 안보의 결탁을 틈타 빅테크는 또 다른 부를 축적할 고속도로를 얻게 되었네요. 가치와 윤리를 속력과 바꾼 이 위태로운 시스템이 국제관계를 어떻게 바꿀까요.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.