중요한 점은, ‘달랐을 수도 있다’는 사실이 개입과 변화의 가능성을 수반한다는 것이다. 과학기술의 지금 모습이 필연적이지 않으며 더 견고하고, 공평하고, 민주적으로 바뀔 수 있다는 감각은 원하든 원치 않든 도덕적인 책임감을 부과한다.
—브루노 라투르 외 (구재령, 홍성욱 역), <과학에 도전하는 과학>

AI 윤리 뉴스 브리프

2025년 11월 셋째 주
by 🤔어쪈

1.‘AI 커닝’이 진짜 문제는 아니었더라도

AI 윤리 레터 구독자 분들에게 ‘올 것이 왔구나’라는 생각이 들었을 뉴스가 있었죠. 연세대 ‘자연어 처리와 챗GPT’라는 제목의 한 대형 강의의 중간고사에서 일어난 집단 부정행위가 화제입니다. 언론에서는 ‘AI 커닝’, ‘AI 부정행위’라는 표현을 확산하고 있지만, 사실 사건 자체는 AI 활용 여부와 크게 관련이 없었습니다. 비대면 시험을 위해 학생 얼굴과 손, 컴퓨터 화면을 촬영해서 함께 제출하도록 했는데 수상한 정황이 적잖이 발견되었다는 것이 주요 내용입니다. 부정행위를 저지른 학생 수 역시 익명 커뮤니티의 한 투표 결과일 뿐이라 실제와는 다를 수 있죠.

물론 단순히 과목명 때문일 수도 있겠지만, 이는 대학에서 AI 사용이 보편화되었고, 또 그에 따라 우리 모두가 마음속으로 ‘AI 부정행위’를 예상하고 우려하고 있었다는 사실을 보여줍니다. AI 모델의 성능을 인간이 보는 시험 점수로 측정하고 평가하는 만큼 이제 AI는 왠만한 대학 학부 수준의 시험 문제는 전부 맞출 정도로 발전했습니다. 반대로 학생 입장에서는 커닝하기가 굉장히 쉬워졌죠. 대형 강의에 비대면 시험이었다니 부정행위를 하기 위해 넘어야 할 물리적, 심리적 장벽이 너무 낮게 느껴졌을 겁니다. 이제 매 시험기간마다 비슷한 일이 반복되리라 쉽게 예측할 수 있죠.

앞으로 AI와 함께 살아갈 학생들의 AI 사용을 막기보다 오히려 장려하고, 시험 역시 그 방향으로 바뀌어야 하는 것 아니냐는 주장도 점점 힘을 얻고 있습니다. 말은 쉽지만 이는 사실 시험만이 아니라 교육 전반이 바뀌어야 한다는 주장을 내포하고 있습니다. 이른바 AI 시대에 학생이 무슨 지식을 어떻게 학습해야 하는지를 정의하지 않고서 평가 방식을 논하는 건 본말전도입니다. 당분간은 무엇을 배우고 익혀야 하는지에 따라 계산기나 사전, 교과서 또는 인터넷 활용 여부를 정해서 시험을 보듯이 하는 수 밖에 없지 않을까요.

2.새벽배송 논쟁과 AI 윤리의 상관관계

지난달 민주노총 전국택배노조가 자정부터 오전 5시 사이 심야 배송을 제한하자는 제안을 낸 이후 정치권 뿐만 아니라 온 사회가 ‘새벽배송’ 서비스와 관련 규제 필요성을 둘러싸고 뜨겁게 토론을 이어가고 있습니다. 여기선 굳이 구체적인 쟁점이나 찬성 또는 반대 의견을 소개하진 않고자 합니다. 다만 이 논쟁 역시 우리가 그동안 AI 윤리라는 주제 아래 다뤘던 내용들과 연결되는 지점이 적지 않습니다.

휴대전화나 컴퓨터를 켜고 터치나 클릭 몇번으로 매끄럽게 이용할 수 있는 디지털 서비스는 우리로 하여금 그 모든 것이 결국 물리적 인프라가 있어야만 한다는 사실을 잊도록 만듭니다. AI 서비스 뒤에는 엄청난 규모의 전력을 필요로 하는 데이터센터가, 또 그 데이터센터를 이루는 엄청난 수의 반도체, 또 그 반도체를 만들기 위해 채굴해야 하는 엄청난 양의 희토류가 있죠. 그리고 이는 극히 일부만 언급한 것일 뿐입니다. 새벽배송도 마찬가지입니다. 새벽에 물건을 받기 위해서는 무엇보다 새벽에 일하는 사람이 필요합니다. 이번 논쟁은 새벽배송이 얼마나 노동 집약적인지 너무 당연하면서도 잘 보이지 않던 지점을 드러냈습니다.

쿠팡과 같이 새벽배송 서비스를 제공하는 기업은 더 적은 인력으로 더 많은 상품을 운반하기 위해 끊임없이 효율적인 알고리즘을 개발하고 적용합니다. AI 용어로 바꿔 말하자면 목적 내지는 손실 함수(Objective/Loss function)을 정의하여 최적화하는 것이죠. 예컨대 야간 수당을 천원 올릴 때마다 몇 명의 노동자가 추가로 새벽에 일하는지와 같은 변수를 고려하여 비용을 최소화합니다. 하지만 과연 현재 새벽배송 최적화 알고리즘에는 노동자의 건강이 제대로 반영되고 있을까요?

목적·손실 함수의 또다른 이름은 비용 함수(Cost function)입니다. AI 서비스 뒤에 광범위한 물리적 인프라가 있다는 사실은 우리가 내는 구독료 외로도 얼마나 다양한 비용이 발생하는지를 보여줍니다. 기업이 그 중 일부만을 그들의 계산에 반영할 때, 전체 사회는 최대한 많은 비용을 고려해야만 합니다. 따라서 고민이 필요한 건 AI의 개발 및 활용 여부 내지는 새벽배송의 허용 및 규제 여부와 같은 이분법적인 질문이 아니라 우리가 그 ‘비용들을 전부 인지하고, 고려하고 있는가?’입니다.

3.AI 저작권 이슈 Follow-up

저번주 레터를 통해 일본과 덴마크에서 있었던 AI 학습 데이터를 둘러싼 저작권 논란 소식을 소개드린 이후에도 세계 곳곳에서 관련 뉴스가 전해졌습니다. 무엇보다 오픈AI가 저작권 침해 소송에서 진 사례가 최초로 독일에서 탄생했습니다. 뮌헨지방법원은 지난 11일 독일음악저작권협회(GEMA)가 오픈AI를 상대로 노래 9곡의 가사를 허가없이 무단으로 학습했다며 고소한 것에 대해 원고의 손을 들어주었죠. 법원은 해당 가사를 더 이상 사용해선 안된다며 손해배상도 함께 명령했습니다. 물론 오픈AI는 항소할 방침이라고 하나, 이와 유사한 재판이 상당수 있다는 점을 고려할 때 첫 패소 판례는 분명 의미가 큽니다.

사실 오픈AI가 가장 힘을 기울이고 있는 곳은 뉴욕타임스와의 소송전입니다. “뉴욕타임스의 사용자 프라이버시 침해에 맞서 싸우다”. 오픈AI가 지난 12일 회사 홈페이지에 게시한 글 제목입니다. 뉴욕타임스가 저작권 침해 여부 및 규모 파악을 위해 챗GPT 이용 로그 약 2,000만 건을 요구한 것에 대해 재판부가 오픈AI에 제출을 명령하자 이에 반발하는 성명문을 올리며 번복해달라고 한 것이죠. 익명화를 비롯한 기술적 조치가 사생활 보호에는 충분치 않다는 점과 로그 정보가 저작권 침해와는 상당수 무관하다는 입장입니다. 법원은 오픈AI의 요청을 기각했습니다.

한편 우리나라 역시 지상파 방송3사(KBS, MBC, SBS)와 네이버 간의 저작권 침해 소송이 진행중입니다. 언론 보도를 통해 알려진 내용에 따르면 현재 쟁점은 방송3사가 저작권이 침해된 개별 저작물을 특정해야 하는지, 할 수 있는지인 것으로 보입니다. 오픈AI-뉴욕타임스 재판을 참고해볼 수 있지 않을까 싶기도 한데요. 다만 국내 뉴스 소비가 상당 부분 네이버를 통해서 이뤄지는 현실 속에서 방송3사가 네이버와 뉴스 콘텐츠 제휴 계약을 체결했다는 점으로 인해 해외 사례들과 논점이나 해석이 달라질 수 있겠습니다.

4.공공부문 AI 윤리원칙 발표 + AI 기본법 시행령 제정안 입법예고

• 한창 여기저기서 AI 윤리원칙을 발표하던 시절이 있었죠. 다소 뒤늦게 행정안전부가 이 행렬에 동참했습니다. 어느 누구보다 빨라야 하지 않았을까 싶기도 하지만, 최근 공공부문 AI 도입 및 전환을 계속해서 강조하며 마련한 원칙인만큼 제대로 실천하기 위해 오래 걸린 것이었을 거라고 좋게 해석해보려 합니다. 흥미로운 지점은 “선언적 가치에 그치지 않고”, 공무원이 실무에서 활용가능한 “90여 개 세부 점검사항을 체크리스트 형식”으로 마련했다는 건데요. 일선에서 개별 항목마다 판단하고 부담하도록 책임을 전가하는 모양새만은 아니길 바랍니다. 오는 18일(화)에 온·오프라인 설명회를 개최한다고 합니다.
• 한편 작년 말 어찌저찌 통과한 AI기본법의 시행령 제정안 입법예고도 이뤄졌습니다. 지난 9월 초안과 더불어 하위 가이드라인도 공개하여 의견수렴을 진행하고 있었죠. 국내 산업 발전을 위해 진흥에 무게를 두어 규제를 최소한으로 도입한다고 명시했습니다. 시행령에 대한 의견은 12월 22일까지 접수를 받습니다.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.