계산이 기계화됨으로써 계산은 지적 활동으로 인정받지 못하게 되었다. 인공 지능 혹은 기계 지능을 모순적이지 않은 존재로 만들기 위해서는 "계산"과 "지능" 모두를 완전히 다시 개념화해야 했다.
—로레인 대스턴 (홍성욱, 황정하 역), <알고리즘, 패러다임, 법>

FAccT 2025 훑어보기

by 🤔어쪈

AI 윤리 빅텐트 학회

재작년, 그리고 작년에 소개했던 AI 윤리 연구의 대표적인 학회 FAccT (ACM Conference on Fairness, Accountability, and Transparency) 리뷰 시간이 다시 돌아왔습니다. 올해 FAccT는 그리스 아테네에서 6월 23일부터 4일간 개최되었습니다. 제출된 800여편의 논문 중 210여편이 발표 기회를 받았는데, 이는 작년 대비 각각 12%, 25% 증가한 수치로 학회 운영진은 분야에 대한 관심과 연구 수준이 높아진 결과라고 해석했습니다.

FAccT는 책임있는, 안전한, 윤리적인, 신뢰할 수 있는 컴퓨팅 분야 연구의 발전을 위해 다양한 연구자들로 구성된 다학제 학회입니다. 컴퓨터과학을 중심으로 사회기술시스템의 공정성, 책임성, 투명성에 관심이 있는 학계 및 업계 종사자가 모이는 자리입니다.

처음 접한 분들을 위해 짧게 소개하고자 학회 홈페이지의 대문 글을 요약 번역해보았습니다. FAccT가 표방하는 ‘빅텐트’ 비전을 읽을 수 있죠. 하지만 여느 학제간 연구 협력이 맞닥뜨리는 어려움 역시 존재합니다. 너무 다양한 주제와 분야의 논문이 한데 모이다보니 동료평가 제도를 운영하기 위해 별도의 분류 체계가 필요했죠. 그렇게 정의한 총 6가지의 핵심 영역을 살펴보면 FAccT에서 어떤 연구들을 찾을 수 있는지 조금 더 자세하게 알 수 있습니다: 1) 시스템 개발 및 배포; 2) 평가와 실천; 3) 경험과 상호작용; 4) 권력과 실천; 5) 법과 정책; 6) 규범적 기반과 함의.

물론 AI 윤리 레터에서는 한발짝 더 들어가 올해 우수 논문 수상작 6편을 읽고 정리해보았습니다. 앞서 언급한 핵심 영역별로 선정된 연구가 아니기도 하고, 학회를 대표한다고 하기엔 소개한 것 말고도 정말 다양한 논문이 누구나 읽을 수 있게 공개되어 있으니 관심이 있는 분은 직접 살펴보시기를 추천드립니다.

AI 및 알고리즘 감사(audit)의 한계

AI가 알고리즘이라는 용어를 대체하면서, 이름만 바뀌었을 뿐인데 우리는 마치 더 나은 시스템을 가진 것처럼 느끼곤 합니다. 하지만 수많은 데이터로부터 추출한 설명하기 어려운 패턴이든, 사전에 정의한 여러 규칙들의 조합이든 그에 기반하여 누군가의 인생을 크게 바꿀 수 있는 의사결정을 자동화한다면 우리는 해당 기술에 공정성, 책임성, 투명성과 관련한 질문을 던져야만 합니다. 때문에 관련 AI나 알고리즘이 차별적인 결과를 가져오지는 않는지 평가하는 ‘AI/알고리즘 감사’는 FAccT의 단골 연구 주제입니다. 같은 문제의식에 기반한 실질적인 규제 사례가 축적됨에 따라 이를 연구한 흥미로운 논문들이 발표되었습니다.

세계 최대 규모의 소셜 미디어 회사 메타(Meta)는 2022년 사용자의 인종, 성별, 종교 등을 토대로 차별적인 주거 관련 광고 알고리즘을 운영했다는 이유로 미국 법무부로부터 공정주택법(Fair Housing Act) 위반 혐의 소장을 받았습니다. 그 결과 기존 알고리즘의 문제점을 보완한 VRS (분산 축소 시스템; Variance Reduction System) 을 내놓으며 합의에 이르렀죠. 메타는 거주, 채용, 신용 등의 광고를 특정 인구통계학적 그룹에 속한다는 이유로 적게 또는 많이 노출하지 않도록 시스템을 개발했다고 발표했습니다. 하지만 연구진의 실험 결과, 해당 종류의 광고 효과를 보다 적절히 반영하는 도달률은 오히려 전체적으로 낮아졌으며 광고 효율 역시 떨어졌습니다. 일부 지표만을 채택하여 기계적으로 편향을 줄인 채 그로 인한 비용은 광고주에게 전가한 셈이죠. 심지어 VRS 적용 범위가 다분히 메타에 의해 자율적으로 정의되어 대형 광고주 상당수는 이를 피해가기도 했다고 합니다.

AI 윤리 레터에서도 다룬 적 있는 뉴욕시의 ‘자동화된 채용 결정 도구(automated employment decition tool)’ 규제 법안 역시 평가 대상에 올랐습니다. 법에서 명시한 제3자 편향 감사 (bias audit) 보고서 총 116건을 전수 분석한 연구 결과, 대다수가 인구통계학적 정보가 누락된 데이터, 불투명한 데이터 처리 방식 등으로 인해 법이 요구하는 지표를 불충족시킬 수 있음에도 불구하고 어찌저찌 ‘통과’ 도장이 찍혀있었다고 합니다. 반면 학계에서의 AI/알고리즘 감사 연구조차 일부 온라인 플랫폼과 미국을 중심으로한 서구권, 영어 데이터에 집중되었다는 점 역시 지적되었습니다. 뿐만 아니라 상당수 연구가 성별은 남녀로, 인종은 백인 여부로, 민족은 미국 맥락에서만 구분하는 등 다양성과 포용성에 반하는 분석 틀을 토대로 이뤄진 것으로 드러났습니다.

챗GPT의 약속과 더 복잡미묘해진 차별

챗GPT를 비롯한 생성형 AI 서비스들은 사용자의 생산성과 창의성을 향상시켜주고, 더 많은 일을 할 수 있게 돕는다고 약속합니다. AI 연구자들 역시 주요 사용자로, 영어 중심의 학계에서 비영어권 연구자들 사이에서 논문 작성 시 LLM을 활용하는 것은 공공연한 사실이죠. 그렇게 적잖은 사람들이 언어 장벽을 뛰어넘게 해준 챗GPT에 고마워하는 한편, 그들의 논문을 읽는 동료평가자들은 이제 챗GPT 스타일을 부정적 지표로 삼고 있습니다. 요컨대 챗GPT가 학계에서 원어민의 영어 표현을 우대하는 방식으로 만연하던 언어 이데올로기를 전복시킨 것처럼 보이지만, 사실은 다른 방식으로 표상할 뿐일 수도 있다는 것이죠.

생성형 AI가 어떤 요청에도 막힘없이 현란한 결과를 내놓는 것을 보다보면 앞서 다룬 알고리즘 감사와 같은 편향, 차별에 대한 평가가 어떻게 이뤄질 수 있을지 막막해지곤 합니다. 만약 문제가 있더라도 일부 기업만을 중심으로 모델과 학습 데이터 규모 경쟁이 이뤄지는 와중에 우리가 무엇을 할 수 있을지 조차 가늠이 되지 않죠. FAccT에서는 이러한 분위기 속에서도 끊임없이 참신한 시도가 이뤄지고 있습니다. 아마존의 루푸스(Rufus)라는 LLM 기반 쇼핑 도우미 챗봇이 아프리카나 인도, 싱가포르 등의 영어 방언 기반 프롬프트 입력 시 품질이 크게 저하된다는 사실을 드러내고 이에 대한 감사 프레임워크를 제시한 연구가 한 사례죠. 이미지 생성 AI가 서구권의 음식은 맛깔나게 잘 그리면서, 아프리카를 비롯한 전세계 가지각색의 음식들은 부정확하게 묘사하는 점 역시 밝혀졌습니다. 해당 연구진은 이를 보완하기 위한 커뮤니티 기반의 데이터 수집 및 확보 방안도 제시했죠.

소버린 AI 정책 속 AI 윤리 연구는?

개인적으로 4년 전부터 FAccT에 관심을 갖고 이번처럼 눈에 띄는 연구를 찾아 읽고 있습니다. 물론 매년 수백건의 논문이 발표되는만큼 전부 살펴본 것은 아니지만, 유독 FAccT에서는 한국에서 수행한 연구를 찾기가 힘들다는 인상을 받았습니다. 다른 이른바 탑티어 AI 학회에서 나름 선전하는 한국 연구기관과 한국 연구자들의 이름을 FAccT에서 본 것이 손에 꼽습니다. 심지어 2022년 FAccT는 서울에서 열렸는데, 그 때조차도 학회 논문집에 채택된 논문은 단 1건 뿐이었습니다.

‘소버린 AI’라는 구호를 적극적으로 채택한 이번 정부의 AI 정책에는 AI 윤리 연구도 고려 대상일까요? 여러 한계가 있음에도 불구하고 계속해서 개선하며 수행해야 할 AI/알고리즘 감사나, AI 모델의 편향과 그로 인한 차별을 줄이기 위한 여러 시도야말로 AI 강국이 되기 위한 필수 요소라는 점이 받아들여지기를 바라봅니다.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.