기술적시민성

기술의 방향을 굴절시키기

연말연시 읽을거리 추천

🤖아침

01 12월 2025 — 8 min read

by 🤖아침

어느새 올해도 마지막 달입니다. 오늘은 연말에 쟁여놓고 읽을 만한 자료 몇 가지를 소개합니다.

목차
1. 『생산성 생성하기』
2. 「인공지능에 대한 인권기반접근」
3. 「인공지능(AI)과 노동」

💌 AI 윤리 레터 응원하러 가기 💌

『생산성 생성하기』 (국립현대미술관 × 스테델릭미술관)

『국립현대미술관 연구 × 스테델릭미술관 연구: 생산성 생성하기』 표지. 표지 그림: «올해의 작가상 2025»(국립현대미술관 서울, 2025.8.29–2026.2.1.) 설치 전경. 사진: 홍철기.

지난여름 서울대학교 AI연구원 AI ELSI센터의 천현득 센터장과 마주 앉아 이야기 나눌 기회가 있었습니다. AI와 감정, 이해, 설명가능성, 투명성 등을 연구하는 과학철학자와 AI 윤리에 관한 고민을 나누는, 개인적으로 뜻깊은 시간이었는데요. 이날 나눈 이야기가 최근 책으로 나와, 몇 가지 대목을 발췌-요약해 소개합니다.

AI를 '행위자'로 볼 수 있는지에 관해

천현득: [...] 행위성이 있다면 책임을 질 수 있어야 합니다. 예를 들어 자율주행차가 사고를 낸다면 차량이 책임을 져야 할까요? 현재는 자동차를 설계·제조·판매하고 보험을 제공하는 시스템 안에서 누군가가 책임을 져야 한다고 봅니다. 챗봇도 마찬가지입니다. 사용자에게 ‘공감’을 주는 특성 때문에 챗봇은 부정적 이야기를 증폭시킬 수 있고, 챗봇과 대화하다 자살하는 사건도 가끔 발생하는데요. 이건 사람이 챗봇을 의인화해서 나르시시즘적 대화를 하는 상황이지, LLM을 주체성이나 행위성이 있는 존재로 대우하는 것은 위험하다고 생각합니다.

AI 투명성의 다양한 층위에 관해

천현득: [...] 모델의 작동을 왜 알아야 할까요? 자동차 엔진 작동법을 몰라도 사람들은 잘 운전하고 다니고, 알약이 몸에 들어가서 어떻게 우리를 낫게 하는지 기제를 몰라도 의사가 먹으라면 먹는데 말이죠. 이는 자동차나 약 같은 경우에는 일종의 안전 테스트가 자리잡고 있기 때문이라고 설명할 수 있습니다. 마찬가지로 AI 모델도 입력값과 출력값을 테스트해서 안전하다면 쓸 수도 있을 겁니다.

그런데 입출력 사이의 과정이 중요한 경우가 있습니다. 대출 승인, 가석방 심사, 인사 고과, 입사 스크리닝, 질병·건강 등 사람을 평가하는 의사결정에 AI가 개입하는 여러 경우가 있습니다. 이때는 단지 성능을 넘어, 과정에 대한 신뢰가 필요합니다. 성별, 인종, 나이, 지역 때문에 차별받은 것이 아니고 공정한 결과라고 믿을 수 있으려면 적어도 알고리즘이 어떻게 작동하는지 알려줘야겠죠. 그래서 투명성이 봉사하는 목표는 결국 신뢰성(trustworthiness)이라고 할 수 있습니다.

AI 윤리의 실천적 측면에 관해

필자: 한편으로는 이런 의문도 듭니다. AI 윤리는 AI 자체를 거부할 수 있는가? [...] 단지 기술로서뿐만 아니라 자본주의와 밀접한 정치적 기획으로서 바람직한 것인지를 따졌을 때, AI 윤리가 그 방향성 자체를 문제시할 수 있을까요.

천현득: [...] 전체적으로 멈추는 것은 불가능하다고 생각합니다. 그렇다고 부분적으로 통제할 수 없는 건 아닙니다. 예컨대 EU의 AI 법 (2024)에서는 공공장소에서 얼굴 등의 생체정보 추적이나, 예측적 치안 등 인권을 심대하게 침해할 우려가 있는 활용을 금지합니다. [...] 맥락에 따라서 어떤 일은 사람이 해야 하기 때문에 AI에 맡길 수 없다, 어떤 일은 인권을 심각하게 침해하기 때문에 아예 안 된다, 이런 주장을 할 수 있는 것이죠. 어떤 경우에는 관철시킬 수 있고, 어떤 경우에는 안 될 수도 있고요. 그럼에도 불구하고 계속 목소리를 내고 타협하고, 다양한 힘을 통해 방향을 굴절시키는 노력이 필요하다고 봅니다.

그밖에도 AI는 지능을 갖는다고 할 수 있는지, 'AI 에이전트'나 '추론 모델(reasoning model)'을 어떻게 바라봐야 할지라던가 AI 기술을 둘러싼 여러 사회적 맥락 및 국제 정세 등에 관해 이야기를 나눴어요. 전문은 연구지 『국립현대미술관 연구 × 스테델릭미술관 연구: 생산성 생성하기』에 「대담: AI 윤리를 둘러싼 쟁점들─행위성, 투명성, 실천성」이라는 제목으로 실려 있습니다.

연구지 단행본은 국립현대미술관이나 주요 온라인 서점에서 구매할 수 있습니다. 국립현대미술관 웹사이트에서 PDF 다운로드가, 온라인 저널 ‘스테델릭 스터디스(Stedelijk Studies)’에서 영문본 열람이 각각 가능합니다.

「인공지능에 대한 인권기반접근」 (정보인권연구소)

정보인권연구소에서 '인권'을 기반으로 인공지능 문제를 바라보는 <인공지능에 대한 인권기반접근> 이슈보고서를 발간했습니다. 정부와 산업계가 'AI 강국'을 모토로 인공지능 산업화에 초점을 맞추는 상황에서 "잘 보이지 않는 사람들, 특히 인공지능으로부터 영향 받는 평범한 사람들의 입장에서 인공지능과 인권의 관계를 생각"하는 자료라고 해요. 기술의 '이해관계자' 개념을 넘어 '영향 받는 사람'이라는 개념을 통해 더 폭넓은 관점을 담아내는 시도로 보입니다.

「인공지능(AI)과 노동」 (경사노위)

「인공지능과 노동(우리 사회가 답해야 할 12가지 질문)」 녹서 뒷표지 갈무리.

대통령 소속 경제사회노동위원회(경사노위)에서 「인공지능과 노동(우리 사회가 답해야 할 12가지 질문)」 녹서를 발간했습니다. "미래 노동시장에 대응 방향 설정과 사회적 합의를 위한 공통 기반을 형성"하기 위한 4개 분야 12가지 질문을 던짐으로써 "인공지능 시대에 지속가능하고 포용적인 미래를 설계"하는 것을 과제로 한다고 해요. 녹서에 담긴 질문은 다음과 같습니다.

인공지능과 인간사회의 조화를 위한 조건