무책임한 AI사소한 오류부터 치명적 위협까지
카타리나 츠바이크 지음, 유영미 옮김
8눈도 코도 입도, 심지어 마음도 없는 AI. 하지만 인간은 왜 이토록 AI를 신뢰하고, AI의 결정이라면 아무런 반박도 하지 않고 따르려고만 하는가? AI를 창조해낸 것이 바로 인간이라는 점을 고려해봤을 때 이런 AI 맹종 현상은 설명이 불가할 정도로 신기한 부분이 있다.
AI 맹종이라는 말에 동의하기 어려운가? 그렇다면 현재 AI가 처리하고 있는 일의 범주를 살펴보자. 오늘날 인공지능은 상품 추천에서부터 취업 심사, 범죄자 재범 가능성 평가, 신용도 산정, 심지어 자율주행차 운행에 이르기까지 인간의 삶 깊숙이 개입하고 있다. 그러나 그 결정이 언제나 공정하거나 합리적인 것은 아니다. 우리는 흔히 ‘기계의 판단’이라면 객관적이고 편견이 없으리라 믿지만, 독일의 데이터 과학자이자 윤리적 AI 연구자인 카타리나 츠바이크는 《무책임한 AI》에서 그 믿음을 정면으로 부정한다. 츠바이크는 인공지능이 실제로 얼마나 많은 오류와 편견을 내포하고 있는지를 날카롭게 파헤친다.
AI의 사소한 오류가 개인의 불편을 넘어, 때로는 치명적 위협으로 이어지는 현실을 다양한 사례와 연구를 통해 보여준다. 애플카드의 성차별적 신용한도 책정 사건, 자율주행차로 인한 비극적 사고, 온라인 플랫폼에서 계정이 일방적으로 정지된 사용자들의 고통까지 - 인공지능의 결정은 더 이상 중립적 기술의 결과가 아니라 사회적 책임의 문제라는 사실을 환기한다.
AI 맹종이라는 말에 동의하기 어려운가? 그렇다면 현재 AI가 처리하고 있는 일의 범주를 살펴보자. 오늘날 인공지능은 상품 추천에서부터 취업 심사, 범죄자 재범 가능성 평가, 신용도 산정, 심지어 자율주행차 운행에 이르기까지 인간의 삶 깊숙이 개입하고 있다. 그러나 그 결정이 언제나 공정하거나 합리적인 것은 아니다. 우리는 흔히 ‘기계의 판단’이라면 객관적이고 편견이 없으리라 믿지만, 독일의 데이터 과학자이자 윤리적 AI 연구자인 카타리나 츠바이크는 《무책임한 AI》에서 그 믿음을 정면으로 부정한다. 츠바이크는 인공지능이 실제로 얼마나 많은 오류와 편견을 내포하고 있는지를 날카롭게 파헤친다.
AI의 사소한 오류가 개인의 불편을 넘어, 때로는 치명적 위협으로 이어지는 현실을 다양한 사례와 연구를 통해 보여준다. 애플카드의 성차별적 신용한도 책정 사건, 자율주행차로 인한 비극적 사고, 온라인 플랫폼에서 계정이 일방적으로 정지된 사용자들의 고통까지 - 인공지능의 결정은 더 이상 중립적 기술의 결과가 아니라 사회적 책임의 문제라는 사실을 환기한다.
주제 분류
