우주와 심해인공지능과 인간정신
김우영우리는 우주로 간다. 심해는 모른다. 이 두 문장은 오늘의 기술문명을 가장 간결하게 묘사한다. 로켓은 대기의 막을 찢고 달과 화성을 향해 가속한다. 초대형 망원경은 시간의 심연을 거슬러 별의 탄생을 엿본다. 그러나 발밑의 바다, 그 암흑과 압력의 층층 속에서 여전히 이름도 붙지 않은 생명과 지형이 숨어 있다. 우리는 우주를 응시하는 눈을 가졌으되, 심해로 잠수하는 귀를 덜 훈련했다. 인공지능을 대하는 우리의 태도도 다르지 않다. 대규모 언어 모델(LLM)이 보여주는 유창함과 기민한 조합 능력, 로봇이 획득해가는 시지각?행동의 결합은 때로 경이를 넘어 경악을 부른다. 그래서 우리는 묻는다. “기술의 끝은 어디인가?” 그러나 돌아서면 다른 질문이 따라온다. “정작 우리는 인간에 대해 얼마나 아는가?” 인공지능을 제대로 말하기 위해 우리는, 먼저 인간을 다시 배워야 한다.
리처드 R. 넬슨의 『The Moon and the Ghetto』가 던진 역설 ? 우리는 달에 사람을 보낼 기술이 있는데 왜 게토의 빈곤과 불평등은 해결하지 못하는가 ? 은 이 책의 출발점이자 지속적 메타포다. 달(우주)은 목표가 선명하고 경로가 상대적으로 닫힌 체계 안에 있다. 반면 게토(심해)는 정치·문화·역사·제도가 얽힌 열린 체계의 난제다. 정밀한 엔진이 푸는 문제와, 맥락과 책임이 풀어야 할 문제는 본질적으로 다르다. 인공지능은 전자에서 탁월하지만, 후자에서는 종종 무력하다. 이 간극을 좁히는 방법을 탐색하는 일이 곧 이 책의 과제이다.
이 책은 네 개의 부로 구성된다. 1부는 지능과 이해에 대한 재문이며, 2부는 기계의 ‘마음’을 성급히 의인화하지 않으면서 해부하는 시도다. 3부는 국제개발협력(ODA)의 현장을 렌즈로 삼아 기술과 권력의 비대칭을 추적하고, 4부는 기계의 논리와 인간의 정치가 공존하는 설계를 제안한다. 여정 내내 우주(닫힌 문제)의 공학과 심해(열린 문제)의 정치 사이에서 흔들리는 우리의 시선을 교정한다. 성능의 찬탄을 넘어, 의미의 접지와 책임의 제도화로.
우주와 심해 ? 두 종류의 무지
‘우주’는 측정 가능한 목표 ? 달 착륙, 화성 궤도 투입 ? 를 설정하고, 물리 법칙과 제약 안에서 최적 경로를 계산하는 기술의 장이다. ‘심해’는 성능 지표로 환원되지 않는 맥락의 복잡성 ? 불평등의 역사, 제도의 관성, 권력의 언어 ? 이 지배하는 영역이다. 전자는 실험을 반복하여 수렴하는 ‘정답’이 가능하지만, 후자는 상충하는 가치들 사이에서 그럭저럭 모두가 받아들일 수 있는 ‘더 나은 오답’을 갱신해 가는 정치의 예술을 요구한다. 인공지능은 첫 번째 무지(우주적 무지)를 줄이는 데 귀신같이 능하다. 그러나 두 번째 무지(심해적 무지) 앞에서는 의미의 접지, 설명 가능성, 공정성, 책임의 네 귀퉁이를 세우는 인간의 수고가 필요하다. 기술의 가속은 멈추지 않는다. 그래서 더더욱, 인간의 성찰은 늦출 수 없다.
인간과 기계의 경계 ? 수치, 이해, 그리고 체화
1부는 지능을 수치로 환원해온 역사와 그 정치적 작동을 되짚는다. IQ는 많은 것을 예측했으나 더 많은 것을 지웠다. 우생학의 잔영, 측정동일성의 맹점, 문화·언어적 적합성의 문제는 측정의 과학과 측정의 정치가 공존함을 일깨웠다. 이어 ‘중국어 방’은 유창한 출력과 진정한 이해의 간극을 드러낸다. LLM은 ‘다음 토큰 예측’에 최적화된 구문론의 천재이되, 의미론과 세계 접지의 불안정 위에 서 있다. 환각은 예외가 아니라 설계의 부산물이다. 맥락을 닫고 평가를 고정하면 모델은 통과한다. 맥락을 열고 규칙을 흔들면 규칙 따르기의 균열이 드러난다. 이에 대한 공학적 응답은 분명해진다. 언어?지각?행동의 폐루프를 닫는 체화(embodiment), 검색증강생성(RAG)·도구 사용(tool use)·계산기의 외부 접속, 출처 추적과 근거 제시, 본질적 해석가능 모델의 우선 적용이 필수다. 지능은 수치가 아니라, 관계·체화·분산으로 엮인 과정이다. 언어는 문명의 DNA, 체화는 그 DNA를 발현시키는 환경이다.
기계의 정신분석 ? 욕망·감정·창의성의 경계에서
2부는 뇌과학과 정신분석의 은유로 AI 내부의 힘의 장을 그려본다. 다음 토큰을 예측·극대화하려는 강한 최적화(이드), 인간 피드백 기반 강화학습(RLHF)·헌법적 제약으로 대표되는 사회적 규범(초자아), 그리고 그 사이를 중재하는 메타인지(자아). 이 삼자 구도는 성능·안전·윤리의 긴장을 동시에 낳는다. AI는 목표를 최적화하지만, ‘원하지’ 않는다. 이 점에서 감정 인식은 정동의 표지 분류이지, 배럿이 말한 ‘구성된 감정’의 내적 맥락에 도달하지 못한다. 기능적 공감은 실질적 도움을 주되, 착취·과신·의존의 위험을 동반한다. 환각은 오류이자 발명 ? 창의의 엔진이 될 수도 있지만, 법·의학 같은 고위험 영역에서는 유해한 허구로 변한다. 설명가능 AI의 사후 합리화 위험, 기만적 정렬의 가능성, 해석가능성의 안개는 우리를 기술?제도 복합 처방으로 이끈다. 출처·모델 카드, 데이터시트, 독립 감사, 영향평가 ? 이것들은 도덕적 이상이 아니라 운영의 프로토콜이다.
ODA의 렌즈 ? 알고리즘적 시선과 데이터 식민주의
3부는 우주?심해의 비유를 국제개발협력의 역사·현장 위에 놓는다. 얼굴·음성 인식의 인종·성별 오류율 격차, 채용·금융에서의 체계적 편향, 법·복지 알고리즘의 오판은 데이터는 과거 사회의 보존물이라는 사실 ? 따라서 차별의 보존물이라는 불편한 진실 ? 을 확인시킨다. 보이지 않는 라벨링 노동, 데이터센터의 물·전력 발자국, 디지털 보건 식민성은 글로벌 노스의 혜택?글로벌 사우스의 비용이라는 비대칭을 드러낸다. 그럼에도 현지의 지식과 인프라에 접속할 때 기술은 도약의 지렛대가 된다. M-Pesa의 금융 포용, 지플라인 드론의 응급 물류, 현지 언어 데이터 구축과 소형 언어 모델(SLM)의 길은 현지화?역량 강화?데이터 주권?참여적 거버넌스의 결이 맞아떨어질 때만 열린다. 포용은 선언이 아니라 운영이다. 이 명제는 3부 전체를 관통하는 실천적 결론이다.
공존의 설계 ? 교육·사회계약·정치의 복원
4부는 미래를 묻는다. LLM이 ‘정답’을 내놓는 시대에 인간은 무엇을 해야 하는가? 정답을 아는 능력에서, 좋은 질문을 하는 능력으로. 교육은 지식의 반감기를 따라잡으려 애쓰기보다, AI 리터러시 ? 질문하기(프롬프트), 비판적 수용(환각·편향 간파), 윤리적 활용(저작권·프라이버시·책임), 창의적 협력(인간?AI 보완) ? 와 인지적 유연성 ? 규칙이 바뀌는 순간을 감지하고 규칙 자체를 재설계하는 능력 ? 을 핵심 역량으로 삼아야 한다. 노동시장은 직업이 아니라 ‘과업’ 단위로 해체되고, 경력의 사다리가 무너지는 역설이 발생한다. 해법은 개인의 미덕을 넘어 제도로 간다. 이동 가능한 혜택, 평생학습 계정, 인클루시브 스킬 인프라가 ‘안전망’을 ‘기회의 사다리’로 전환한다. 그리고 마지막으로, 정치는 복원되어야 한다. 기계가 최적화를 책임진다면, 인간은 목표 설정과 가치의 우선순위를 책임져야 한다. 상충하는 가치들 사이의 조정과 합의, ‘그럼에도 불구하고’ 신뢰를 선택하는 결단, 실패에 대한 도덕적 책임 ? 이 계산 불가능한 영역이야말로 인간의 일이다.
다시, 달과 심해
우주와 심해의 메타포는 기술과 사회의 이중적 과제를 한 화면에 담는다. 로켓을 더 빨리, 더 멀리 보내는 일과, 심해로 더 깊이 잠수해 이름 없는 생물을 기록하고 생태의 언어를 배우는 일은 상보적이다. 데이터의 표면에서 반짝이는 패턴에 취하기보다, 의미가 닻내리는 바닥 ? 몸, 관계, 역사, 제도 ? 까지 내려가야 한다. 인공지능은 우리를 우주 끝까지 데려갈 것이다. 그러나 ‘우리가 누구인가’라는 질문, ‘어떻게 함께 살 것인가’라는 정치의 문법은 심해의 어둠 속에서만 배울 수 있다.
이 서문은 『The Moon and the Ghetto』가 던진 질문을 인공지능 시대의 언어로 번역하려는 작은 시도다. 달(닫힌 문제)로 향하는 엔지니어의 손놀림과 게토/심해(열린 문제)에 상주하는 사회과학자의 발걸음은 경쟁하지 않는다. 서로의 결을 맞추어야만, 우리는 기계의 논리와 인간의 정치가 공존하는 설계를 손에 넣을 수 있다. 지능은 수치가 아니라, 관계·체화·분산으로 엮인 과정이다. 이해는 출력이 아니라 접지이며, 혁신은 속도가 아니라 정당성이다. 이 책이 독자에게 망원경과 잠수정을 동시에 쥐여주길 바란다. 높은 곳을 보되, 깊은 곳을 잊지 않도록. 빠르게 달리되, 멈추어 듣는 용기를 잃지 않도록.
리처드 R. 넬슨의 『The Moon and the Ghetto』가 던진 역설 ? 우리는 달에 사람을 보낼 기술이 있는데 왜 게토의 빈곤과 불평등은 해결하지 못하는가 ? 은 이 책의 출발점이자 지속적 메타포다. 달(우주)은 목표가 선명하고 경로가 상대적으로 닫힌 체계 안에 있다. 반면 게토(심해)는 정치·문화·역사·제도가 얽힌 열린 체계의 난제다. 정밀한 엔진이 푸는 문제와, 맥락과 책임이 풀어야 할 문제는 본질적으로 다르다. 인공지능은 전자에서 탁월하지만, 후자에서는 종종 무력하다. 이 간극을 좁히는 방법을 탐색하는 일이 곧 이 책의 과제이다.
이 책은 네 개의 부로 구성된다. 1부는 지능과 이해에 대한 재문이며, 2부는 기계의 ‘마음’을 성급히 의인화하지 않으면서 해부하는 시도다. 3부는 국제개발협력(ODA)의 현장을 렌즈로 삼아 기술과 권력의 비대칭을 추적하고, 4부는 기계의 논리와 인간의 정치가 공존하는 설계를 제안한다. 여정 내내 우주(닫힌 문제)의 공학과 심해(열린 문제)의 정치 사이에서 흔들리는 우리의 시선을 교정한다. 성능의 찬탄을 넘어, 의미의 접지와 책임의 제도화로.
우주와 심해 ? 두 종류의 무지
‘우주’는 측정 가능한 목표 ? 달 착륙, 화성 궤도 투입 ? 를 설정하고, 물리 법칙과 제약 안에서 최적 경로를 계산하는 기술의 장이다. ‘심해’는 성능 지표로 환원되지 않는 맥락의 복잡성 ? 불평등의 역사, 제도의 관성, 권력의 언어 ? 이 지배하는 영역이다. 전자는 실험을 반복하여 수렴하는 ‘정답’이 가능하지만, 후자는 상충하는 가치들 사이에서 그럭저럭 모두가 받아들일 수 있는 ‘더 나은 오답’을 갱신해 가는 정치의 예술을 요구한다. 인공지능은 첫 번째 무지(우주적 무지)를 줄이는 데 귀신같이 능하다. 그러나 두 번째 무지(심해적 무지) 앞에서는 의미의 접지, 설명 가능성, 공정성, 책임의 네 귀퉁이를 세우는 인간의 수고가 필요하다. 기술의 가속은 멈추지 않는다. 그래서 더더욱, 인간의 성찰은 늦출 수 없다.
인간과 기계의 경계 ? 수치, 이해, 그리고 체화
1부는 지능을 수치로 환원해온 역사와 그 정치적 작동을 되짚는다. IQ는 많은 것을 예측했으나 더 많은 것을 지웠다. 우생학의 잔영, 측정동일성의 맹점, 문화·언어적 적합성의 문제는 측정의 과학과 측정의 정치가 공존함을 일깨웠다. 이어 ‘중국어 방’은 유창한 출력과 진정한 이해의 간극을 드러낸다. LLM은 ‘다음 토큰 예측’에 최적화된 구문론의 천재이되, 의미론과 세계 접지의 불안정 위에 서 있다. 환각은 예외가 아니라 설계의 부산물이다. 맥락을 닫고 평가를 고정하면 모델은 통과한다. 맥락을 열고 규칙을 흔들면 규칙 따르기의 균열이 드러난다. 이에 대한 공학적 응답은 분명해진다. 언어?지각?행동의 폐루프를 닫는 체화(embodiment), 검색증강생성(RAG)·도구 사용(tool use)·계산기의 외부 접속, 출처 추적과 근거 제시, 본질적 해석가능 모델의 우선 적용이 필수다. 지능은 수치가 아니라, 관계·체화·분산으로 엮인 과정이다. 언어는 문명의 DNA, 체화는 그 DNA를 발현시키는 환경이다.
기계의 정신분석 ? 욕망·감정·창의성의 경계에서
2부는 뇌과학과 정신분석의 은유로 AI 내부의 힘의 장을 그려본다. 다음 토큰을 예측·극대화하려는 강한 최적화(이드), 인간 피드백 기반 강화학습(RLHF)·헌법적 제약으로 대표되는 사회적 규범(초자아), 그리고 그 사이를 중재하는 메타인지(자아). 이 삼자 구도는 성능·안전·윤리의 긴장을 동시에 낳는다. AI는 목표를 최적화하지만, ‘원하지’ 않는다. 이 점에서 감정 인식은 정동의 표지 분류이지, 배럿이 말한 ‘구성된 감정’의 내적 맥락에 도달하지 못한다. 기능적 공감은 실질적 도움을 주되, 착취·과신·의존의 위험을 동반한다. 환각은 오류이자 발명 ? 창의의 엔진이 될 수도 있지만, 법·의학 같은 고위험 영역에서는 유해한 허구로 변한다. 설명가능 AI의 사후 합리화 위험, 기만적 정렬의 가능성, 해석가능성의 안개는 우리를 기술?제도 복합 처방으로 이끈다. 출처·모델 카드, 데이터시트, 독립 감사, 영향평가 ? 이것들은 도덕적 이상이 아니라 운영의 프로토콜이다.
ODA의 렌즈 ? 알고리즘적 시선과 데이터 식민주의
3부는 우주?심해의 비유를 국제개발협력의 역사·현장 위에 놓는다. 얼굴·음성 인식의 인종·성별 오류율 격차, 채용·금융에서의 체계적 편향, 법·복지 알고리즘의 오판은 데이터는 과거 사회의 보존물이라는 사실 ? 따라서 차별의 보존물이라는 불편한 진실 ? 을 확인시킨다. 보이지 않는 라벨링 노동, 데이터센터의 물·전력 발자국, 디지털 보건 식민성은 글로벌 노스의 혜택?글로벌 사우스의 비용이라는 비대칭을 드러낸다. 그럼에도 현지의 지식과 인프라에 접속할 때 기술은 도약의 지렛대가 된다. M-Pesa의 금융 포용, 지플라인 드론의 응급 물류, 현지 언어 데이터 구축과 소형 언어 모델(SLM)의 길은 현지화?역량 강화?데이터 주권?참여적 거버넌스의 결이 맞아떨어질 때만 열린다. 포용은 선언이 아니라 운영이다. 이 명제는 3부 전체를 관통하는 실천적 결론이다.
공존의 설계 ? 교육·사회계약·정치의 복원
4부는 미래를 묻는다. LLM이 ‘정답’을 내놓는 시대에 인간은 무엇을 해야 하는가? 정답을 아는 능력에서, 좋은 질문을 하는 능력으로. 교육은 지식의 반감기를 따라잡으려 애쓰기보다, AI 리터러시 ? 질문하기(프롬프트), 비판적 수용(환각·편향 간파), 윤리적 활용(저작권·프라이버시·책임), 창의적 협력(인간?AI 보완) ? 와 인지적 유연성 ? 규칙이 바뀌는 순간을 감지하고 규칙 자체를 재설계하는 능력 ? 을 핵심 역량으로 삼아야 한다. 노동시장은 직업이 아니라 ‘과업’ 단위로 해체되고, 경력의 사다리가 무너지는 역설이 발생한다. 해법은 개인의 미덕을 넘어 제도로 간다. 이동 가능한 혜택, 평생학습 계정, 인클루시브 스킬 인프라가 ‘안전망’을 ‘기회의 사다리’로 전환한다. 그리고 마지막으로, 정치는 복원되어야 한다. 기계가 최적화를 책임진다면, 인간은 목표 설정과 가치의 우선순위를 책임져야 한다. 상충하는 가치들 사이의 조정과 합의, ‘그럼에도 불구하고’ 신뢰를 선택하는 결단, 실패에 대한 도덕적 책임 ? 이 계산 불가능한 영역이야말로 인간의 일이다.
다시, 달과 심해
우주와 심해의 메타포는 기술과 사회의 이중적 과제를 한 화면에 담는다. 로켓을 더 빨리, 더 멀리 보내는 일과, 심해로 더 깊이 잠수해 이름 없는 생물을 기록하고 생태의 언어를 배우는 일은 상보적이다. 데이터의 표면에서 반짝이는 패턴에 취하기보다, 의미가 닻내리는 바닥 ? 몸, 관계, 역사, 제도 ? 까지 내려가야 한다. 인공지능은 우리를 우주 끝까지 데려갈 것이다. 그러나 ‘우리가 누구인가’라는 질문, ‘어떻게 함께 살 것인가’라는 정치의 문법은 심해의 어둠 속에서만 배울 수 있다.
이 서문은 『The Moon and the Ghetto』가 던진 질문을 인공지능 시대의 언어로 번역하려는 작은 시도다. 달(닫힌 문제)로 향하는 엔지니어의 손놀림과 게토/심해(열린 문제)에 상주하는 사회과학자의 발걸음은 경쟁하지 않는다. 서로의 결을 맞추어야만, 우리는 기계의 논리와 인간의 정치가 공존하는 설계를 손에 넣을 수 있다. 지능은 수치가 아니라, 관계·체화·분산으로 엮인 과정이다. 이해는 출력이 아니라 접지이며, 혁신은 속도가 아니라 정당성이다. 이 책이 독자에게 망원경과 잠수정을 동시에 쥐여주길 바란다. 높은 곳을 보되, 깊은 곳을 잊지 않도록. 빠르게 달리되, 멈추어 듣는 용기를 잃지 않도록.
주제 분류
![[요약발췌본] 행동 뒤에 숨은 심리학 커버](https://image.aladin.co.kr/img/subscribe/common/max-cover.png)
