AI디지털을 배회하는 공산주의 유령

인공지능 기술은 눈부신 발전을 거듭하고 있지만, 우리는 이 같은 발전을 지켜보면서 한 가지 의문을 품게 된다. 우리가 인공지능 기술에 열광하면서 정작 가장 중요한 핵심을 놓치고 있는 것은 아닐까? 1970년대 ‘히피’로 일컬어진 컴퓨터 과학자들은 인간의 ‘자연스러운’ 지능과 세계의 관계를 발전시키는 데 도움이 될 기계를 꿈꿨다.

공산주의의 유령이 미국을 맴돌고 있다. 이번에는 디지털 분야에서다. MIT 경제학자 대런 아세모글루는 “AI 기반 공산주의가 작동할 수 있을 것인가?”라는 도발적인 질문을 던진다.

벤처 캐피탈리스트 마크 안드레센은 “중국이 공산주의 AI를 만들 것인가?”라고 의문을 제기한다.(1) 공화당의 선동가 비벡 라마스와미도 “친공산주의 AI”를 코로나19에 비유하며 이 논쟁에 뛰어들었다.

그러나 “공산주의 AI”에 대한 두려움이 고조되는 가운데 막상 그것이 무엇을 뜻하는지 아는 사람은 아무도 없다. “공산주의 AI”란 미국 기업을 모방하지만 사실상 국가의 엄격한 통제를 받는 플랫폼을 가진 중국의 기술 모델을 따르는 것일까? 아니면 공공 기관 내 AI 개발을 중앙 집중화하는 유럽의 복지국가 접근방식을 수용하는 것일까?

후자는 특히 오늘날 AI 경쟁이 품질보다 속도를 우선시하는 경우가 많다는 점에서 어느 정도 매력 있는 선택지다. 구글의 생성형 인공지능(AI) ‘AI 개요(AI Overviews)’가 피자에 치즈가 달라붙지 않을 때 접착제를 쓰라고 답한다거나 건강 개선을 위해 돌을 먹을 것을 제안하는 등 엉뚱한 답변을 내놓은 것은 품질보다 속도를 우선시한 AI 경쟁이 낳은 폐해의 좋은 예다.(2) 
선별된 데이터 세트와 엄격한 감독을 통해 국가가 자금을 지원하는 생성형 AI 모델은 고품질 AI를 생산하고 기업 사용자에게 더 높은 가격을 청구해 그 수익을 콘텐츠 제작자에게 돌려줄 수 있다.

우리가 찾던 사회주의 AI, 최선의 선택인가?

사회화된 AI 경제는 우리가 목표로 삼을 수 있는 최선의 선택일까? 아니면 실리콘밸리에 과도하게 종속되는 결과를 낳을 것인가? “사회주의” 또는 “공산주의” AI는 데이터, 모델, 컴퓨팅 인프라의 소유권과 통제권을 바꾸는 것 그 이상을 해낼 수 있을 것인가? 아니면 이 이상한 아이디어에는 더 심오한 변화의 잠재력이 숨어 있는 것일까?

지난 몇 년간 나는 역사적 관점에서 이 질문에 대해 깊이 생각해 볼 기회가 두 번 있었다. 내가 운영하는 팟캐스트 <산티아고 보이즈>에서는 2023년에 살바도르 아옌데 정권 당시 칠레에서 실행된 컴퓨터 통제 계획경제 시스템 ‘사이버신 계획(Project Cybersyn)’을 다뤘다.(3)

카리스마 넘치는 영국의 인공지능 전문가 스태포드 비어가 주도한 이 야심 찬 단기 프로젝트는 국가의 제한된 컴퓨팅 자원을 활용해 경제를 보다 효과적으로 관리하고자 마련된 것이다.
종종 “사회주의 인터넷”으로 불리는 ‘사이버신’은 칠레의 텔렉스 네트워크를 활용해 국영 공장에서 산티아고의 중앙 허브로 생산 데이터를 전송하는 역할을 했다. 그러나 사이버신이 이룬 진정한 혁신은 직원의 역량을 강화하도록 설계된 초기 형태의 머신러닝에 있었다. 이 프로젝트는 일반적으로 자본가 관리자들은 잘 알지 못하는 정보인 공장 노동자의 암묵적 지식을 활용해 소련 모델의 오류를 해결하는 것을 목표로 했다.

칠레 아옌데 정부의 기술자들은 공장을 방문해 노동자들을 참여시키는 생산 및 관리 체계를 구축했다. 노동자들의 귀중한 지식은 공장당 최대 10개의 매개변수를 포함하는 운영 모델로 변환되었다. 맞춤형 통계 소프트웨어는 이 데이터를 모니터링해 작업 관리자에게 (거의) 실시간으로 새로운 문제에 대한 경고를 보냈다.

사이버신의 핵심은 인간의 지능이 컴퓨팅 능력으로 증폭되는 하이브리드 시스템을 구상한 것이다. 이상적인 조건이 마련된다면 근로자 관리자는 아옌데의 관료들과 전용 운영실에 모여 경영이나 경제 분야의 경험 여부와 관계없이 고급 시각화 도구를 활용해 경제를 이해하고 관리할 수 있도록 설계되었다.

아옌데의 “사회주의 AI”는 암묵적 지식을 명시적이고 실행 가능한 지식으로 변환시켜 노동자 주도의 거버넌스를 더욱 효과적으로 만드는 동시에, 국가의 새로운 지도자인 노동자가 역량을 갖추고 자신 있게 작업할 수 있도록 하는 것을 목표로 했다. 이것이 우리가 찾던 ‘사회주의 AI’가 아닌가?

‘환경생태학’으로 ‘생태 지능’을 추구했던 워렌 브로디

나는 <산티아고 보이즈>의 후속 작업으로 최근 개설한 팟캐스트 <센스 오브 리벨리언(A Sense of Rebellion)> 시리즈를 운영하면서 이 이상한 개념의 의미에 대해 계속 고민해 왔다. 이 시리즈의 중심에는 정신과 의사에서 사이버네틱스 전문가로 변신한 100세의 히피 워렌 브로디가 있다. 1960년대 후반 브로디는 부유한 협력자의 지원을 받아 보스턴에 ‘디 인바이런멘털 에콜로지 랩(The Environmental Ecology Lab)’이라는 실험적 벤처 기업을 설립했다.
이들은 지하철로 몇 정거장 거리에 있는 MIT의 정통 AI 프로젝트와는 아주 다른 독특한 형태의 생태 지능을 추구했다. 한때 MIT에서 일했고, AI 개척자인 마빈 민스키, 시모어 페퍼트의 동료였던 브로디는 그들이 잘못된 길을 가고 있다고 믿게 되었다. 민스키와 페퍼트는 지능이란 인간의 추론을 이끄는 추상적인 알고리즘 규칙 및 절차와 관련된 것으로 보고, 이를 해독하고 나열하면 컴퓨터에서 “인공지능”을 구현할 수 있다고 생각했다.

이들과는 대조적으로 브로디와 그의 협력자 다섯 사람은 지능이란 인간의 두뇌에만 국한되는 것이 아니라, 사람과 환경 사이의 상호 작용에도 적용되는 것이라고 주장했다. 이들의 연구팀 이름 ‘환경 생태학(Environmental Ecology)’에는 상황이 모든 것이라는 믿음이 반영되어 있다.

추상적인 규칙과 절차는 그 자체로는 의미가 없다. 이 연구팀은 종종 “옷을 벗으세요!”라는 간단한 예를 들어 이를 설명한다. 그 말이 의사가 한 말인지, 연인이 한 말인지, 어두운 골목에서 낯선 사람이 한 말인지에 따라 그 의미는 크게 달라진다.

이러한 미묘한 상황적 차이를 자율적으로 파악할 수 있는 진짜 AI를 개발하는 것이 이 연구팀이 직면한 어려운 과제였다.

이 작업을 수행하려면 컴퓨터가 무한한 개념, 동작, 맥락과 그런 것들 간의 상호 관계를 숙지할 수 있어야 했다. 즉, AI 구축 프로젝트에는 단지 인간의 정신적 과정을 모델링하는 것뿐만 아니라, 인류 문명 전체의 문화적 틀, 즉 맥락에 의미를 부여하는 바로 그 구조를 이해하는 것이 가장 중요했다.

‘환경 생태학’ 팀은 그 같은 AI 시스템을 구축하는, 불가능해 보이는 임무에 에너지를 낭비하는 대신, 컴퓨터와 사이버네틱스 기술을 활용해 인간이 환경뿐만 아니라 스스로를 탐색하고 풍요롭게 할 수 있는 방법을 찾기 시작했다. 브로디와 그의 팀은 정보 기술을 단순히 작업 처리를 위한 도구가 아니라 세상에 대해 생각하고 참여하기 위한 도구로 보았다.

당신을 기후 변화나 물 부족에 관한 대화에 참여시키는 반응형 사이버네틱 샤워(소리, 손동작, 빛, 바람, 온도 변화 등 외부 환경의 자극에 따라 반응하여 움직이는 인터액티브 프로그램—역주)나 운전하는 동안 대중교통 상태를 생각하게 만드는 자동차를 상상해 보라. ‘환경 생태학’ 팀은 심지어 사람들의 댄스 음악에 영향을 줄 수 있는 댄스복을 만들어 움직임과 소리 사이의 복잡한 생태학적 관계를 부각하기도 했다.

이들의 접근방식은 프랑크푸르트학파의 도구적 이성이 현대 생활의 실상을 가린다는 비판에 직접적인 도전장을 내민 것이다. 우리가 사는 세상에서 생태적 차원을 없애며 아도르노, 호르크하이머, 마르쿠제가 비판한 ‘목적 합리성’을 근간으로 하는 사회를 만들어낸 것은 기술이 아니라 산업 자본주의다.

이 연구팀의 혁신 기술의 목표는 센서와 컴퓨터를 사용해 평범해 보이는 것 뒤에 숨겨진 복잡성에 대한 인간의 주의력(attentiveness)을 향상시켜 잃어버린 생태적 차원을 복원하는 것이었다. 이 연구팀은 반응하고 상호 작용하는 기술이, 마르크스주의 문학 비평가 프레드릭 제임슨이 “인지적 매핑”이라 일컬은 인지 과정을 촉진하면서 우리가 종종 이해하기 어려운 복잡한 과정을 파악하는 데 도움을 줄 것이라 믿었다.

내가 처음에 브로디의 이야기에 끌린 이유는 그의 기발한 아이디어가 디지털 문화에 상당한, 그러나 잘 드러나지 않는 흔적을 남겼기 때문이다. 브로디는 MIT에서 잠시 재직할 때 당시 청년이었던 선구적 기술 유토피아주의자 니콜라스 네그로폰테—그가 설립한 MIT 미디어랩의 작업은 디지털 혁명에 대한 대중의 인식 형성에 막대한 영향을 미쳤다—를 멘토링했다.(4)

브로디는 연구실에서 제작 중인 새로운 종류의 사이버네틱 기기의 핵심 성질로 “반응성”을 내세웠다. 그는 이 “반응성”을 인간과 기계 사이의 대화를 촉진하고 생태적 인식을 심화하는 방법으로 생각했다. 네그로폰테는 이 개념을 다시 활용해 더 이해하기 쉬운 개념으로 만들긴 했지만 거기에는 엄청난 정치적, 지적 비용이 들었다. 그는 결국 기계가 인간의 요구를 파악하고 충족시키는 것을 강조하는 전통적 AI 패러다임을 따를 수밖에 없었다.

정신과 의사 브로디와 건축가 네그로폰테의 견해는 상당한 대조를 보인다. 브로디는 사람들이 진정으로 변화와 끊임없는 혁신을 원한다고 가정한 반면, 네그로폰테는 사람들의 즉각적인 요구를 파악하고 충족시키는 데 목표를 두었다. 브로디는 컴퓨터를 변혁의 원동력으로 봤지만,(5) 네그로폰테와 훗날 실리콘밸리는 컴퓨터를 사람들이 이미 갖고 있지만 아직 표현하지 않은 욕구를 예측하고 충족시키는 도구로 보았다.

이처럼 양자의 철학은 극명하게 달랐다. 네그로폰테는 기발하고 독특한 기계를 만드는 데 집중한 반면, 브로디는 기발하고 독특한 인간을 만드는 데 우선순위를 두었다. 브로디는 1967년에 “지능형 환경(intelligent environments)”에 대한 선구적인 글을 썼지만 그런 환경은 사람 없이는 존재할 수 없다고 주장했다. “지능”이란 결코 기계에만 해당하는 특성은 아니라고 본 것이다.

흥미롭게도, 사이버신 운영실은 기계 학습, 시각화 기술, 상호 작용을 활용해 훈련되지 않은 노동자를 능숙한 관리자로 전환하는 브로디식 지능형 환경의 전형과 다름없었다. 하지만 브로디의 비전은 경영의 세계를 훨씬 뛰어넘는 것이었다. 그는 적절한 기술만 있으면 교실에서부터 주방, 욕실에 이르기까지 모든 환경이 더욱 지능화될 수 있고, 사람들의 생태적 이해를 풍부하게 할 수 있다고 생각했다. 이런 것이 “사회주의적 AI”라면, 이는 가장 일상적이고 실용적인 의미에서의 사회주의일 것이다.

‘인간 향상’의 심오한 개념을 옹호했던 브로디 

1960년대 브로디는 또 다른 이유로 컴퓨터 업계에서 남다른 두각을 나타냈다. 컴퓨터 업계 동료들이 AI를 기계가 생산성을 높이기 위해 일상적인 작업을 대신하는 ‘인간 증강(human augmentation)’을 위한 도구로 본 반면, 브로디는 생산성과 효율성 이외의 목표를 추구하는 더 심오한 개념으로 ‘인간 향상(human enhancement)’을 옹호했다.

두 패러다임은 미묘하지만 중요한 차이를 보인다. ‘증강’은 GPS를 사용해 알려지지 않은 지형을 탐색하는 것과 같다. 이는 더 많은 작업을 더 빨리 수행할 수 있도록 도와준다. 그러나 생산성 향상을 주도하는 것은 기술이지 우리가 아니다. 또한 그렇게 얻은 이익은 일시적일 뿐이다. GPS가 장착된 휴대전화와 같은 기술적 보조도구가 없다면 우리는 예전처럼 무력할 뿐이다. 반면, ‘향상’은 기존 기술을 활용해 새로운 기술을 개발할 수 있도록 한다. 고급 기억 기술을 통해 타고난 방향 감각을 연마하거나 자연적 신호와 천체 패턴을 읽는 법을 배우는 것을 상상해 보라.

본질적으로 ‘증강’은 효율성의 명목으로 인간의 능력을 저하시키는 반면, ‘향상’은 인간 능력을 개발해 인간이 세상과 더 풍부한 상호 작용을 하도록 돕는다. 이 같은 근본적 차이는 우리가 기술에 대한 관념을 형성하는 데 영향을 미치며, 그 차이에 따라 우리가 단순히 기술의 수동적 운영자가 될지, 아니면 창의적 장인이 될지가 결정된다.

브로디는 1960년대 초 미국 정부의 반(半) 비공개 프로그램에 참여하면서 이에 대한 통찰을 얻었다. 당시 CIA는 미국 전역에서 재능 있는 시각 장애인을 모집해 그들에게 러시아어를 가르치고 소련 통신을 가로채 도청하게 하는 기발한 프로젝트를 기획했다. 이는 시각 장애가 다른 감각을 강화하기 때문에, 시각 장애인은 정상 시각을 가진 분석가의 감각을 능가하는 감각을 갖게 된다는 가정하에 이뤄진 것이다.

브로디는 정신과 의사로서 시각 장애인들과 수년간 함께하며 그들이 시각 외 다른 탁월한 감각 능력을 개발하는 데 사용한 내부 및 외부 신호를 파악하고자 했으며 이를 통해 획기적 통찰을 얻게 된다. 그것은 바로 시각 장애인뿐만 아니라 우리 모두가 더 풍부한 지각 능력을 개발해 후각, 촉각, 청각을 엄청나게 강화할 수 있다는 것이다.

“인간 향상”과 “인간 증강”의 중요한 차이

우리 모두가 예술적 감성을 개발할 수 있다고 가정하는 브로디의 인간 향상 프로그램은 시적(詩的) 본질을 내포하고 있었다. 그러나 실용주의자였던 브로디는 인간 향상을 실현할 열쇠는 컴퓨터에 있다고 믿었다. 체온에서부터 습도, 빛의 세기에 이르기까지 내부 및 외부의 매개변수를 분명히 하면 우리는 이 미묘한 언어를 터득하는 법을 배울 수 있다는 것이다(브로디는 자신이 컨설턴트로 일했던 NASA에 이 같은 기술을 사용해 우주인을 훈련시키자고 제안했다).

브로디는 결국 “인간 향상”에 대한 자신의 비전을 MIT로 가져가 진지한 연구 프로그램으로 발전시키고자 했다. 하지만 그는 보수적인 AI 기관뿐만 아니라 이 개념이 어둡고 나치적인 색조를 띤다고 우려하는 사람들의 상당한 저항에 부딪혔다. 그가 사람을 대상으로 하는 실험을 제안한 것은 아니지 않은가? 이처럼 격렬한 반대에 부딪힌 브로디는 개인 기부자에게 의지할 수밖에 없었다. 다행히도 부유한 친구 두 사람이 그의 노력에 동참했다.

“인간 향상”과 “인간 증강”의 중요한 차이, 즉 자동화에 대한 취약성은 수십 년 후에야 극명하게 드러났다. 오늘날 생성형 AI 기반 도구는 예술가와 작가의 작업을 증강할 뿐만 아니라 이를 완전히 대체할 수 있는 위협이 되고 있다. ‘증강’은 인간처럼 생각하고 인식하는 기계를 만드는 것을 목표로 하며, 이는 인간의 능력을 쓸모없게 만들 가능성이 있다. 이와는 정반대로, ‘향상’은 기계를 사용해 인간이 완벽히 새로운 방식으로 생각하고 인식하도록 돕는다.

브로디의 비전은 대담했다. 특히 1960년대 반문화(反文化)의 분위기에서 기술은 영혼이 없는 것, 또는 멀리해야 할 익명의 어떤 것으로 치부되거나, 어느 외딴 지역 공동체에서 개인적 해방을 이루는 수단으로 간주되었다는 점을 고려할 때 더욱 그렇다. 하지만 브로디의 지능형 기술은 그와는 다른 것을 약속했다. 바로 우리의 취향을 풍부하게 하고 기술을 확장하는 것이다. 이는 자동화를 통해 인간을 쓸모없게 만들거나, 기계 문명의 부상(浮上)으로 많은 사람이 두려워하는, 동질적이고 표준화된 존재를 양산하는 것과는 거리가 멀다. 오히려 이 기술은 인간의 잠재력을 새로운 영역으로 끌어올려, 인간 경험을 향상시키는 데 도움을 준다.

브로디는 1960년대 중반, 자신의 직업 및 가정생활이 한창 본 궤도를 달리고 있던 격동의 시기에 자신이 통찰한 것들을 체계화했다. 그러면서 한때 미국 기득권 집단의 존경받는 일원이었던 그는 점점 더 변방의 아방가르드에 끌리게 되었다. 그 시대 많은 미국 히피족이 그랬던 것처럼 브로디는 정치를 무의미한 것으로 일축했다. 그 결과 그는 인간 향상에 대한 자신의 생각을 정치적 요구로 전환하는 데 어려움을 겪었다.

미국식 AI에 분노한 일리옌코프, 인공지능을 비판

브로디와 동시대에 소련에서는 마르크스주의 철학자 예발트 일리옌코프(Evald Ilyenkov)가 등장했다. 두 사람은 1924년에 불과 한 달 차이로 태어났다. 독자적으로 작업했던 일리옌코프는 브로디와 비슷한 문제를 다루긴 했지만, 그의 작업은 대개 소련의 “창조적 마르크스주의”의 틀 안에서 이뤄졌다. 일리옌코프의 작업은 인간 향상이 공산주의와 사회주의 프로젝트에 어떤 의미를 갖는지에 대한 더 명확한 이해를 제공했다.

브로디와 마찬가지로 일리옌코프는 시각 장애인들과 폭넓게 협력했으며, 인지적 능력과 감각적 능력은 모두 사회화와 기술적 상호 작용의 산물이라고 보았다. 그는 적절한 교육적, 기술적 환경만 갖춰진다면 우리 안에 잠재되어있는 새로운 역량을 기를 수 있다고 주장했다. 일리옌코프에게 공산주의란 국가가 주도해서 사회적, 자연적 장벽에 관계없이 모든 사람이 잠재력을 최대한 발휘할 수 있도록 잠재적 인간 능력을 잠금 해제하려는 노력을 뜻하는 것이었다.

소련 관료들이 미국식 AI에 매료되는 것에 분노한 일리옌코프는 1968년에 「우상과 이상에 대하여(On the Idols and the Ideals)」(6)라는 논문을 발표하면서 인공지능에 대한 가장 설득력 있는 비판 중 하나로 꼽히는 주장을 내놓았다. 그는 AI를 만드는 것은 사막 한가운데에 인공 모래를 생산하는 거대하고 비용이 많이 드는 공장을 짓는 것과도 같다는 놀라운 은유를 사용해 자신의 주장을 펼쳤다. 그는 그런 공장이 완벽하게 가동된다 하더라도 풍부한 자연 모래인 인간 지능을 그냥 사용하지 않겠냐고 지적했다.

1968년 일리옌코프의 인공지능 비판은 오늘날에도 여전히 적실성이 있다. 우리는 여전히 같은 사막에 갇혀 인공 모래 공장의 존재를 정당화하면서도 근본적인 현실은 간과하고 있다. 아마도 군대와 군대를 후원하는 자본가들을 제외하고는 아무도 이 시설을 실제로 필요로 하지는 않을 것이다.

브로디는 마셜 맥루한의 은유를 빌려 자신이 창안한 개념인 ‘생태기술’의 영향을 물고기가 갑자기 물의 존재를 파악하는 것에 비유했다. 누군가가 모래 공장의 AI에 집착하는 주민들에게 벽 너머에 광활한 사막이 있다고 알려주어야 할 때다. 그 사막은 창의적이고 예측 불가능하며 시적 영감으로 가득 차 있다.

아직 답을 찾지 못한 커다란 질문은 이것이다. 인간 개발이라는 사명과는 상반된 것으로 보이는 “인공지능”을 계속 추진한다면 우리는 진정한 인간 향상을 이룰 수 있을 것인가?

사이버네틱스의 거장 워렌 맥컬러가 전한 멘토링

실제로 인공지능을 구축하는 데 드는 비용은 1950년대 이후 개발에 낭비된 수십억 달러를 훨씬 상회한다. 이는 또한 ‘영턱스(Young Turks)’의 무지막지함을 반영하는 매우 사적인 문제이기도 하다. 이들은 공격적인 기금 모금 활동과 엄격한 ‘경계 단속(boundary-policing)’ 활동을 벌이면서, ‘AI’라는 라벨을 결코 편하게 받아들이지 않았던 스태포드 비어와 워렌 브로디 같은 선지자들의 기여를 무시했다.

2002년 스태포드 비어가 사망하기 직전 필자가 만난 브로디와 비어는 완벽히 다른 배경을 가지고 있었다. 비어는 전직 기업 임원이었고 영국의 엘리트 클럽 ‘애서니엄 클럽(Athenaeum Club)’의 자랑스러운 회원인 반면, 브로디는 토론토의 중산층 유대인 가정 출신이었다. 이 같은 배경 차이에도 불구하고 두 사람이 가진 공통점은 AI를 과학의 한 분야로 보는 관점과 이 분야의 독단적인 종사자들을 경멸한다는 것이었다.

또한 두 사람 다 사이버네틱스—브로디와 비어가 인공지능보다 더 매력적인 개념들의 집합체라고 생각한 분야—의 거장 워렌 맥컬러(Warren McCulloch)의 멘토링을 받았다. 인공지능 분야의 초기 종사자들은 인공지능을 사이버네틱스의 자연스러운 진화로 보았다. 하지만 이는 진화가 아니었다. 여러 측면에서 AI는 사이버네틱스 의제에서 후퇴한 것이었다.

사이버네틱스는 2차 세계대전 직후 등장했다. 그즈음에 수학, 신경생리학, 공학, 생물학, 인류학 등 다양한 분야의 선구자들은 각자의 연구 의제에서 눈에 띄는 유사점을 인식하고, 원인과 결과를 분리하는 것이 불가능하게 되는 복잡하고 비선형적인 과정과 씨름하고 있었다. 이들은 하나의 자연적 혹은 사회적 과정의 효과처럼 보이는 것이 동시에 다른 과정의 원인이 될 수도 있다는 것을 알아차린 것이다.

이러한 현상을 논의하기 위해서는 새로운 어휘가 필요했고, 그에 따라 ‘피드백 루프(feedback loop)’나 ‘순환적 인과관계(circular causality)’ 같은 개념이 생겨났다. 이 같은 학제 간 접근방식을 통해 사이버네틱 전문 용어에 익숙해진 학자들은 동일한 개념적 틀을 사용해 기계, 인간의 뇌, 사회 과정을 분석할 수 있게 되었다.

이처럼 사이버네틱스는 과학 분야라기보다는 관련성이 없어 보이는 현상들 간의 얽힘이라든가 상호적 인과관계를 강조하는 철학이었다. 사이버네틱스는 환원주의, 전체론, 유물론, 기능주의에 이르는 다양한 철학 분야들과 어깨를 나란히 했다. 사이버네틱스의 선구적 사상가들은 수학, 신경생리학, 인류학, 생물학 같은 주요 분야도 포기하지 않고, 각자의 분야에 헌신했다. 하지만 이들은 새로운 철학적 렌즈로 자기 분야의 지식을 더욱 풍부하게 만들었고, 그와 관련해 ‘사이버네틱한’ 질문들을 던졌다.

애초에 사이버네틱스는 기계를 모델로 사용해 인간 지능을 복제하는 방법이 아니라 인간 지능을 더 잘 이해하는 방법을 제공했다. 이러한 접근방식은 경제학자들이 유압 모델을 이용해 인플레이션이나 실업을 연구하는 것과 크게 다르지 않았다. 아무도 이런 모델이 실제 경제라고 주장하지는 않았지만, 이런 모델은 주요 관계에 대한 중요한 통찰력을 제공했다.

1950년대 중반 인공지능은 대담하고 야심 찬 사명을 갖고 등장했다. 그 사명은 바로 사이버네틱스와 차별화되고 기계가 인간처럼 “생각”할 수 있는 새로운 영역을 개척하는 것이었다. 하지만 그 같은 탐구는 인간 인지의 신비를 풀기보다는 주요 후원자, 즉 군대의 요구를 충족하는 데 초점이 맞춰져 있었다. 그 목표는 명확하고 실용적인 것, 즉 군사 전략과 작전에 맞게 작업을 처리하고 문제를 해결할 수 있는 기계를 만드는 것이었다. AI 연구는 처음부터 국방이라는 지상명령에 따라 진행되면서 그 나아갈 방향이 설정되었다.

예를 들어, 인공 신경망 구축 노력과 같이 사이버네틱스 철학에서 영감을 받은 일부 초기 프로젝트는 군사적 목적을 위해 용도가 신속하게 변경되었다. 그에 따라 인공 신경망이 인간 인지의 복잡성을 해결하는 수단이라는 시각도 갑자기 힘을 잃었다. 대신, 인공 신경망은 인간 운영자가 적의 선박이나 유조선의 항공 영상을 분석하는 데 도움을 주는 강력한 도구로 인식되면서, 인간 증강의 패러다임과 궤를 같이하게 되었다. “인공” 지능을 창조하려는 야심 찬 계획은 결국 과학적 명성이라는 허울 아래 평범한 군사 계약을 은폐하는 데 사용되었다.

사이버네틱스에 비해 이 신생 분야에는 학제 간 연관성이 거의 없었다. 사이버네틱스가 너무 추상적이고 철학적이며 잠재적으로 파괴적이라고 생각하는 실력 있고 야심 찬 젊은 수학자들과 컴퓨터 과학자들이 AI 분야에 대거 진입했다. 그때까지 사이버네틱스의 아버지로 불리는 노버트 위너(Norbert Wiener)는 노동조합과 협력해 군대를 비판했다. 하지만 이는 국방부의 자금 지원을 받는 데는 거의 도움이 되지 않는 입장이었다. 대조적으로, 자율 무기에 대한 감미로운 약속을 제공하는 AI는 그 같은 ‘브랜딩(branding)’ 문제에 직면할 일이 없었다.

냉전 동안의 AI, 미국 경제학의 궤적을 반영해 전개

AI는 처음부터 매우 독특한 과학 분야였다. 종종 모델을 통해 세상을 이해하려는 전통 과학과는 달리, AI 종사자들이 스스로에게 부여한 과제는 실제 세계의 현상인 ‘지능’의 단순화된 모델을 생성하고, 외부 관찰자들로 하여금 이런 모델은 자신들이 모델링(앨런 튜링의 튜링 테스트로 정당화된 매우 혼란스러운 작업)하는 대상과 구분할 수 없이 같은 것이라고 믿게 하기 위해 자신들이 할 수 있는 일을 한다는 것이었다.

이는 마치 도전적인 지리학자 집단이 “인공 땅”이라는 새로운 분야를 만들어낸 뒤 사람들에게 지도와 영토 간에는 기능적 차이가 없다고 믿게 만드는 것과 같다. 기술의 발전으로 지도는 지도가 나타내는 실제 세계만큼 정교해질 것이다.

냉전 동안 AI의 여정과 비극은 여러 측면에서, 그리고 특히 미국에서 경제학의 궤적을 반영하며 전개되었다. 냉전 이전의 미국 경제학은 다양성이 반영된 활기찬 학문 분야로, 현실 세계의 역학에 깊이 관여했다. 이 시기 미국 경제학은 생산과 경제 성장을 견인하는 데 있어 노동조합에서부터 연방준비은행에 이르기까지 여러 기관과 권력의 역할을 강조했다.

그러나 냉전의 시대 명령은 경제학을 유형의 세계에서 벗어나게 했다. 경제학이 추상적 모델에 집착하게 되면서 현실 세계와의 관련성은 오히려 부수적인 것이 되어 버렸다. 최적화, 균형, 게임 이론 및 기타 이론적 개념에 대한 이상한 집착은 경제학을 실제 기관 및 행동에서 점점 더 분리된 학문으로 만들었다.

이 같은 연구 접근방식이 완벽히 쓸모없는 것은 아니지만(경제학의 수학적 작업 중 일부는 온라인 광고에서부터 승차 공유 서비스에 이르기까지 오늘날 디지털 시장을 뒷받침하고 있다), 그런 유용성이 근본적으로 결함이 있는 접근방식에 면죄부를 주지는 못할 것이다. 현대 정통 경제학이 불평등이나 기후 변화 같은 문제에 대한 해법을 거의 제공하지 못하고 시장 기반 솔루션으로만 설정되어 있는 것도 그와 같은 냉전의 영향 때문이다.

AI도 이와 비슷한 길을 가고 있다. 기술적 승리로 칭송받고 있는 AI는 군국주의와 자본주의의 완곡한 표현이라 할 수 있다. 가장 정통적인 경제학자들조차도 시장을 일부 규제해야 할 필요성에는 동의하듯이, 가장 비판적인 AI 옹호자들도 AI를 규제하고 억제해야 할 필요성을 인식하고 있다. 하지만 이들은 지능을 이해하는 데 있어 AI를 제외한 미래는 상상하기 어렵다고 본다.

AI의 궁극적 목표였던 ‘인공 일반 지능(AGI)’

처음부터 AI는 최종 목표가 열려 있고 알려지지 않은 과학이라기보다는 종교와 공학의 혼합체에 가까웠다. 그리고 명시적인 훈련 없이도 모든 작업을 수행할 수 있는 범용 컴퓨터 기반 시스템을 만든다는 분명한 목표를 갖고 있었다. 현재 ‘인공 일반 지능(AGI)’으로 알려진 이 비전이 AI의 궁극적 목표였던 것이다.

두 분야의 또 다른 유사점은, 냉전의 경제적 상상력이 자유시장을 상상했던 것처럼 냉전의 기술적 상상력은 AGI를 상상했으며, 자유시장과 AGI를 모두 인간이 적응해야만 하는 자율적 자기 조직화 체계로 보았다는 것이다. 그런데 두 분야 모두 AGI와 자유시장 자본주의를 가능하게 하는 기본 요소는 간과했다. 경제학은 자유시장 자본주의에서 식민지 폭력, 가부장제, 인종주의가 일정 역할을 한다는 사실은 편리하게 무시하고, 자본주의를 애덤 스미스가 말한 인간의 “교환하려는 본성”(7)의 자연스러운 확장으로 본다.

마찬가지로 AI의 기원에 대한 표준 서사는 AI가 사이버네틱스, 수학, 논리학에서 자연스럽게 발전되어 왔다고 주장하지만, 그 지정학적, 역사적 맥락에 대해서는 언급하지 않는다. 이는 인종주의에 대해서는 한마디도 하지 않으면서 우생학과 골상학이 단순히 생물학과 유전학의 한 분야로 등장했다고 보는 것과 마찬가지다.

하지만 사회학자 야르덴 카츠(Yarden Katz)가 2020년 자신의 탁월한 저서 『인공적 백인성(Artificial Whiteness)』(8)에서 강조했듯이, AI 분야는 냉전의 군국주의, 기업주의, 쇼비니즘 없이는 존재할 수 없었을 것이다. 그런 부패한 개념이 진보적 목적을 위해 다시 소환될 수 있을 것인가? 아니면 “공산주의적 AI”를 꿈꾸는 것은 인도적인 착취 공장, 즐거운 고문 장치, 장난기 있는 컨베이어 벨트를 꿈꾸는 것만큼이나 헛된 일일까?

사회주의적 AI 실현의 꿈이 깨진 브로디

나는 스태포드 비어와 워렌 브로디가 겪은 일들을 되짚어보면서 “사회주의적 AI”에 대한 환상을 품는 대신 그 개념을 완전히 버리는 것이 낫겠다는 생각을 갖게 되었다. 우리가 해야 할 일은 기존의 AI를 인간화하기 위한 좌파적 응용 프로그램이나 소유권 모델을 찾는 것이 아니라 AI 이후의 사회주의적 기술 정책을 수립하는 것이다.

이 같은 포스트-AI 사회주의적 기술 정책의 주요 목표는 계층, 인종, 성별과 관계없이 각 개인이 창의적 자율성을 키우고 역량을 최대한 개발할 수 있도록 여러 기관, 인프라, 기술에 접근할 수 있는 권한을 부여하는 것이다. 다시 말해, 우리는 인간 증강에서 인간 향상으로 전환해야 한다.

이 정책은 복지국가의 제반 측면, 즉 교육 및 문화, 공공 도서관, 대학, 방송사의 영역에 기반을 두어야 하며, 이는 자본주의 시스템의 더 보수적인 명령(예를 들어, 사회화된 안전망)에 따르는 것과는 가장 거리가 멀다. 포스트-AI 기술 정책은 이 같은 비전 안에서 오늘날의 AI 중심 정책처럼 신자유주의 경제를 가속화하는 것이 아니라 사회주의적 교육 및 문화 정책을 가능하게 하는 것이다.

흥미롭게도 브로디 자신도 결국 사회주의 없이는 사회주의 AI도 있을 수 없다는 것을 깨달았다. 브로디는 1970년대 초 냉전 시대의 미국에서 “인간 향상”과 “생태 기술”에 대한 자신의 꿈을 실현하려는 시도가 무의미하다는 것을 깨달았다. 브로디와 그의 협력자들이 베트남 전쟁에 반대한다는 원칙적 입장을 취하면서 펜타곤이나 MIT 같은 기관의 자금 지원을 거부한 것도 그런 꿈을 실현하는 데 도움이 되지 않았다.

AI에 대한 일정한 회의주의가 필요

내가 니콜라스 네그로폰테를 인터뷰하면서 브로디와의 관계에 대해 질문했을 때, 네그로폰테는 자신의 멘토인 브로디가 MIT 종신 교수직을 맡을 생각이 없었다고 말했다. 안락함은 그의 취향이 아니었다. 대신 브로디는 뉴햄프셔의 깊은 숲 속에 발포 고무와 풍선으로 된 독특한 집을 지었다. 그가 생각한 ‘반응적이고 지능적인 환경’을 구현한 집이었다. 이런 집은 당시 네그로폰테처럼 브로디를 추종하는 이들에게조차도 지나친 것이었다. 네그로폰테는 당시를 회상하며 비꼬듯이 말했다. “모든 사람이 풍선 안에서 살고 싶어 하는 것은 아니니까요.”

브로디의 비전은 유토피아적 감각으로 가득 찬 것이었다. 브로디와 그의 주요 협력자인 에이버리 존슨은 미국이라는 기업이 소비주의적 욕망을 이용하기보다는 새로운 취향과 관심을 촉진하는 반응적이고 상호 작용적인 제품에 대한 비전을 선택하기를 바랐다. 그러나 미국 기업들은 그보다는 보수적이고 소비 친화적인 네그로폰테의 비전을 선호했고, 브로디가 생각한 상호 작용을 기계가 우리의 불안을 학습하고 우리에게 더 많은 것을 판매하도록 하는 수단으로 바꾸어 버렸다.

이에 환멸을 느낀 브로디는 1973년 노르웨이로 이주해 새로운 정치적 렌즈를 통해 자신의 생각을 재고하면서 마오주의자로 재부상했다. 그는 유럽의 주요 마오주의 거점 중 하나인 노동자공산당(Workers‘ Communist Party)의 적극적 일원이 되었고, 심지어 “반응 기술”에 대한 자신의 비전을 중국 엔지니어들과 공유하기 위해 중국을 방문하기도 했다. 1960년대 냉전 시대에 NASA와 CIA의 군사 프로젝트에 깊이 관여했던 인물에게 이는 상당한 변화였다.

지난 10년간 브로디와 수많은 시간 대화를 나눈 결과(그는 아직도 노르웨이에 거주하고 있다), 나는 그가 1960년대 옹호했던 “열린 결말을 내포한 성장(open-ended becoming)”을 완벽하게 구현하는 삶을 살았다는 것을 확인할 수 있었다. 그는 확실히 인간 향상의 효과를 보았고, 이는 우리도 인간 향상의 효과를 볼 수 있다는 것을 시사한다. 우리에게 필요한 것은 올바른 기술과 AI에 대한 일정 정도의 회의주의—공산주의적인 것이든 아니든—일 것이다.

글·에브게니 모로조프 Evgeny Morozov
팟캐스트 <산티아고 보이즈> 작가

번역·김루치아
번역위원

(1) Daron Acemoğlu, 「Would AI-enabled Communism Work?」, 2023년 6월 28일, www.project-syndicate.org. 참조: 「Marc Andreessen: Future of the Internet, Technology, and AI」, 렉스 프리드먼(Lex Fridman)의 팟캐스트, no. 386, 2023년 6월 21일.
(2) Stephen Morris & Madhumita Murgia, 「Google’s AI Search Tool Tells Users to “Eat Rocks” for Your Health」, <Financial Times>, London, 2024년 5월 24일.
(3) 팟캐스트 <산티아고 보이즈(The Santiago Boys)>, 2003년. 참조: Philippe Rivière, 「독일, 정보와 혁명(Allende, l’informatique et la révolution)」, <르몽드 디플로마티크> 프랑스어판, 2010년 7월호.
(4) 니콜라스 네그로폰테의 저서 『디지털 존재(Being Digital)』는 프랑스어로도 번역되었다: 『디지털 인간(L’Homme numerique)』, Robert Laffont, Paris, 1995년.
(5) 브로디가 이 같은 접근법을 채택한 것은 1964년이지만 이를 글로 구현한 첫 번째 출판물은 1967년에 발간된 다음 글이다: Warren Brodey & Nilo Lindgren, 「Human Enhancement through Evolutionary Technology」, <IEEE Spectrum>, vol. 4, no. 9, New York, 1967년 9월호.
(6) 러시아어로 발표된 이 논문의 영어 번역본은 없지만 다음 글에 그 내용이 요약되어 있다: Keti Chukhrov, 「The philosophical disability of reason: Evald Ilyenkov’s critique of machinic intelligence」, <Radical Philosophy>, no. 207, London, 2020년 봄호. 
(7) Adam Smith, 『Recherches sur la nature et les causes de la richesse des nations(국부의 본질과 원인에 관한 연구)』, I권.
(8) Yarden Katz, 『Artificial Whiteness: Politics and Ideology in Artificial Intelligence』, Columbia University Press, New York, 2020년.