AI: 지배계급을 섬기는 리바이어던 괴물
- 인공지능과 자본주의 쇠퇴기에 그것의 적용에 대한 테제
혁명적 공산주의인터내셔널 동맹 (RCIT), 2023년 5월 7일, www.thecommunists.net
1. 인공지능 (AI)은 자본주의 생산과 사회적 재생산 및 소비 영역 모두에서 급속히 확산되고 있는 새로운 형태의 현대 기술이다. 잠재적으로 AI는 자본주의의 미래와 사람들의 삶에 광범위에 걸친 거대한 파장을 가져올 수 있다. 현 자본주의 쇠퇴기에서 AI의 역할과 위험성에 대한 올바른 인식을 갖고, 이 기술에 어떻게 접근해야 하는지에 대해 명확한 입장을 취하는 것이 사회주의자들에게 필수 과제가 된 이유다.
AI는 무엇인가: 간략한 기술적 정의
3. 이러한 이유로, AI는 이미 널리 여러 분야에 적용되고 있으며, AI 기술이 아직 초기 단계임을 감안하면, 훨씬 더 광범위한 잠재력을 가지고 있다고 하겠다. 예를 들어 산업 기계 분야에서 자율주행차량, 의사 인간 (최초의 "사회적" 로봇 소피아), 경찰견, 또는 자율무기시스템 (킬러 머신부터 자율 선박 및 드론까지) 등 모든 종류의 로봇을 만드는 데 사용되고 있다. AI는 또 종합 감시 시스템 (안면 인식, 코로나19 반혁명 기간 동안 실험된 "그린패스" 제도 등)에도 사용된다. 나노로봇에 AI를 적용하여 암세포를 식별 파괴하기 위해 인체 내에서 작동하는 생물학적 기계를 만들거나, 석탄과 실리콘과 같은 산업 원료를 조작하거나, 미세 플라스틱 처리를 위한 환경적 목적으로도 AI 적용이 고려되고 있다. 여러 개의 단일 목적 AI를 복합 시스템으로 통합 구성하는 소위 사물인터넷 (IOT) 분야에도 AI가 적용된다. 마지막으로 챗지피티 및 이와 유사한 개념의 생성형 AI가 있다. 텍스트, 사진, 동영상, 음악 등을 만드는 등의 인간 행동을 모방하는 소프트웨어다. 이러한 소프트웨어는 주커버그의 메타버스와 같은 포괄적인 가상현실을 만드는 데에도 필수적이다.
AI의 구체적 위험에 대하여
4. 이러한 AI 응용은 통제하고 파괴하는 지배계급의 힘을 크게 증대시켜준다는 공통점을 지니며, 이에 더해 사회적 통제에서 벗어날 가능성을 또한 내포하고 있다는 점에서 모든 종류의 위험을 낳는다. AI와 로봇의 활용이 직장에서, 노동현장에서 극적인 결과를 가져올 것이라는 데는 이론의 여지가 없다. 많은 연구보고들에 따르면 현재의 일자리 중 약 3분의 2가 AI 자동화에 영향을 받으며, 생성형 AI의 경우 현재 일자리의 최대 3분의 1을 대체할 수 있다고 한다. 또 전 세계적으로 3억 개의 제조업 정규직 일자리가 자동화 위험에 처해 있다고 보고되고 있다. 생산에서 관리, 서비스, 교육에 이르기까지 많은 산업 분야의 수많은 일자리가 위험에 처해 있는 것이다. 동시에 AI는 극도로 에너지 집약적이며, 자본주의 독점체들에 의한 무분별한 자원 채취로 인한 기후 파국으로 이미 붕괴 직전에 있는 생태 환경에 더욱 부정적인 영향을 끼칠 것이다.
5. 나아가 AI를 자율무기시스템에 적용하여, 기계가 대량살상 무기 사용 등에 대해 자율적인 결정을 내릴 경우 치명적인 결과를 초래할 것이다. 경찰이나 종합감시시스템에 의한 AI 사용, 즉 국가 보나파르트주의의 도구로서 AI 사용도 마찬가지다. 이미 이런 식으로 AI가 코로나19 반혁명 시기에 여러 나라에서 (2020-22년 “그린패스” 제도 등으로) 적용된 바 있다. 나노봇은 확실히 유용할 수 있지만 엄청난 잠재적 위험을 내포하고 있다. 인체와 같은 복잡한 변증법적 시스템이 그것에 어떻게 반응하는지 알려져 있지 않다. 또한, 나노로봇 공학의 선구자인 에릭 드렉슬러가 제시한 "그레이 구 (Gray Goo)" 시나리오의 위험성도 존재한다. 이는 나노봇의 과도한 사용이 모든 유기물을 무기물로 변형시키는 가공할 나노봇 팬데믹으로 이어질 수 있음을 의미한다. AI가 주택, 병원, 공장, 운송 시스템, 원자력 발전소 등의 관리를 맡게 되는 이른바 ‘사물인터넷’은 소프트웨어 손상이나 해킹 발생 시 재앙을 초래할 수 있다. 생성형 AI는 수많은 일자리를 위협할 뿐만 아니라, 가상현실을 구축하고 인간을 최대한 그 안으로 끌어들이려는 독점자본가들의 계획을 돕고 뒷받침해준다. 요컨대, AI는 자본주의적 기술 전체주의의 도구다.
6. 마지막으로, AI의 아직 저발전 단계라는 점을 감안하면 확실하지는 않지만, 그럼에도 그 광범위한 파급 효과를 고려할 때 마땅히 경계해야 할 위험들이 있다. AI의 잠재적 위험성에 대해 점점 더 많은 과학자들이 공개적으로 경고하고 있다는 사실은 사태의 심각함을 말해 주는 생생한 신호다. ('AI의 대부'로 불리는 제프리 힌튼, 인공일반지능의 창시자로 간주되고 있는 엘리저 유드코프스키, 마이클 오스본, 그리고 고 스티븐 호킹 같은 과학자들이 그 예다). AI의 선도적 개발자들조차도 그 위협적인 잠재력에 대해 대중에게 경고를 발하고 있다. AI 연구의 궁극적 목표는 인간처럼 생각하고 판단, 결정할 수 있는 기계를 만들어내는 것, 즉 일종의 '의식'을 생성하는 기계를 만들어내는 것이다. 이것이 가능한지, 어느 정도까지 가능한지에 대해서는 전문가들 사이에서 논란이 있다. 그러나 이는 그 자체로 위험한 발상이다. '의식'을 발전시키는 AI를 만들어내는 것이 인류에게 이익이 된다 하더라도 (이 자체도 매우 논쟁의 여지가 있는 주장이다!), 우리는 이를 목표로 하기에 맞는 시대에 살고 있지 않다. 자본주의 계급사회의 틀 안에서 ‘AI 특이점’ (singularity)을 추구하는 것은 극히 위험한 짓이다. 이미 매우 원시적인 형태로 AI는 성차별, 인종차별을 비롯한 모든 형태의 억압을, 우리가 살고 있는 사회를 반영하듯 거울처럼 재생산하고 있다. AI가, 자본주의 계급사회에서 개발된 이 기술이 이미 세계를 파멸 직전으로 몰아넣은 억압자·착취자의 손에 들려진 괴물 같은 도구가 될 수밖에 없을 걸로 충분히 예측되는 이유다. 도대체 왜 이 범죄자들이 지금보다도 더 강력한 무기를 가지고 놀도록 나둬야 하나?!
AI와 쇠퇴·사멸해가는 자본주의
7. 많은 이들이 (맑스주의자라고 자처하는 사람들까지 포함하여) AI를 주로 기술적 관점에서 접근하여 그 유불리를 논한다. 그러다보니 AI를 사회적 맥락을 가지지 않는 모종의 중립적 기술 같은 것으로 취급한다. 이는 극히 일면적인 접근방식으로, 결국 분석하다 막히는 막다른 골목에 이른다. AI의 사회적 의미, 그 사회적 관련성은 AI가 생성 발전해 온 사회구성체 맥락 속에 그것을 위치시켜 놓지 않고서는 이해할 수 없다. 즉 그 쇠퇴기에 갇힌 자본주의의 맥락 내에, 사멸해가는 자본주의 계급사회라는 맥락 내에 AI를 놓고 볼 때 그 사회적 의미를 제대로 인식할 수 있다는 것이다. AI의 발전은 지배계급이 쇠퇴·사멸의 덫에서 벗어날 길을 찾으려는 필사적인 시도의 결과물이다. 동시에 AI의 발전은 계급착취 체제의 퇴락을 반영하는 것으로, 이 체제의 내적 모순을 더 한층 심화시킬 것이다. 한 측면에서 AI는 산 노동에 대한 죽은 노동의 지배라는 자본주의 근본 원리의 구현이다.
8. AI가 세계자본주의의 새로운 경제 상승기를 열어젖혀 줄 것이라는 부르주아 공론가들의 꿈은 순전히 환상이다. 이론적으로, 신기술의 도입은 집약적인 자본축적기 (1848년 혁명 패배 이후 시기, 또는 2차 세계대전 및 그에 따른 세계 재분할 이후 시기 같은)에 필요한 정치·경제적 조건의 창출이 동반되는 경우에나 그러한 호황기로 결과할 수 있다. 신기술 그 자체로는 자본주의 경제호황을 가져오지 않는다. RCIT가 지난 연구보고서들에서 지적했듯이, 그리고 최근에는 부르주아 경제학자들도 인정할 수밖에 없게 되었듯이, 지난 30년간의 거대한 기술 혁신 (컴퓨터, 산업용 로봇, 인터넷 등)은 새로운 경제 성장을 가져오기는커녕 오히려 경제 정체와 노동생산성 저하를 초래했다.
9. 이는 AI가 가능한 한 최대로 인간 노동력을 대체하려는 (그리고 나아가서는 노동자를 완전히 불필요하게 만들려는) 목적을 가지고 있기 때문에 더욱 그렇다. AI 그 자체로는 죽은 노동이다. AI가 산 노동과는 달리 자본주의적 가치를 창출하지 않는 이유다. (AI는 이미 존재하는 가치를, 즉 앞서 인간 노동력에 의해 AI에 체현된 기존 가치를 전달할 뿐이다). 달리 말하면, AI는 자본의 유기적 구성을 급격하게 변화시킴으로써 (가변자본을 줄여서 불변자본을 늘림으로써) 자본주의의 붕괴 경향을 크게 가속화시킬 것이다. 그렇게 함으로써 AI는 자본주의적 가치 창출을 감소시키고, 따라서 이윤의 지반을 축소시킨다. 맑스가 <<자본론>> 1권의 끝 부분 제32장에서 설명한 "자본축적의 역사적 경향"이 이것이다. AI는 새로운 경제 상승기를 열어주지 않을 것이며, 오히려 독점화 과정 ㅡ 즉 대규모 자본에 의한 소규모 자본의 파괴와 소수의 강력한 자본주의 독점체들에 의한 경제 지배력 강화 ㅡ 을 필연적으로 가속화시킬 것이다.
10. AI는 자본주의적 소외의 극단적 형태를 대표하며 그러한 극단적 소외를 촉진한다. AI는 자본주의의 이미 존재하는 경향, 즉 인간을 서로로부터, 그리고 자연으로부터 소외시키는 경향을 대폭 확대시킨다. AI는 일터·직장에서, 사회생활에서 (재택근무, 메타버스 가상공간 등) 인간의 사회적 고립을 조장한다. AI는 가상현실에서 피난처를 찾게 하여 인간의 수동성을 심화시킨다. 사회와 자연으로부터 완전히 단절된 채 가상 세계의 초인적 전사 지위를 신체적 나태함과 결합시켜주는 기제로 AI가 복무하고 있기 때문이다. 또 AI는 인간으로부터 의사소통과 같은 사회적 기술을 빼앗아간다. 그래서 AI는 자본주의적 소외의 무간지옥을 지향한다. 요컨대, AI는 인간의 탈사회화와 사회의 탈인간화라는 이미 존재하는 자본주의적 경향을 가속화한다.
11. AI는 생산력 (productive forces 生産諸力) 발전을 의미하는가? 어느 정도는 그렇다. 재화의 생산을 선진화시키는 한에서 생산력 발전을 대표한다고 할 수 있다. 그러나 자본주의 쇠퇴기에는 생산제력이 파괴제력으로 전화하는 경향이 존재한다. 그 결과, 지난 1~20년 동안 문명 위협의 범위가 확대되어 왔다. "매우 효율적인" 생산수단으로 인한 급속한 기후 파괴, 핵 재앙/ 원전 재난 등은 쇠퇴·사멸해가는 자본주의의 이 내재적 경향의 몇 가지 예에 불과하다. 전쟁, 감시통제, 산업·일자리 멸종, 사회적 고립 등에서 나타나는 AI의 극단적인 파괴적 잠재력을 놓고 볼 때 AI는 생산적 힘보다 훨씬 더 파괴적 힘을 대표한다고 하겠다.
12. 맑스가 『자본론』 1권 1장에서 상품 물신주의를 근본적으로 비판한 내용을 바탕으로 혁명적 공산주의자들은 자본주의 지배 하의 생산력 물신주의에 대해 경고한다. 자본주의는 기술 발전을 추동하는 능력을 발휘해 왔지만, 사회에 거의 또는 전혀 이득이 되지 않고 오히려 인류의 실존을 위협하거나 파괴하는 기술을 육성하는 경향이 점점 더 커지고 있다. 생산을 더 효율적으로 만들고 운송을 더 빠르게 하지만 동시에 오존층을 고갈시키는 기술들, 주민에게 영구적인 위험을 초래하고 매우 위험한 폐기물을 배출하는 원자력 발전소, 지속 가능한 농업을 저해하고 생물 다양성과 건강에 파괴적인 결과를 가져오는 유전자 변형 작물, 그리고 이제는 인공지능까지, 이 모든 것은 쇠퇴·사멸해가는 자본주의가 파괴적 힘들을 만들어내는 내재적 경향의 예들이다. 우리의 임무는 자본주의 하에서 새로운 기술의 개발을 맹목적으로 응원하는 것이 아니다. 인류의 미래에 유용한 기술과, 반대로 파괴적이거나 예측할 수 없는 결과를 초래할 수 있는 (따라서 반대해야 하는) 기술을 구분하는 것이 맑스주의자의 임무다.
AI에 대한 맑스주의 전술
13. 맑스주의자는 AI의 발전을 환영할 이유가 없다. 오히려 그 반대다. 무엇보다도 우리 적들의 손에 있는 위험한 도구라는 점에서 RCIT는 AI에 반대한다. AI는 제국주의 독점체와 제국주의 강도국가를 섬기는 리바이어던 괴물이다. 이는 독점 자본가들의 AI 개발을 추동하는 근본 동력들을 확인해보면 분명해진다. a) 산 노동을 죽은 노동으로 대체하여 생산성을 높이고자 하는 자본가들의 욕망, b) 역사적인 자본주의 쇠퇴기에 살고 있는 지배계급으로서 폭발적 모순으로 가득 찬, 위기에 시달리는 사회에 대한 통제력을 높이고자 하는 욕망, c) 독점 부르주아지 한 부문의 다음과 같은 소망: AI의 도움으로 인류의 일부를 제거하거나 훨씬 적은 수의 인간만 필요로 하는 새로운 형태의 "사회적" 삶을 창조함으로써 문명의 붕괴를 막아보겠다는 바람. 그러한 새로운 형태의 "사회적" 삶은 이 지구상에서가 아니면 또 다른 행성에서 생존할 수도 있다.
14. AI가 생산 과정이나 소통 과정 등을 "합리화"한다며 의미를 두곤 하는데 맑스주의자에게 AI의 문제는 다음과 같은 점들에 있다. a) 지배계급이 일자리의 상당 부분을 파괴하고 감시통제를 급격히 확대하며 전쟁을 훨씬 더 "효율적"으로 만드는 등등에 AI를 활용한다는 점, b) 지배계급이 자율주행차에서 자율무기체계까지, 직업세계 관리에서 사회시스템 관리까지 중요한 재량권을 AI에게 넘겨주려고 작심했다는 점, c) 지배계급이 사회생활을 바꿔놓기 위해 인공지능을 사용하려 한다는 점. 이는 인간의 사회적 고립 및 "탈인간화"를 심화시키고 인간에게서 사회적·인지적 능력을 빼앗아가는 결과를 초래한다.
15. AI 관련 사회주의자들의 전술은 무엇이어야 할까? 짧게 말하자면, RCIT는 "반대 저지!" 구호로 요약되는 전술을 제창한다. 우리는 AI의 개발이나 직장과 소셜 미디어에서의 활용이나 추가 연구나 다 반대한다. 우리는 새로운 AI 기술 적용 중단을 요구한다. 우리는 이미 적용된 곳에서는 AI의 사보타지를 지지한다. 물론 우리는 현실주의자로서, 지배계급이 권력을 잡고 있는 한 AI를 (통제 불능 상태가 될 경우 막대한 위험이 따르더라도) 가능한 한 광범위하게 이용할 것이라는 것을 알고 있다. 그러나 사회주의자들은 지배계급의 결정과 그들의 반동적이고 위험한 정책에 대해 단호한 반대의 선을 그어야 한다. 맑스주의자들의 "반대·저지!" 전술은 그 자체로 완결적인 프로그램일 수는 없으며, 노동자·피억압자의 이익을 방어하는 계급투쟁 프로그램의 일부여야 한다. 즉 세계 사회주의혁명 강령의 한 구성부분인 것이다.
16. AI가 사회에 가져올 심대한 파괴적 결과를 놓고 볼 때, 노동자·민중의 분노와 적개심이 광범위하게 일 것을 예상할 수 있다. 복잡한 AI를 막고 파괴하고자 하는 "러다이트 운동" 같은 물결이 일 가능성이 높다. 의심할 여지없이, 이 같은 대중적 반발은 진보적인 사상과 소부르주아 유토피아주의가 뒤섞이며 혼란에 빠질 것이 분명하다. (코로나19 반혁명 시기의 대규모 항의시위에서도 비슷한 상황이 전개됐다). 소부르주아 좌파의 상당수는 이러한 "후진" 대중을 경멸하겠지만, 진정한 맑스주의자들은 지배계급에 휘둘리는 이러한 얼간이들을 따를 이유가 없다. 실제로 역사에는 주관적 면에서는 후진적인 이데올로기적 의식에도 불구하고 객관적으로는 진보적인 역할을 수행한 대중운동이 반복적으로 나타났다. 로마 제국이나 고대 중국 진·한 시대의 "야만족" “오랑캐”의 난과 노예 봉기 · 민란, 중세의 각종 종교 이단 운동, 식민주의에 맞서 싸운 토착민들의 저항, 그리고 근현대에 제국주의 침략자에 맞선 이슬람주의 반란 등이 그 예다.
17. 사회주의자의 임무: 1) AI에 반대하는 노동자·민중의 대항 운동 일체를 지지 지원한다. 2) AI와 자본주의의 연관성을 설명하고, AI를 지배하고 있는 자들, 즉 제국주의 독점체들 및 제국주의 강도국가들에 맞서 싸우고 이를 타도하는 것이 주 임무임을 설명한다. 3) 자생적인 분노를 지배계급을 향한 계급의식적인 투쟁으로 전화시킨다.
18. 중간계급 속에서도 AI에 대한 강한 반발이 충분히 예상된다. 이 기술로 그들의 일자리도 심각한 영향을 받을 것이기 때문이다. 사회주의자들은 그들의 항의운동이 계급투쟁에 복무하는 한, 그러한 세력과 협력할 준비가 되어 있다. 그러나 우선적으로 혁명가들의 초점은 노동자·피억압자의 조직화에 있어야 한다.
19. 이것은 AI가 미래의 사회주의 사회에서 설 자리가 없다는 뜻인가? 이는 조직된 노동자계급이 자본주의를 타도하고 권력을 손에 쥐고 난 뒤에 논의하고 결정해야 할 것이다. 물론, AI가 인류가 자유로운 사회를 건설하는 데 도움이 될 수 있는 분야에서는 보조 기술로서 유용하게 활용될 수 있을 것이다. 일반적인 원칙으로 말해서, 사회주의자들은 인간을 더 자주적이고 공동체의 일원으로 만들어주는 기술을 지지하는 동시에, 인간의 자유와 독립을 제한하거나 나아가 위협하고 더욱 고립되게 만드는 일체의 기술에 반대한다. 중간계급 진보파의 환상과는 달리 사회주의가 단지 더 많이 더 저렴하게 만들어서 쓰는 자본주의 생산·소비 양식의 진보적 버전에 불과한 것일 수가 없는 이유다. 맑스주의에서 말하는 사회주의는 인간이 자연과의 건강한 관계 속에서 능동적이고 사회적이고 지속 가능하며 다양한 삶을 영위할 수 있도록 하는 완전히 다른 생산·소비 양식이다.
RCIT 국제사무국
* 이 테제는 AI의 모든 측면을 평가 분석하거나 그러한 기술의 적용으로 제기된 모든 질문에 답하고 있지는 않다. 포괄적이고 세부적인 평가분석과 과제 제시 글로 다음 팜플렛을 참조할 것을 권한다.
Michael Pröbsting, Artificial Intelligence and the Marxist Understanding of Productive Forces. On the contradictory development of productive forces in the period of capitalist decay and their dialectical relationship with the relations of productions

댓글
댓글 쓰기