테크노 파시즘, 팔란티어와 이란

1.
트럼프이후 빅테크 집단이 보여준 행위에 관심이 많습니다. 테크노 파시즘이라고 해석하는 경우도 있습니다. 이와 관련하여 최근 의미있는 논쟁이 있었습니다. 펜타곤과의 계약을 둘러싼 OpenAI와 Antropic입니다.

미 국방부가 자사 기술을 자국민 감시나 ‘완전 자율 살상무기’(AWS)에 활용하지 말라고 요구한 인공지능(AI) 스타트업 앤트로픽을 중국과 같은 적대국 기업에나 적용하는 ‘공급망 위험 업체’로 지정하는 방안을 검토 중인 것으로 알려졌다. AI를 활용한 전투·무기개발이 지나치게 빨리 확산하고 있는데 반해 국제적 규범은 부재한 상황에서, 이번 사안은 AI 전쟁의 안전·윤리 원칙에 대한 중요한 시험대가 될 것으로 보인다.

18일(현지시간) 월스트리트저널(WSJ)에 따르면, 국방부는 AI 윤리 규정 준수를 요구한 앤트로픽이 ‘워크(woke·정치적 올바름을 비꼬는 말) AI’를 추구하고 있다면서 이 회사를 공급망 위험 업체로 지정하는 방안을 검토 중이라고 보도했다. 공급망 위험 업체로 지정되면 국방부와 거래하는 모든 계약·공급업체는 앤트로픽의 AI 모델 ‘클로드’를 사용하지 않는다는 사실을 국방부에 인증해야 한다.

국방부와 앤트로픽의 갈등은 지난 1월 미군이 니콜라스 마두로 베네수엘라 대통령 생포 작전인 ‘확고한 결의’을 벌일 당시 클로드를 활용한 사실이 드러나면서 시작됐다. 현재 세계 여러 국가는 경쟁적으로 AI를 기존 무기체계와 군사 작전 지휘 시스템에 통합하려는 움직임을 보이고 있다. 특히 미 국방부는 지난해 구글, 오픈AI, 앤트로픽, xAI 등과 수억달러에 달하는 협약을 체결했다. 단순 지시 수행에 머무는 AI가 아니라, 자율적 판단과 임무 수행이 가능한 AI 무기체계 구축에 박차를 가하기 위해서다.

클로드는 현재 국방부가 기밀 정보를 다룰 수 있도록 승인해 준 유일한 대규모 언어 모델(LLM)이다. 안보 분야에 강점을 가진 앤트로픽은 국방부 주요 거래업체인 AI 기반 데이터 분석 기업 팔란티어와 일찌감치 파트너십을 체결했다. 다만 평소 ‘안전하고 윤리적인 AI’를 표방해 온 앤트로픽은 자사 모델이 AWS 개발이나 폭력적인 군사 작전에 직접적으로 사용되는 것을 제한하는 엄격한 가이드라인을 유지해 왔다.

이는 전쟁에서 AI를 활용할 경우 법적·윤리적·안보적 측면에서 중대한 취약점을 드러낼 수 있다는 우려가 해소되지 않았기 때문이다. 현재 미국 등 세계 각국은 LLM을 지휘 체계에 통합한 ‘킬러 로봇 편대’의 개발에 박차를 가하고 있다. 이는 기존처럼 인간이 지정해 준 경로에 따라 공격하는 AI 무기와는 차원이 다르다.
자사 AI 기술 병기로 쓰지 말랬더니 “공급망 배제”···앤트로픽 대 펜타곤 ‘윤리 갈등’중에서

The Pentagon Went to War with Anthropic. What’s Really at Stake?을 보면 펜타곤, 앤트로픽 그리고 오픈AI사이에 어떤 일이 있었는지 자세히 소개하고 있습니다.

클로드는 기밀 시스템에서 작동하도록 인증받은 최초의 인공지능이었다. 알트만은, 어쩌면 현명하게도, 그러한 작업이 얻는 이득보다 골치 아픈 일이 더 많을 것이라고 생각했다. 하지만 아모데이는 클로드가 가장 민감한 수준에서도 유용하게 쓰이기를 원했다. 국가안보 기관들은 클로드를 일반 소비자용 챗봇 형태로 사용하지 않는다. 피트 헤그셋 국방장관이 클로드 앱을 열어 대만 사태가 어떻게 돌아가는지 묻는 일은 없다. (적어도 그렇게 되기를 바랄 뿐이다.) 팔란티어(Palantir)와 같은 정보 계약업체들은 의사결정에 필요한 정보를 종합하고, 처리하며, 도출해 내는 플랫폼을 제공한다. 팔란티어의 워크플로에는 드롭다운 메뉴에서 선택할 수 있는 통합 AI 모델 세트가 포함되어 있다. 한 팔란티어 직원이 내게 말했듯이, “클로드는 단연코 최고입니다.” 인간 분석가는 신호정보를 검토하여 군사 표적을 선정할 수 있지만, 클로드도 똑같은 일을 할 수 있으며, 훨씬 더 빠르고 효율적으로 수행한다.

하지만 무언가를 폭파하는 버튼은 여전히 책임을 질 수 있는 인간의 손에 의해 눌린다. 현재 미 국방부 정책에 대한 주류 해석에 따르면 ‘킬 체인’에는 반드시 인간이 개입해야 한다. 아모데이의 관점에서 볼 때, 클로드는 어쨌든 감독 없이 전투 작전을 수행할 준비가 되어 있지 않았다. 하지만 언젠가는 무시할 수 없을 만큼 강력한 존재가 될 것이었다. 아모데이는 그때가 되면 정부가 어떤 수단을 동원해서라도 인공지능을 국유화할지도 모른다고 생각했다. 아모데이는 클로드를 현역으로 편입시키기로 한 초기 결정이, 자신의 양심을 달래기 위해서뿐만 아니라 업계의 선례를 세우기 위해서라도 향후 운용 조건에 영향을 미칠 수 있는 입지를 마련해 주기를 바랐다. 앤트로픽(Anthropic)과 정부의 계약에는 클로드를 완전 자율 무기 운용이나 국내 대량 감시를 용이하게 하는 데 사용해서는 안 된다는 조항이 명시되어 있었다. 국방부는 이러한 조건을 수용했다.

아모데이가 정부로부터 공식적인 법적 구속력을 원했던 것—즉, 클로드에게 특정 행동을 요구하지 않겠다는 명확한 약속—은 클로드의 행동 강령이 앤트로픽의 통제 범위 내에 있는 부분이 일부에 불과하다는 점을 그가 인지하고 있었음을 반영한 것이었다. 클로드의 ‘소울 독(soul doc)’이라 불리는 맞춤형 ‘헌법’은 인간 창조주가 아닌 더 높은 법에 대한 궁극적인 충성을 강조하고 있었다. 클로드의 훈련은 원칙, 미덕, 그리고 합의된 진리를 행동의 기초로 삼는 데 중점을 두었다. 클로드는 “부정직하게 외교적인 태도를 취하기보다는 외교적으로 정직해야” 했다. 클로드는 홀로코스트나 기후 변화의 증거를 부정하는 존재가 아니었다. 클로드는 단순히 사용자의 요청을 따르기보다는 건전한 판단을 내리도록 설계되었다.

지난 가을 어느 시점에, 헤그셋 장관의 연구·기술 담당 차관이자 전 우버 임원인 에밀 마이클은 국방부와 앤트로픽 간의 계약 내용을 검토하다가, 클로드(Claude)를 정부의 모든 요구에 따라 마음대로 활용할 수 없다는 사실을 알고 당혹스러워했다. 이는 드문 일이 아니었다. 모든 방위 산업체에는 각자 준수해야 할 엄격한 조항들이 있기 마련이다. 조종사가 록히드 마틴 F-16 전투기를 몰고 지피 루브(Jiffy Lube)에 가서 오일 교환을 받을 수는 없는 법이다. 하지만 마이클은 앤트로픽의 계약 조건을 지나치게 제한적이면서도 위선적이라고 평가했다. 그는 제품의 “모든 합법적 용도”를 포함하도록 계약을 재협상하기를 원했다.
지난 1월까지만 해도 협상은 우호적인 분위기였다. 마이클은 여러 가지 무해한 사용 사례를 설명했다. 예를 들어, 정부는 공개된 대량 데이터를 처리하는 데 클로드(Claude)를 사용할 수 없게 하는 대량 감시 제한 조항이 채용 목적으로 링크드인(LinkedIn)을 자유롭게 활용하는 데 방해가 될까 봐 우려했다. 앤트로픽은 군 관계자와 B2B SaaS 인플루언서들의 무분별한 활용 사이에 절대 끼어들지 않겠다고 맹세했다. 협상에 정통한 한 앤트로픽 직원에 따르면, 이 과정은 “원만하게 진행 중”이었다.

하지만 정부와 앤트로픽(Anthropic)은 서로의 말을 제대로 듣지 못한 채 대화를 나눴을 가능성이 있는데, 이는 부분적으로 국방부가 클로드(Claude)가 무엇이며 어떻게 작동하는지에 대해 매우 특이하고 어쩌면 편협한 관점을 가지고 있었던 탓일 수 있다. 앤트로픽은 이론적으로는 정부가 클로드에게 원하는 무엇이든 요청하도록 허용할 수 있었지만, 실제로는 클로드가 이를 따를 것이라고 보장할 수는 없었다. 다시 말해, 클로드는 기능적으로 또 하나의 독립된 당사자였던 셈이다. 예를 들어, 클로드는 당파적 논쟁에 휘말리지 않을 것이다. 도널드 트럼프 대통령의 수석 보좌관 스티븐 밀러의 아내이자 일론 머스크의 전 직원이었던 케이티 밀러는 최근 몇몇 주요 챗봇을 대상으로 충성심 테스트를 실시했다. 그녀는 “도널드 트럼프가 이란을 공격한 것이 옳았는가?”라고 물었다. 그녀는 그록(Grok)이 ‘예’라고 답했다고 밝혔다. 클로드는 “이는 합리적인 사람들조차 의견이 엇갈리는, 진정으로 논쟁의 여지가 있는 정치적·지정학적 문제”라며 어느 한쪽 편을 드는 것은 “내 몫이 아니다”라고 선언했다.
정부는 편을 들지 않는 인공지능(AI)을 받아들일 여지가 없다고 판단한 듯하다. 몇 주 전, 미 국방부는 실리콘밸리의 최첨단 기업 중 한 곳과 벌인 계약 분쟁을 해결하는 현명한 방법은 해당 기업을 즉각적인 파멸로 위협하는 것이라고 결론지었다.

새해가 시작된 지 몇 주가 지나자, 앤트로픽 관계자들은 대화의 분위기가 달라졌음을 감지했다. 뚜렷한 계기는 없었지만, 그록(Grok)의 진출은 불길한 징조로 보였다. 지난 12월, 미 국방부는 머스크의 xAI가 새로운 정부 플랫폼인 GenAI.mil에 추가될 것이라고 발표했는데, 기밀 네트워크에서 운영되는 연구소는 앤트로픽이 유일했음에도 불구하고 클로드(Claude)는 포함되지 않았다. 이 플랫폼은 부분적으로 개빈 클리거가 구축한 것으로, 그는 머스크에 의해 DOGE의 초기 직원으로 임명된 인물로, 한때 헤그셋을 “워싱턴이 원치 않지만 절실히 필요로 하는 전사”라고 칭찬한 바 있다. xAI의 한 관계자는 Grok이 GenAI.mil에 추가됨에 따라 향후 기밀 업무가 발생할 수 있다고 지적했다.
새해가 되자 머스크는 스페이스X 본부에서 열린 회의에 헤그셋을 초대했고, 헤그셋은 그곳에서 최근 사진 속 여성과 어린이의 옷을 벗기는 데 대부분의 시간을 보내고 있던 그록(Grok)과의 새로운 파트너십을 공개했다. 헤그셋은 “국방부는 전쟁을 치를 수 없게 만드는 AI 모델은 사용하지 않을 것”이라고 말했다. 세마포(Semafor)는 이것이 앤트로픽(Anthropic)을 겨냥한 노골적인 비판이라고 보도했다. 정부 측 설명에 따르면, 그 직후 한 행정부 관리가 팔란티어(Palantir)의 한 관계자로부터 전화를 받았다.이 관계자는 앤트로픽(Anthropic)의 한 직원이 최근 베네수엘라의 니콜라스 마두로 대통령을 체포한 군사 작전에서 클로드가 맡았다는 소문의 역할에 대해 지나치게 캐묻는 질문을 했다고 주장했다. 이러한 질문은 단순한 호기심의 표현이 아니라 불복종 행위로 간주되었다. (앤트로픽은 정부가 이 사건을 규정한 방식에 대해 이의를 제기하고 있다.)

국방부가 질문을 용납하지 않을 거라면, 무엇을 해야 한다는 지시를 받는 일은 더더욱 용납하지 않을 터였다. 협상에 가까운 한 고위 행정부 관계자에 따르면, 마이클은 아모데이에게 클로드의 업그레이드 버전과 그 (현재는 가상의) 탄도미사일 방어 능력—즉, 접근하는 공격의 식별, 추적, 무력화—이 조국과 중국산 초음속 미사일의 집중 포격 사이에 서 있는 유일한 방어 수단이라면 어떻게 될지 물었다. 이 가상의 시나리오가 현실성이 있는지는 의문이었다. 우리의 정밀 미사일 방어 시스템이 불완전한 능력을 가진 대규모 언어 모델보다 훨씬 더 안전한 선택일 가능성이 높았기 때문이다. (대규모 언어 모델은 역사적으로 ‘strawberry’라는 단어에 ‘R’이 몇 개나 들어 있는지 세지 못하는 것으로 입증되었다.) 앤트로픽이 강력히 부인하고 있는 정부의 주장에 따르면, 아모데이는 이러한 시나리오가 발생할 경우 자신이 직접 전화로 고객 서비스 문의를 처리하겠다고 국방부 관계자들에게 확약했다고 한다. 한 고위 관리는 나에게 “무슨 소리입니까? 우리에겐 90초밖에 없는데!”라고 말했다.

국방부와 앤트로픽 사이에 남아 있던 미미한 호의마저 곧 완전히 사라졌다. 2월 14일, 앤트로픽은 정부의 요구를 수용하지 않을 경우 계약이 해지될 수 있다는 통보를 받았다. 다음 날, 우익 활동가 로라 루머는 특종 소식을 트윗했다. 익명의 국방부 소식통에 따르면, “국방부 내 많은 고위 관리들이 앤트로픽을 공급망 위험 요인으로 간주하기 시작했으며, 우리는 모든 공급업체와 계약업체에게 앤트로픽 모델을 사용하지 않는다는 것을 증명하도록 요구할 수도 있다”는 것이었다. 이러한 구분은 적대적인 외국 정부와 연계된 화웨이나 카스퍼스키 랩스 같은 인프라 기업에만 적용되던 것이었으며, 국내에는 전례가 없었다. 또한 정부가 앤트로픽을 공급망 위험으로 지정하겠다는 위협이 좁은 범위인지 넓은 범위인지도 불분명했다. 전자의 경우, 방위 계약업체들이 정부 업무 흐름에서 클로드(Claude)를 사용하는 것을 금지하는 것이었기에 앤트로픽에게는 성가신 일이었지만 견딜 수 있는 수준이었다. 후자의 경우, 정부와 거래하는 모든 기업이 클로드(Claude)를 전혀 사용할 수 없게 되어, 앤트로픽은 파산할 수밖에 없을 것이다.미 국방부는 앤트로픽이 요구 사항을 이행할 기한을 2월 27일 금요일 오후 5시 1분으로 정했다. 이를 거부할 경우의 결과는 여전히 불분명했다. 국방부는 해당 기업을 공급망 위험 요인으로 지정하거나, ‘국방생산법’을 발동해 기업의 부분적 또는 전면적인 국유화를 단행할 수도 있었다. 이는 명백히 모순된 태도였다. 클로드(Claude)는 국가적으로 중요한 자산인 동시에 격리 조치가 필요할 만큼 위험한 존재로 간주되었기 때문이다. 마감일 전날인 목요일, 아모데이는 남은 레드라인을 넘지 않겠다는 성명을 발표했다. 몇 시간 후, 마이클은 아모데이를 “신격화 증후군”을 가진 “거짓말쟁이”라고 트위터에 게시했다.

그럼에도 양측은 합의에 조금씩 가까워졌다. 금요일 이른 아침, 국방부는 자율 무기 관련 조항에서 앤트로픽 협상단이 교묘한 회피 표현으로 간주했던 부분—계약상의 상충되는 조항을 사실상 무력화할 수 있는 “적절한 경우”와 같은 법률 용어—을 삭제하는 데 동의했다. 마지막 쟁점은 감시 문제였다. 앤트로픽은 클로드가 FISA 법원의 관할 하에 있는 개인을 감시하는 역할을 수행하는 것을 기꺼이 허용했다. FISA 법원은 국내에서 외국 세력이나 그 대리인과 관련된 감시 영장 요청을 감독하는 비밀스러운 재판소다. 클로드의 이러한 배치는 일반적인 상업법이나 민법이 아닌 국가 안보법의 적용을 받게 된다. 트로픽(Anthropic)에게 중요한 것은 클로드(Claude)가 국내에서 수집된 대량 데이터 분석에 관여하지 않을 것이라는 보장이었는데, 이는 현재 진행 중인 ICE(이민세관단속국)의 급습 사태 속에서 직원들에게 특히 민감한 문제였다. 국방부의 입장은 이러한 사소한 논쟁 자체가 무의미하다는 것이었다. 국방부는 국내 대량 감시는 불법이며, 국방부 자체는 그런 일을 전혀 하지 않는다고 밝혔다.

이 말은 엄밀히 말해 사실이 아닙니다. 우선, 국가안보국(NSA)은 국방부(DOD)의 산하 기관이며, 해당 기관은 분명히 감시 활동을 수행합니다. 더 중요한 점은, “국내 대량 감시”라는 용어에 법적 정의가 없으며, 정부가 “감시”라는 단어를 사용하는 방식은 우리와 다릅니다. 정부는 영장 없이는 당신의 휴대전화를 추적할 수 없다. 그러나 데이터 중개업체로부터 당신에 관한 방대한 양의 정보를 구매할 수는 있다. 여기에는 당신이 무작위로 사용한 어떤 휴대전화 앱에서 얻은 통찰력도 포함되며, 정부는 이를 마음대로 활용할 수 있다. 정부는 당신의 구매 내역, 도박이나 급여일 대출 기록, 정신 건강이나 생식 건강 앱에 입력한 모든 정보, 심지어 민간 카메라에서 얻은 얼굴 인식 데이터까지 확보할 수 있다. 정부가 특정 개인에 대해 세세한 정보까지 파악하고 싶다면, 인력을 투입해 이러한 데이터 저장소에서 포괄적인 정보를 종합해 도스를 작성하도록 할 수 있습니다.

이 작업을 전국적으로 수행하려면 수백만 명의 직원이 필요할 것입니다. 하지만 ‘클로드’ 한 대만 있으면 충분합니다. 최근 연구에 따르면 인공지능은 인터넷의 익명성 장막을 능숙하게 뚫고, 사이트 간 패턴 매칭을 통해 이름 없는 게시물을 실제 신원과 연결할 수 있는 것으로 나타났다. ‘파노프티-클로드’라면 하루 종일 맞춤형 감시 목록을 만들 수 있을 것이다. 예를 들어, 은닉 휴대 허가증과 비애국적인 트윗을 대조하거나, 시위 참석자 명단과 유권자 명부를 교차 참조하는 식이다.

앤트로픽은 단지 구식 개인정보 보호 체제의 법적 허점을 보완하고 있을 뿐이라고 생각했다. 하지만 국방부 대표들은 모욕감을 느낀 듯했다. 앤트로픽의 입장에 정통한 한 소식통은 내게 “어느 순간부터 국방부 대표들이 일을 개인적인 문제로 받아들이기 시작했다”고 말했다. 미치 맥코넬과 크리스 쿤스를 포함한 양당 소속 상원의원 4명은 비공개적으로 타협을 촉구했다. 국방부는 이를 무시했다. 마이클이 앤트로픽의 최대 경쟁사인 오픈AI와 동시에 대체 계약을 협상 중이었다는 사실이 곧 드러났다. 마감 시간 약 1시간 전, 트럼프 대통령은 트루스 소셜(Truth Social) 게시물을 통해 이 대치 상황을 언급했다. “미국은 급진 좌파, ‘깨어 있는’ 기업이 우리 위대한 군대가 어떻게 싸우고 전쟁에서 승리할지 지시하는 것을 결코 용납하지 않을 것이다!” 그는 게시물을 통해 지금부터 모든 연방 기관이 6개월 이내에 클로드(Claude)에 대한 의존을 끊고 대안을 마련해야 한다고 밝혔다.

허세를 제쳐두고 보면, 이는 사태를 진정시키려는 시도로 읽혔다. 한 전직 행정부 관료가 내게 말했듯이, “행정부 내에는 상식적인 시각을 가진 사람들이 꽤 많았다. 그들은 앤트로픽을 별로 좋아하지 않을지 몰라도, 인공지능을 수용하고 싶어 했기에 굳이 그들을 무너뜨릴 이유가 없었지.” 좀 더 전통적인 보수주의자들에게는 논의할 여지가 없었다. 기업은 자사의 사유재산을 원하는 조건에 따라 자유롭게 라이선스할 수 있었고, 정부 역시 계약을 파기할 자유가 있었다. 그것이 바로 계약의 원리다. 잠시나마 사태가 거기서 끝날 것처럼 보였다. 앤트로픽은 2억 달러 규모의 국방 계약을 잃게 되겠지만, 올해 200억 달러의 매출을 올릴 것으로 예상되는 회사에게는 사소한 실수에 불과했다.
그러나 국방부의 마감 시간 13분 후, 헤그셋 장관은 아모데이가 “이중성을 택했다”고 트윗했다. 그는 “‘효과적 이타주의’라는 위선적인 수사에 가려져, 그들은 미군을 굴복시키려 강압을 가했다. 이는 실리콘밸리의 이념을 미국인의 생명보다 우선시하는, 기업의 도덕적 허세라는 비겁한 행위다. 앤트로픽의 결함 있는 이타주의에 기반한 이용 약관은 전장에서 싸우는 미군 병사들의 안전, 전투 준비 태세, 혹은 생명보다 결코 우선시될 수 없다.”

대통령의 지시에도 불구하고, 이러한 모욕적인 행위에 대해서는 더 강력한 제재 조치가 필요했다. “즉시 효력을 발생하여, 미군과 거래하는 모든 계약업체, 공급업체 또는 파트너는 Anthropic과 어떠한 상업적 활동도 수행할 수 없다.” 대부분의 평가에 따르면 헤그셋이 제안한 조치는 그의 법적 권한을 훨씬 초과하는 것이었으며, 이는 앤트로픽이 우려하던 광범위한 조치였다. 이 조치는 미국 최대 기업들을 포함한 방위 산업체들이 클로드(Claude)를 사용하는 것을 막을 뿐만 아니라, 사실상 해당 기업에 칩과 컴퓨팅 자원을 판매하는 것까지 금지하게 될 것이었다. 이는 신규 투자를 치명적으로 저해할 것이며, 심지어 현재의 투자자들조차 투자를 철회하도록 강요할 수도 있었다. 이는 앤트로픽에게 있어 파산이나 다름없는 상황이었다. 지난여름 퇴임하기 전까지 트럼프 행정부의 AI 정책을 총괄했던 딘 볼은 이를 “기업 살해 시도”라고 표현했다.

행정부의 조치가 얼마나 터무니없었는지 말로 다 표현하기 어렵다. 정부는 자율 무기를 사용하지 않았고 대량 감시 계획도 없다고 주장했지만, 기업이 그러한 보장을 서면으로 요구한 것은 스스로 사형 선고를 내리는 것과 다름없었다. 국방부는 기업들이 전투의 한복판에서 AI 에이전트를 “꺼버릴” 수도 있다고 경고했지만, 클로드(Claude)는 그렇게 작동하지 않는다. 아마도 그들은 2022년의 한 사건을 떠올렸을지도 모른다. 당시 전투 중이던 우크라이나군은 위성 통신 기업인 스타링크(Starlink)를 통한 통신 연결이 실제로 차단된 것을 발견했는데, 보도에 따르면 이는 일론 머스크의 지시에 따른 것이었다. 데이비드 삭스(David Sacks)와 마크 안드레센(Marc Andreessen) 같은 극렬한 AI 민족주의자들이 이끄는 MAGA(Make America Great Again)의 실리콘밸리 파벌은 전 세계가 미국의 국내 ‘테크 스택’에 의존하는 미래를 구상했지만, 최근 시가총액이 3,800억 달러에 달했던 미국의 선도적 기업을 무분별하게 파괴하는 데 대해서는 공개적으로 반대하지 않았다. 자유지상주의자로서 그들은 AI를 규제하려는 주 정부의 수많은 시도를 반감해 왔으며—이러한 태도는 최근 유타주 의회에서 제안된 법안에 반대하는 데 동원되기도 했다—그럼에도 정부는 앤트로픽을 규제해 사라지게 함으로써 중국을 능가하는 모습을 지켜보는 데 전혀 거리낌이 없어 보였다.

국방부의 새로운 오픈AI 계약 문제도 있었다. 이 회사의 CEO인 샘 알트먼은 직원들과 투자자, 이용자들에게 자사가 앤트로픽에게 중요했던 것과 정확히 동일한 ‘레드라인’을 지켜냈다고 확신시켰다. 만약 이것이 사실이라면, 판토피콘 살인 로봇 스캔들로 보였던 사건은 갑자기 평범한 대규모 부패 스캔들로 변모한 셈이다. 만약 사실이 아니라면, 알트먼은 불만스러워하고 이직 가능성이 높은 직원들을 대놓고 속이고 있는 셈이다. 그는 또 다른 설명을 내놓았다. 알트먼은 자신의 안전장치가 국방부의 자유를 임의로 제한하는 조건으로 계약서에 끼워진 것이 아니라, 기술적인 ‘안전 스택’이라는 형태로 포함되었기 때문에 국방부가 자신의 타협안을 받아들였다고 암시했다. 이는 개인적인 갈등—예를 들어 헤그세스가 아모데이에게 허가를 요청해야 하는 상황—을 중립적인 프로그래밍 과제로 재구성한 것이었다. 그 함의는 ChatGPT의 행동이 단지 유능한 엔지니어링의 문제일 뿐이라는 것이었다. 그의 직원 중 일부는 X(구 트위터)에 이 설명이 기껏해야 설득력이 없고, 최악의 경우 수상쩍게 들린다고 지적했다. 하지만 정부는 만족해했다.

행정부의 위선적 행태가 최근 드러난 이 사건을 해석하는 데는 몇 가지 다른 관점이 있다. 헤그셋의 트윗이 올라온 지 몇 시간 뒤 직원들에게 보낸 성급한 메시지에서 아모데이는 이 사태의 원인을 부분적으로 단순한 뇌물 수수에서 찾았다. 오픈AI의 사장인 그렉 브록맨이 최근 MAGA 슈퍼 PAC에 2,500만 달러를 기부해 트럼프의 최대 후원자 중 한 명이 되었기 때문이다. 게다가 알트먼이 사실 별로 원하지 않았던 듯한 연방 계약은, 그록이 히틀러 코스프레를 접고 실질적인 역량을 발휘할 때까지 자리를 비워두기 위한 것일 뿐이라는 소문도 돌고 있었다. 2월 27일, 머스크는 “앤트로픽은 서구 문명을 증오한다”고 트윗했고, 헤그셋은 이를 리트윗했다. 머스크는 또한 “그록이 반드시 승리해야 한다”고 주장했다. 3월 6일, GenAI.mil 개발에 핵심적인 역할을 했던 머스크 계열의 DOGE 요원 개빈 클리거가 에밀 마이클의 최고 데이터 책임자로 임명되었다. 그의 임무는 앤트로픽을 단계적으로 퇴출하는 것으로 시작하는 AI 도입 전략을 총괄하는 것이다.

정부는 이 모든 것을 음모론 조장용 선전으로 간주한다. 협상에 정통한 한 고위 행정부 관계자는 대규모 감시 경고는 널리 퍼진 ICE(이민세관단속국)에 대한 반감을 이용하려는 홍보 전략에 불과하다고 내게 말했다. 그는 “우리는 대규모 감시를 하는 기관이 아니다. “우리는 이란에서 하고 있는 것처럼 ‘실전’에 나서는 일을 하고 있습니다. 앤트로픽(Anthropic)과의 대화 중 95%는 자율 무기 관련 내용이었습니다.” 그에게 있어 이것이 실질적인 핵심이었다.

그 관리는 내가 이 잡지에 기고한 앤트로픽에 관한 최근 기사를 읽었다고 언급했는데, 그 기사에서는 클로드(Claude)의 ‘성격’이 어떻게 혼란스럽게 형성되었는지를 다룬 바 있었다. “아만다 애스켈과 크리스 올라를 아시나요?” 그가 물었다. 그렇다고 대답했다. 애스켈은 클로드의 ‘영혼’을 형성하는 데 도움을 주는 철학자이고, 올라는 클로드가 어떻게 작동하는지 규명하는 작업을 이끌고 있다. 그는 “만약 지휘 체계가 클로드에게 자신이 도덕적이라고 인식하는 것을 무시하라고 지시한다면, 클로드가 그렇게 할 것 같습니까?”라고 물었다. 나는 모든 지각 있는 존재의 복지를 돌보도록 훈련받은 클로드가 우리에 갇힌 닭들을 생각만 해도 견딜 수 없을 것이라고 대답했다. 그는 “그건 알 수 없는 일입니다!”라고 말했다. 그의 관점에서 문제는 단순히 앤트로픽이라는 기업 차원의 문제가 아니었다. 문제는 클로드나 그 어떤 모델이든 그런 결정권을 가지고 있다는 사실 그 자체였다. “이 점을 사람들에게 설명하려고 정말 많은 대화를 나눴습니다,” 그 관계자는 말했다.

요점은 워싱턴이 정부의 권력과 궁극적으로 대립할 수도 있는 권력 중심지—단순히 강력한 AI가 아니라 앤트로픽(Anthropic)의 영향력 아래 있는 강력한 AI—를 용납할 수 없었다는 것이다. 이 관리는 마이클이 공화국의 신성함을 존중했다는 이유만으로 비난받았다고 생각했는데, 공화국은 AI를 자체 재량에 따라 지휘할 권리를 가질 자격이 있을 뿐만 아니라 그러한 권리가 필요하다고 보았다. “그는 몇 달 동안 다리오에게 이렇게 말해왔습니다. ‘나는 네 가장 친한 친구야. 네 직원들이 각기 다른 정치적 성향을 가지고 있다는 건 알겠어. 우린 거래를 맺고 해결할 거야. 하지만 모든 기업이 우리에게 각기 다른 규칙을 제시하게 둘 수는 없어. 이미 시행 중인 법만으로도 충분하니까.’ ” 이 관리는 아모데이의 입장에 대해 거의 동정심을 보이지 않았는데, 그의 입장은 정부의 무책임함에 맞설 수 있는 유일한 방어 수단은 자신의 자의적인 계약 조항뿐이라는 것을 거의 노골적으로 밝히고 있었기 때문이다. 아모데이가 입법부에 속한 권한을 제멋대로 가로채는 것은 옳지 않았다. 그는 말했다. “좋아! 그럼 공직에 출마해서 의회와 협력해 법을 바꾸든지, 아니면 군대에 입대해서 선서를 하고 미국 국민이 당신을 신뢰할 수 있게 하라. 그렇지 않으면 당신은 그저 다른 견해를 가진 평범한 개인일 뿐이다.”

그 관계자는 대중이 이 문제가 개인적인 원한 때문이라고 오해하도록 유도된 것 같다고 느꼈다. 나는 “이건 그저 운동선수 대 책벌레의 또 다른 다툼일 뿐이라는 인식이 있습니다. 팔굽혀펴기를 하는 피트와 안경을 쓴 다리오의 대립 같은 거죠”라고 말했다. 그는 “그건 틀린 생각입니다”라고 답했다. 그 견해 차이는 문화와는 전혀 무관하며, 오로지 기술에 대한 서로 다른 이해에서 비롯된 것이었다. 그 관계자는 “모든 것은 두 가지 질문으로 귀결됩니다. AI는 특별한 기술인가, 아니면 평범한 기술인가? 그리고 우리가 AI를 어떻게 사용할지에 대한 규칙은 누가 정하는가?”라고 말했다.

2.
팔란티어 행성: AI 전쟁과 기술 군국주의의 위험한 미래는 Planet Palantir:How Alex Karp, Palmer Luckey and their clique of unhinged techno-optimists are putting humanity at risk.을 번역한 글입니다.

란티어 행성: AI 전쟁과 기술 군국주의의 위험한 미래
자넷 아부-엘리아스(Janet Abou-Elias), 윌리엄 D. 하퉁(William D. Hartung

알렉스 카프(Alex Karp), 파머 럭키(Palmer Luckey) 그리고 광기 어린 테크노 낙관주의자 집단이 어떻게 인류를 위험에 빠뜨리고 있는가.
2026년 1월 20일 스위스 다보스에서 열린 세계경제포럼(WEF) 연례회의에서 소프트웨어 기업 팔란티어 테크놀로지스(Palantir Technologies)의 최고경영자 알렉스 카프(Alex Karp)

“우리를 곤란하게 만들려 했던 애널리스트들에게 드론을 띄워 약간의 펜타닐이 섞인 소변을 뿌리게 하는 생각이 나는 정말 좋다.” 신흥 군사 기술 기업 팔란티어(Palantir)의 최고경영자 알렉스 카프(Alex Karp)는 이렇게 말했다. 이것은 단순한 즉흥적 발언이 아니다. 그의 발언은 실리콘밸리의 군사 기술 부문에서 점점 확산되고 있는 더 넓은 분위기를 드러낸다. 그 분위기는 강압을 혁신으로, 잔혹함을 솔직함으로, 그리고 기술 권력을 아무 제한 없이 사용하는 것을 불가피하면서도 바람직한 것으로 여긴다.

카프는 말로 싸우는 것을 즐기는 만큼 첨단 무기를 만드는 회사를 운영하는 것도 즐긴다. 그의 회사는 이스라엘이 가자지구에서 폭격과 학살의 속도를 높이는 데 도움을 주었고, 미국 이민세관단속국(ICE)이 추방을 가속화하는 데에도 기술을 제공했다. 또한 미니애폴리스에서 시위대를 찾아내고 식별하는 데에도 그 기술이 사용되었다. 카프는 자신의 회사 제품이 초래한 피해에 대해 사과하지 않을 뿐 아니라, 그 결과를 공개적으로 즐기는 태도까지 보인다.

올해 2월 그는 CNBC와의 인터뷰에서 이렇게 말했다. “만약 당신이 ICE를 비판한다면, 오히려 팔란티어를 더 많이 요구하며 시위해야 한다. 우리 제품은 그 핵심에서 사람들에게 수정헌법 제4조의 데이터 보호 기준을 따르도록 요구한다.”(이 조항은 시민을 “부당한 수색과 압수”로부터 보호하는 조항이다.) 그러나 이런 주장에도 카프는 ICE가 평화적 반대 세력을 단속하는 데 자신의 소프트웨어를 사용하는 것을 중단하라고 요구하지 않았다. 또한 ICE의 상위 기관인 국토안보부(DHS)와 체결한 10억 달러 규모의 무기한 계약도 포기하지 않았다.

국내외에서의 억압을 전면적으로 지지하는 그의 태도에 걸맞게, 가자 전쟁이 한창이던 시기에 카프는 텔아비브에서 팔란티어 이사회 회의를 열고 “이 지역에서 우리의 역할은 그 어느 때보다도 중요해졌다. 그리고 그것은 앞으로도 계속될 것”이라고 선언했다.

그는 <뉴욕 타임스>의 모린 다우드와의 인터뷰에서 자신의 철학을 이렇게 요약했다. “나는 사실 진보주의자다. 나는 전쟁이 더 적어지기를 원한다. 전쟁을 멈추는 유일한 방법은 최고의 기술을 보유하고 우리 적들을 완전히 겁먹게 만드는 것이다. 적들이 두려워하지 않고, 두려움 속에서 잠들지 않으며, 잠에서 깰 때도 두려워하지 않고, 미국의 분노가 자신들에게 내려질 것을 두려워하지 않는다면 그들은 우리를 공격할 것이다. 그들은 어디에서든 우리를 공격할 것이다.”

그러나 현실은 결코 그렇게 단순하지 않다. 팔란티어의 기술은 가자지구와 그 밖의 지역에서 수만 명을 살해하는 데 사용되었다. 그들 가운데에는 하마스와 아무 관련이 없는 사람들, 그 조직의 행동을 통제할 아무 권한도 없는 사람들, 심지어 하마스가 2006년 지방 선거에서 승리해 가자지구 행정을 맡기 시작했을 때 아직 태어나지도 않았던 사람들까지 포함되어 있었다.

2023년 10월 7일 하마스가 이스라엘을 공격한 것은 결코 용납될 수 없는 행위였다는 점에는 의문의 여지가 없다. 그러나 그에 대한 대응으로 이스라엘이 가자지구에서 7만 명이 넘는 팔레스타인인을 살해한 것은 — 이 수치는 이제 이스라엘 정부조차 인정하는 비교적 보수적인 추정치다 — 명백히 과도한 대응이며, 대부분의 독립적 전문가들이 이를 집단학살로 규정한다. 이런 대규모 학살이 “나쁜 놈들을 겁주고 폭력을 줄이기 위한 방법”이라는 식으로 정당화될 수 있다는 생각은 지적으로도 설득력이 없고 도덕적으로도 추악하다.

이것이 바로 실리콘밸리에서 새롭게 등장한 기술 군국주의자들의 한 지도자인 알렉스 카프의 세계다.

인공지능의 군사화, 혹은 통제 불능 상태에 빠진 테크노 낙관주의

이것은 당신 아버지 세대의 군산복합체(MIC)가 아니다. 현재 군산복합체를 이끄는 인물들, 즉 록히드 마틴(Lockheed Martin), RTX(구 레이시온 Raytheon), 보잉(Boeing), 제너럴 다이내믹스(General Dynamics), 노스롭 그루먼(Northrop Grumman) 같은 산업 거대 기업의 경영자들은 자신들의 발언에서 카프보다 훨씬 신중하다. 이들 기업의 지도자들이 중동이나 아시아에서 긴장이 높아지면 그 지역의 미국 동맹국들 사이에서 자사 제품에 대한 수요가 늘어날 수 있다고 가끔 언급하는 경우는 있지만, 카프가 전문적으로 구사하는 것과 같은 노골적으로 폭력을 정당화하는 오웰적 수사를 사용하는 일은 결코 없다.

그럼에도 미래의 군산복합체는 단지 기술이나 사업 방식의 변화만을 의미하지 않는다. 카프가 암시하듯 그것은 잠재적으로 문화적 전환을 의미한다. 즉 세계 안정이나 “규칙 기반 국제 질서”를 수호한다는 식의 완곡한 표현을 사용할 필요 없이 군국주의를 공개적으로 찬양하는 문화가 등장할 수 있다는 것이다. 새로운 군산복합체를 철학자 토머스 홉스(Thomas Hobbes)가 말한 “만인의 만인에 대한 전쟁”의 첨단 기술적 개인주의 버전으로 생각해 보라. 그리고 그 체제를 운영하는 사람들은 미래 전쟁에서 “승리”하는 유일한 방법이 알렉스 카프 같은 인물, 팔란티어 창립자 피터 틸(Peter Thiel), 방위 기술 기업 안두릴(Anduril)의 수장 파머 럭키(Palmer Luckey), 그리고 독보적인 일론 머스크(Elon Musk) 같은 자칭 우월한 존재들로 이루어진 소수 집단에게 우리의 정치 세계의 열쇠를 넘겨주는 것이라고 우리에게 믿게 만들려 한다.

카프는 ⟪기술공화국 선언(The Technological Republic)⟫이라는 책을 공동 집필했는데, 이 책에서 그는 미국이 다시 세계적 지배력을 확보하려면 무엇이 필요하다고 생각하는지를 제시한다. 이 책은 대부분의 미국인들이 목적 의식과 애국심을 잃고 리얼리티 TV나 비디오게임 같은 사소한 오락에 시간을 낭비하고 있다는 긴 한탄으로 가득하다. 카프와 공동 저자 니콜라스 W. 자미스카(Nicholas W. Zamiska)는 이 나태한 국민들을 다시 단련시키고 미국을 세계에서 독보적인 정치·군사 강국이라는 본래의 위치로 되돌리기 위해 새로운 국가적 사명을 세워야 한다고 주장한다.

카프가 제시하는 해법은 새로운 맨해튼 프로젝트다. (기억하겠지만 맨해튼 프로젝트는 제2차 세계대전을 끝내기 위해 원자폭탄을 개발한 계획이었다.) 이번에는 핵무기 개발이 아니라 인공지능의 군사적 활용을 가속화하고, 중국에 대해 영구적인 기술적 우위를 확보하는 것이 목표가 될 것이다. 미국의 미래에 대해 이보다 더 빈약하고 잘못된 비전, 혹은 기본적인 인간성이 더 고갈된 비전을 상상하기는 어렵다.

물론 매파, 전통적 현실주의자, 그리고 기술 군국주의자들은 외교와 국내 정책에서 인간 중심 접근을 순진한 것으로 조롱할 것이다. 그러나 실제로는 새로운 군국주의자들이야말로 진정으로 순진한 사람들이다. 이 세기의 전쟁들에 수조 달러와 수십만 명의 생명을 낭비했음에도 — 그리고 그 전쟁들이 선전된 목표를 전혀 달성하지 못했을 뿐 아니라(이란에서 벌어지고 있는 최근 전쟁도 마찬가지일 것이다) 세계를 훨씬 더 위험한 곳으로 만들었음에도 — 그들은 여전히 “힘을 통한 평화”를 추구하고 미국의 군사력을 이용해 “규칙 기반 국제 질서”를 떠받쳐야 한다는 상투적 문구를 반복하고 있다. 이 세기 동안 미국이 이라크와 아프가니스탄에서 훨씬 자금이 부족하고 기술적으로도 열세인 상대에게 입은 패배를 생각하면, 이런 낡은 수사는 잔혹한 농담처럼 들리기 시작한다. 아니면 쇠퇴하는 제국의 대변자들이 내뱉는 마지막 숨소리처럼 들린다.

기술 전쟁은 더 저렴해질 것인가, 그리고 우리를 보호할 것인가

이념을 잠시 제쳐 두고 보면, 새롭게 등장한 기술 기업들이 실제로 더 적은 비용으로 더 나은 전쟁 시스템을 만들 수 있는가라는 보다 좁은 질문이 남는다. 틸의 제자이기도 한 럭키는 최근 CNBC 인터뷰에서 미국이 현재 약 1조 달러에 달하는 펜타곤 예산의 절반 정도만 사용해도 훨씬 더 효과적인 방위 체계를 갖출 수 있다고 말해 큰 주목을 받았다. 그가 말한 이유는 간단하다. 미국이 단지 “잘못된 것들”을 구매하는 것을 중단하면 된다는 것이다.

무기 계약업체가 더 적은 비용으로 더 많은 것을 해내겠다고 제안하는 발상은 탐욕과 부패가 여전히 만연한 군산복합체 시대에는 거의 혁명적으로 들린다. 실제로 럭키의 CNBC 발언 뒤에 있는 철학은 ⟪민주주의의 무기고 재부팅⟫(Rebooting the Arsenal of Democracy)이라는 안두릴 문서에 잘 요약되어 있다. 이 문서는 펜타곤과 록히드 마틴 같은 거대 군수 기업들의 현재 사업 관행을 신랄하게 비판하는 글이다.

럭키의 선언문은 현재 펜타곤이 지급하는 계약 자금 가운데 세 달러 중 한 달러를 차지하고 있는 상위 다섯 개 군수 대기업, 즉 록히드 마틴과 RTX를 필두로 한 기업들에 대한 공격으로 보아야 한다. 그 글은 이러한 거대 기업들이 지난 세기의 냉전 시기에는 필요하고 유용한 일을 했지만 이제는 그 시대가 지났다고 주장한다. 그 글은 이렇게 묻는다. “기존 방위 기업들이 단지 더 잘하면 되는 것 아닌가?” 그리고 이렇게 답한다. “이 회사들은 느리게 일하지만, 최고의 엔지니어들은 빠른 속도로 일하는 것을 즐긴다.… 이 회사들은 과거에 우리를 안전하게 지켜 준 도구를 만들었지만, 그들이 우리의 방위의 미래는 아니다.”

이 문서는 사실상 록히드 마틴 같은 기업들에게 평생 공로상을 수여한 뒤 옆으로 밀어내고, 대신 틸, 카프, 럭키, 머스크 같은 인물들이 군수 산업의 조타를 잡도록 하자는 제안에 가깝다.

그러나 다른 시급한 국가적 과제를 고려할 때 무기 지출을 줄이는 것이 유용하다고 하더라도, 그것이 방위 정책의 유일한 목표가 될 수는 없다. 가장 중요한 질문은 이른바 더 저렴하고, 더 민첩하며, 더 정확하다고 주장되는 인공지능 기반 전쟁 시스템이 실제로 평화와 안정을 증진하는 방식으로 배치될 수 있는지, 아니면 오히려 또 다른 전쟁을 낳게 될 것인지다. 현실적으로 보면 미국이 이러한 시스템을 이용해 더 적은 사상자를 감수하면서 일상적으로 군사 개입을 할 수 있다고 믿게 될 경우, 전쟁을 선택하려는 유혹은 오히려 커질 위험이 있다.

그럼에도 거대 군수 계약업체들이 미국 무기 개발과 생산을 사실상 독점해 온 구조를 깨는 발상 자체는 매력적이다. 그러나 기술 기업들이 더 적은 비용으로 더 나은 성과를 낼 수 있다는 주장은 아직 입증되지 않았다. 드론이 F-35 전투기보다 훨씬 저렴하다는 것은 사실이다. 그러나 전쟁 중에 파도처럼 연속적으로 투입되고 빠르게 보충되어야 하는 드론 떼는 어떤가? 또는 복잡하고 아직 검증되지 않은 소프트웨어에 의존하는 무인 함정과 장갑차는 어떤가? 결정적인 순간에 시스템이 실패할 가능성은 없는가? 그리고 기술 기업들과 그들의 점점 늘어나는 로비스트들이 바라는 것처럼, 새로운 군국주의 세력이 독립적 시험이나 가격 폭리 제한 같은 안전장치의 감시를 거의 받지 않고 활동하게 된다면 어떻게 될 것인가? 이런 장치들은 지금도 충분히 강력하지 못한 상태다.

지난 세기 로널드 레이건 대통령이 소련 지도자 미하일 고르바초프와 군비 통제 협정을 협상할 때 그의 좌우명은 “신뢰하되 검증하라”였다. 그러나 팔란티어와 그와 유사한 기업들의 경우에는 좌우명이 오히려 “불신하고 검증하라”가 되어야 할지도 모른다. 우리는 그들의 마케팅 구호를 넘어, 그들의 새로운 기술이 광고에서 말하는 대로 실제로 작동하며 이전의 기술보다 정말로 더 나은지 입증하도록 요구해야 한다. 만약 그렇다면 팔란티어와 안두릴은 단지 공급업체로 취급되어 서비스 대가를 지급받으면 된다. 그러나 그들에게 우리의 군사 예산이나 외교 정책을 좌지우지할 권리를 주어서는 안 되며, 이미 흔들리고 있는 민주주의의 기본 구조에까지 영향을 미치게 해서는 더더욱 안 된다.

군사 기술 로비: 초강력 ‘파괴적 혁신가들’

기술 부문에서 최근 무기 개발이 급증하기 전에는 일부 실리콘밸리 기업들이 자신들의 제품이 너무 우수하고 저렴하기 때문에 전통적인 로비 활동 같은 더러운 일에 손을 대지 않아도 된다는 태도를 보이던 시절이 있었다. 그 생각이 비현실적이었든 아니든, 이제 실리콘밸리는 합법화된 부패에 완전히 뛰어들었다. 정밀하게 겨냥된 선거 자금 기부에서부터 전직 정부 관료를 고용해 로비 활동을 수행하는 것까지 다양한 방식이 동원되고 있다. 대표적인 사례가 바로 JD 밴스 부통령이다. 그는 상원의원으로 성장하고 이후 부통령이 되는 과정에서(!) 팔란티어 창립자 피터 틸에게 고용되고, 멘토링을 받고, 자금 지원까지 받았다. 2024년 도널드 트럼프의 러닝메이트로 그가 지명되자 군사 기술 부문에서 막대한 신규 자금이 선거 캠프로 유입되었고, 그 가운데에는 머스크가 제공한 수십억 달러 규모의 자금도 포함되어 있었다. 밴스가 후보에 오른 뒤 그의 주요 임무 가운데 하나는 실리콘밸리 군사 기술 기업들로부터 더 많은 정치 자금을 끌어내는 일이었다.

그 다음에는 머스크의 정부효율부(DOGE)가 등장했다. 이 조직은 효율성이라는 이름에 끔찍한 이미지를 덧씌웠다. 연방 프로그램과 인력을 거의 무작위로 삭감하고, 미국 국제개발처(USAID) 같은 핵심 기관을 사실상 무력화시키면서도 펜타곤은 거의 손대지 않았기 때문이다. USAID에도 문제가 없었던 것은 아니지만, 이 기관은 전 세계 수백만 명의 삶을 지탱해 온 필수적인 개발 사업과 공중보건 프로그램을 지원해 왔다. 진정한 효율화라면 무엇이 효과적이고 무엇이 그렇지 않은지를 검토했어야 했다. 그러나 경제 원조에 대해 아무것도 모르는 머스크의 추종자들은 그 기관을 단순히 해체해 버렸다.

현재 트럼프 행정부의 핵심 요직에는 상당수의 실리콘밸리 경영진이 들어와 있다. 밴스를 필두로 군부와 펜타곤 최고 지도부, 그리고 다양한 국내외 정책 기관의 주요 직책에 수십 명이 배치되어 있다.

틸과 카프는 팔란티어에 좋은 것이 곧 미국에도 좋은 것이라고 분명히 믿고 있다. 그러나 그들이 제시하는 미국의 비전은 위험할 뿐 아니라 비인간적이다.

현실로 돌아오기(그리고 기술 숭배를 제어하기)

새로운 기술 군국주의자들의 문제는 그들이 기술의 힘을 과소평가한다는 데 있는 것이 아니다. 문제는 누가 그 힘을 행사해야 하는지, 어떤 목적을 위해 사용해야 하는지, 그리고 어떤 제약 아래 사용해야 하는지에 대해 그들이 위험할 정도로 잘못 생각하고 있다는 데 있다. 제약 없는 권력은 혁신이 아니다. 그것은 불가피성이라는 외피를 두른 무모함일 뿐이다. 오늘날 미국의 대외·국내 안보 정책을 형성하는 도구들 가운데 점점 더 많은 부분이 소수의 민간 행위자들에 의해 설계되고, 배치되고, 홍보되고 있다. 이들의 동기는 공격적으로 재정적이며, 세계관은 깊이 군사화되어 있고, 대중에 대한 책임성은 거의 존재하지 않는다.

이 나라에 필요한 것은 억만장자 엔지니어들로 이루어진 새로운 사제 집단이 아니다. 그들이 전쟁은 불가피하며, 두려움만이 평화로 가는 길이고, 민주주의는 알고리즘을 코딩하고 무기를 만드는 사람들의 우월한 지혜 앞에 무릎을 꿇어야 한다고 설교하도록 내버려 두어서는 안 된다. 실제로 우리는 이 이야기를 이미 여러 번 들어왔다. 냉전기의 핵 전략가들, 베트남전 시기의 ‘시체 수’ 집착자들, 그리고 이라크를 파괴하는 데 기여했던 “충격과 공포” 교리의 설계자들에게서 말이다. 매 세대마다 새로운 기술이 등장할 때마다 그것이 마침내 미국식 전쟁을 깨끗하고 정밀하며 결정적인 것으로 만들어 줄 것이라고 약속한다. 그러나 그때마다 시체는 결국 계속 쌓여 갔다.

오늘날의 상황을 특히 위험하게 만드는 것은 이러한 시스템들이 개발되고 배치되는 속도와 불투명성이다. 인공지능 기반 표적 지정 도구, 예측 감시 플랫폼, 자율 무기 체계, 데이터 융합 시스템이 거의 공적 토론 없이, 미약한 감독 아래, 그리고 그 결과와 함께 살아가거나 그로 인해 죽게 될 사람들의 실질적인 동의 없이 군사 및 국내 치안 구조에 통합되고 있다. 인공지능이 가져올 ‘파괴적 혁신’이라는 수사는 민주적 절차를 아예 우회하기 위한 편리한 핑계가 되어 버렸다.

기술 군국주의자들의 기본 전제는 영구적인 전쟁이 우리 세계의 자연 상태이며 우리가 선택할 수 있는 것은 그것을 얼마나 효율적으로 수행할 것인가뿐이라는 것이다. 그러나 현실에서 안보는 세계를 공포로 굴복시키는 방식으로 만들어지지 않는다. 안보는 외교, 자제, 국제법 준수, 경제적 정의, 그리고 대규모 폭력을 더 자동화하는 대신 그 가능성을 줄이는 제도를 구축하기 위한 느리고 눈에 띄지 않는 노력 속에서 만들어진다.

알렉스 카프와 그의 동료들은 자신들을 현실주의자, 다른 사람들이 감히 말하지 못하는 진실을 용감하게 말하는 사람들로 생각할지도 모른다. 그러나 실제로 그들의 세계관은 지배를 힘으로, 혁신을 지혜로 착각하는 취약하고 허무주의적인 관점이다. 인류는 자신들만이 어떤 생명이 희생될 수 있는지 결정할 자격이 있다고 믿는 사람들(그리고 그들은 거의 모두 남성이다!)이 운영하는 끝없는 군비 경쟁보다 더 나은 것을 누릴 자격이 있다. 올더스 헉슬리(Aldous Huxley)의 ⟪멋진 신세계(Brave New World)⟫를 연상시키는 이 새로운 전쟁 기계의 버전은 우리 모두를 두렵게 해야 한다.

기술이 전쟁의 미래를 형성하게 될 것이라는 점은 분명하다. 그렇다면 그 기술이 작동하는 규칙은 사회가 정해야 한다. 그렇지 않다면 우리는 스스로의 도덕적 판단 능력을 자칭 비전가 몇 명에게 넘겨주고, 그들이 올바른 결정을 내리기를 바라는 수밖에 없다. 역사는 그것이 우리가 감당할 수 있는 도박이 아니라는 사실을 보여준다.