디지털 군산 복합체
「デジタル技術の軍事利用が生み出す新たな脅威」
* 필자인 가와무라 유타카(河村 豊)는 도쿄고등전문학교의 명예교수이다.
* 출처: [經濟] 2026년 8월호
[요약문]
이 글은 미국 빅테크 기업들이 군사 작전과 첩보 활동에 깊숙이 개입하며 형성된 **'디지털 군산복합체'**의 실태와 위험성을 다룹니다. 팔란티어와 앤스로픽 같은 테크 기업들이 AI와 클라우드 기술을 통해 전장에 직접 참여하면서, 민간 정보 인프라가 군사적 목적으로 전용되는 현상을 비판적으로 분석합니다. 특히 정보 네트워크의 독점 구조와 네트워크 비대칭성은 국가의 감시 권력을 강화하고 민간인을 잠재적 위험에 노출시킬 수 있다는 점을 강조합니다. 과거의 군수 산업과 달리 현대의 테크 기업은 국가 안보 인프라를 장악함으로써 정부에 필적하는 정치적 영향력을 행사하게 되었습니다. 저자는 이러한 군사 우선주의 경향이 기술 윤리를 위협하고 선제공격을 용이하게 만드는 등 비인도적인 결과를 초래할 수 있음을 경고합니다. 마지막으로 연구자들과 기업이 기술의 안전성과 윤리적 규범을 지키기 위해 비판적인 태도를 견지해야 한다고 제언합니다.
-----
[본문]
1. 머리말
미국에서는 유명 빅테크 기업(GAFAM)이나 신흥 테크 기업이 개발한 디지털 서비스가 군사기술로 편입되어 우크라이나 전쟁, 이란 공격 등의 군사작전에 실전 투입되는 사태가 급속히 진행되고 있다. 글로벌 네트워크와 디지털 기술을 독점해 온 미국 테크 기업이 민수 부문뿐만 아니라 군수 부문으로도 시장을 넓히며 큰 영향력을 행사함에 따라, 민수 부문의 연구개발에서도 군사 우선 움직임이 가속화되고 있다.
일본에서는 2022년 5월에 성립된 경제안전보장추진법이 경제정책에서 군사 우선 노선을 명확히 했는데, 올해부터 시작되는 제7기 과학기술⋅이노베이션 기본계획에서도 군사 우선 노선을 명확히 드러내게 된 점과도 연결되어 있다. 본고에서는 과학기술 정책이 갈수록 군사 우선 방향으로 나아가며 일본의 연구 활동을 군사 분야로 끌어들이려 하는 배경에 주목한다.
1. 미국 테크 기업의 전쟁 직접 개입
미국의 신흥 테크 기업 중 하나인 앤스로픽(Anthropic)은 '클로드(Claude)'라는 독자적인 AI 시스템을 개발한 것으로 유명하다. 올해 1월, 베네수엘라 대통령의 체포나 이란에 대한 공격 및 그 정치 지도자의 암살에 이 시스템이 이용되었다는 보도가 있었다.
2022년 2월에 시작된 우크라이나 전쟁에서는 같은 해 6월에 미국의 신흥 테크 기업 중 하나인 팔란티어(Palantir) 테크놀로지스(이하 “팔란티어”)의 CEO 알렉스 카프(Alex Karp)가 우크라이나를 방문하여 젤렌스키 대통령과 면담했다. 카프는 수도 키이우에 사무소를 개설하고 우크라이나의 방위를 지원하기 위해 팔란티어의 인공지능(AI) 소프트웨어를 도입하겠다고 제안한 것으로 보인다. 그 후 1년 반 동안 위성 영상, 드론 영상, 목격 정보 보고 등을 AI로 분석하여 지휘관에게 군사적 선택지를 제시하는 '메타콘스텔레이션(Meta-Constellation)'이라는 도구가 도입되었다. 이 도구는 군사 작전에서 표적의 정확한 위치를 찾아내고 효과적인 작전 방안을 제시하는 것 외에도, 전쟁범죄의 증거 수집, 지뢰 제거, 피란민의 재정착 등에도 이용될 수 있다고 한다. 이 시스템을 우크라이나 정부에 제공하는 대신, 팔란티어는 해당 국가의 실제 전쟁터를 기술 개발의 '실험장'으로 이용할 수 있도록 요구했다.
한편 우크라이나 정부로서도 팔란티어와의 계약은 러시아에 대항하기 위한 고품질의 군사 기술을 확보하는 것뿐만 아니라, 전쟁 종결 후 국내 경제의 부흥과 자국의 미래 경제 성장을 위한 투자라고 판단했다. 이를 위해 동 정부는 키이우市에 '기술연구개발 랩(Tech R&D Lab)'이라 이름 붙인 'AI 전쟁의 실험장'을 설치하고, 국방 목적에 특화된 브레이브-원(Brave 1)이라는 디지털 플랫폼을 출범시켰다. 그 내용은 통신 방해를 방지하는 무선기, 사이버 대책, 지뢰 제거 장치, 나아가 전장에서 러시아군이 사용하는 전문 용어나 은어를 실시간으로 해독하는 것 등을 포함하여, 전쟁에서 승리하기 위한 도구인 '디지털 킬체인(Kill chain)'의 개발을 추진하는 것이다. 그와 동시에 종전 후에는 우크라이나 경제를 지탱할 하이테크 산업 부문 구축으로 이어질 것으로 기대된다. 팔란티어의 제안은 군사 혁신을 확대하면서 미래의 경제 부흥 및 재건 정책으로 연계하겠다는 발상이다. 이는 군사 우선의 경제재건 정책이라고 할 수 있을 것이다.
무기 개발과는 구분되는 형태로, 전시 체제하의 우크라이나에 대한 지원 및 전후 복구를 목표로 한 지원도 이루어지고 있으며, 일본에서는 라쿠텐 심포니가 참여하고 있다. 해당 기업의 홈페이지에는 라쿠텐 심포니와 우크라이나의 주요 통신 사업자인 키이우 스타(모회사: VEON) 사이에 우크라이나의 통신 인프라를 신속하게 재구축하기 위해, 라쿠텐이 개발하고 있는 차세대 무선 네트워크 기술(Open RAN)을 이용한 디지털 서비스를 제공한다는 기본 합의에 도달한 사실이 소개되어 있다. 군사 작전이 진행되고 있는 군용 장비 개발 프로그램으로부터 이러한 라쿠텐의 기술 개발 투자를 완전히 분리해 내기는 어려울 것이다.
2. 군용 클라우드 시스템 개발을 추진하는 빅테크 기업
1) 그 기원
컴퓨터 클라우드 기술의 군사적 이용을 ‘무기로서의 클라우드(Cloud as a weapon)’라고 표현하기도 하지만, 여기서는 ‘군용 클라우드 시스템’이라고 부르기로 한다. 이 시스템의 원형은 2013년 중앙정보국(CIA)이 아마존과 맺은 포괄 계약에서 시작된 것으로 보인다.
주요 기능은 무인 정찰기 등에서 수집한 군사 기밀에 해당하는 화상 데이터를 민간이 운영하는 기밀 클라우드에 보관하는 것, 그리고 해당 화상 데이터에 딥러닝 기법으로 라벨을 부착하여 인공지능(AI) 알고리즘을 훈련시키는 것, 분석 결과를 구글 지도와 같은 지도 정보 위에 표시하여 클릭만으로 목표물을 검색할 수 있게 하는 것 등이다.
2017년 구글이 국방부와 체결한 ‘프로젝트 메이븐(Project Maven)’ 계약에 대해서는 사내외에서 거센 비판을 받기도 했다. 그 결과 같은 해 구글은 ‘국제적으로 인정된 규범을 위반하는 감시’에 ‘AI를 설계하거나 배치하지 않는다’는 AI 윤리 원칙을 발표하며 군사적 이용에서 거리를 두는 태도를 보였다. 그러나 이 군사 프로젝트가 2019년에 아마존과 마이크로소프트로 이관 및 확대되는 과정에서 구글 역시 2026년에는 AI 윤리 규정에서 비군사적 원칙을 철회함으로써 군사 목적의 디지털 기술 개발에 본격적으로 뛰어드는 자세로 전환하고 있다.
2) 합동 전투 클라우드 역량
빅테크의 특정 기업과 국방부 간의 계약 체결로 인해 계약 수주를 둘러싼 경쟁이 과열될 수 있다는 우려로 인해, 미 국방부는 아마존(AWS), 알파벳(구글), 마이크로소프트, 오라클 등 4개 기업과 10년간 90억 달러 규모에 달하는 포괄적 계약을 맺고 이를 ‘합동 전투 클라우드 역량(JWCC)’이라고 불렀다. [표 2-1: 생략]은 2013년부터 2024년까지 국방부의 JWCC를 포함하여 CIA, 국가안보국(NSA)이 미국 빅테크 기업과 맺은 계약 목록이다. 이 표를 통해 알 수 있는 점은, 2020년 전후로 빅테크 기업이 미 국방부와 체결한 군사용 디지털 기술 개발 계약 중에서도 ‘클라우드’로 분류된 계약이 7건으로 다수를 차지하고 있다는 사실이다.
오늘날의 빅테크는 실리콘밸리에서 발전했지만, 이들의 기술적 토대가 된 집적회로 기술이나 컴퓨터, 인터넷, 위성통신 등은 미국 국방고등연구계획국(DARPA) 등이 추진한 지속적인 군사 연구개발에서 탄생한 것으로 알려져 있다. 그러한 점에서 빅테크 기업은 설립 초기부터 군사 기술과 불가분의 관계에 있었다. 그러나 이후 IT 관련 기술은 ‘군사 목적’이라는 특수한 제약에서 벗어나며, 비즈니스 및 민간인을 위한 민생 부문에서의 경쟁 환경 속에서 크게 발전했다.
한편, 2003년에 설립된 팔란티어(Palantir)는 ‘프로젝트 메이븐(Project Maven)’을 이어받아 ‘메이븐 스마트 시스템’이라는 지리공간 정보 시스템을 완성시켰으며, 시스템의 일부는 미국 국가지리 정보국(NGA)으로 이관되었다. 또한 유사한 시스템이 우크라이나 지원뿐만 아니라, 이스라엘의 가자지구에 대한 비인도적 공격에도 사용된 것으로 알려져 있다. 2021년에 OpenAI를 퇴사한 엔지니어들이 설립한 앤스로픽(Anthropic)은 민간 부문뿐만 아니라 군사 부문에도 진출하였으며, 이 회사의 ‘클로드(Claude)’라는 AI 시스템은 팔란티어를 거쳐 2024년경부터 국방부의 주요 시스템으로 채택되었다. 이처럼 표에 포함되지 않은 군사 계약도 존재하므로, 여러 신흥 테크 기업들이 군사 부문에 참여하고 있는 점에도 주목할 필요가 있다.
3) 군용 클라우드 시스템의 위험성
테크 기업에 의한 군용 클라우드 시스템은 다음과 같은 위험한 움직임으로 이어지고 있다고 지적된다.
첫째, 테크 기업이 AI를 포함한 군용 클라우드라는 작전에 관여하는 서비스를 제공하고 있다는 점이다. 군사작전에 직접 관여함으로써 테크 기업이 군사작전 청부업체의 역할을 맡기 시작했을 가능성이 있다.
둘째, 전술의 변화와 그에 따른 윤리적 문제이다. 기존의 군사작전에서는 상대방의 군사력(병력 및 군사시설)을 파괴할 목적으로 무기 개발 및 운용이 이루어져 왔다. 21세기의 군사적 충돌과 전쟁은 군사력 파괴에 더해 정치 지도자의 암살이나 사회 인프라에 대한 공격이 이루어지며, 무관한 민간인과 민간 시설을 말려들게 하는 부수적 피해를 회피하지 않는 사례가 늘고 있다. 이는 '부수적 피해 허용'이라는 비인도적 행위의 확대로 이어진다.
셋째로, 군용 클라우드 시스템은 성공률이 높은 데이터를 입수했다고 AI가 판단하면 공격 실행이 가능하다는 선택지를 인간 측에 권고할 수 있다. 작전의 성공률 높음이 작전 실행 결단에 영향을 미치게 된다면, 그것은 선제공격을 용이하게 만드는 시스템이 된다.
3. 민생 디지털 부문을 독점하는 미국 테크 기업의 문제
빅테크가 군사에 관여하는 데 따르는 또 다른 위협은, 그들이 이미 민생 부문에서 독점하고 있는 네트워크가 군사 부문과 결합함으로써 생겨난다. 2025년 1월 15일에 있었던 바이든 전 대통령의 퇴임 연설은 아이젠하워 전 대통령이 1961년에 행한 퇴임 연설에서 군산(軍⋅産) 복합체에 대해 경고했던 점을 언급하며, 이에 빗대는 형태로 테크산업 복합체(원문에서는 ‘tech-industrial complex’)가 대두하고 있음을 다음과 같이 경고했다.
"오늘 밤 고별인사에서 저는 큰 우려를 주는 몇 가지 사항을 경고하고자 합니다. (중략) 여러분도 아시다시피 아이젠하워 대통령은 퇴임 연설에서 군산 복합체의 위험성에 대해 언급했습니다. 그는 발언 말미에 '부당한 권력의 비참한 대두 가능성'에 대해 우리에게 경고했습니다. 60년 후, 저는 우리나라에 진정한 위험을 초래할 가능성이 있는 테크산업 복합체의 잠재적 대두에 대해서도 똑같은 우려를 가지고 있습니다. (중략) 보호 조치가 마련되지 않는 한, AI는 우리의 권리, 생활양식, 프라이버시, 일하는 방식, 그리고 나라를 지키는 방식에 새로운 위협을 낳을 가능성이 있습니다."
한편, 규제 방식을 검토하기 위해 패럴(Farrell) 등의 연구자들은 빅테크가 정보통신 인프라를 통한 산업 기반을 독점하고 있는 상황과 그로 인해 발생할 우려 사항을 분석하고 있다. 국제적인 경제활동은 우선 광섬유나 컴퓨터 등의 정보 네트워크 시스템과 그 위에서 작동하는 AI를 포함한 서비스 애플리케이션에 의해 뒷받침되고 있다. 인터넷 시대가 되면서 국경을 넘은 자유로운 시장과 효율적인 경제활동이 확대될 것이라는 기대도 있었다.
그러나 실제로는 정보 네트워크가 특정 '허브'에 집중되면서 '허브' 관리자가 독점적인 권한을 행사하게 되었다. 일부 기업에 관리 권한이 편중되는 것을 네트워크 구조의 비대칭성이라 표현하는데, 가령 상시 감시나 접속 제한이 이루어지기 쉬워졌다는 점이 지적된다. 기업이나 시민 등이 이용하는 통신 내용이 상시 감시 또는 첩보 활동의 대상이 되는 것을 파놉티콘 효과(Panopticons)’라고 부르며 상시 감시의 위험성을 표현하고 있다. 또한 이용자의 네트워크에 대한 접근이 거부되거나 차단될 가능성에 대해서는 ‘초크포인트 효과(Chokepoints)’라고 부르며, 사태의 진행을 좌우할 수 있는 요충지가 존재하고 있는 위험성을 지적하고 있다.
미국의 테크 기업들은 정보 인프라나 AI 기술을 독점적인 형태로 발전시켜 왔기 때문에, 이러한 지배력이 더욱 확대된다면 이용자에게 불이익을 초래할 위험성도 커져 실효성 있는 규제를 가하지 않는다면 이러한 우려는 현실화되고 말 것이다. 민간 부문의 정보 인프라를 독점하는 미국의 테크 기업들이 초래하는 우려는, 이들이 군사 부문과 접속함으로써 더욱 확대되고 있다.
4. 디지털 군산복합체가 형성됨에 따른 위험성
(1) 디지털 군산복합체의 형성 과정
군사기술사 연구자인 롤랜드(Roland)는 냉전기에 탄생한 군산복합체가 냉전 이후 기업 인수⋅합병 등을 거쳐 새로운 군산 복합체로 재편되어 가는 과정을 그리고 있다. (Alex Roland. Delta of Power: [The Military-Industrial Complex(Technology in Motion)], Johns Hopkins University Press, August 2021)
소련 붕괴 후의 세계에서 전쟁은 거대 국가 간의 전쟁 대신, 미국에 대항하는 테러 조직이나 소국과의 전쟁(비대칭 전쟁이라 불림)이 중심이 되었다. 이에 따라 기존까지 중심이 되었던 전차나 항공모함, 대륙간 탄도미사일 같은 대규모 무기 플랫폼에 더해, 위협이 되는 조직이나 국가에 대한 첩보 활동(intelligence)의 필요성과 새로운 군사작전을 지원하는 고도화된 정보기기의 개발이 요구되었다. 대규모 병기에 사용되던 정보기기와는 달리, 인터넷을 활용한 첩보 활동이나 사이버戰에 대한 대응 등은 과거의 군수산업계로는 대응하기 어려웠기에 민간 부문에서 급성장해 온 테크 기업의 기술을 도입할 필요가 생겼다.
그러나 미국의 정치에서는 오랫동안 시장원리주의적 사고방식이 존중되어 상업 분야 기업에 대한 정부 자금 투자가 시장의 자기조절 능력을 해치는 것으로 여겨져 왔다. 대학 등의 연구 성과에 대한 특허 취득을 인정하는 ‘바이-돌 법’(1980년)이나 중소기업에 연구 보조를 제공하는 ‘중소기업 기술혁신 연구 프로그램’(1982년)조차도 큰 정부를 꺼리는 공화당의 강한 비판을 받아 은밀한 형태로 이루어져 왔다.
새로운 움직임으로서 롤랜드는 CIA가 1999년에 설립한 인큐텔(In-Q-Tel)이라는 투자기관에 주목하고 있다. 이 기관을 통해 정부가 유망한 신흥 테크 기업에 투자하여 첩보 활동에 필요한 새로운 정보 인프라를 개발하게 했기 때문이다. 예를 들어 2003년에 투자를 받은 벤처기업 키홀(Keyhole)이 위성 영상과 항공사진을 합성하여 3차원 지표 모델을 생성하는 어스뷰(EarthViewer)라는 소프트웨어를 개발했고, 미군은 걸프전에서 이를 활용한 사례가 있다. 구글은 이 기업을 2004년에 인수하여 구글 어스를 완성시켰는데, 이를 계기로 구글이 군이나 정보기관을 포함한 정부 계약에 적극적이 된 것은 아닌가 하는 지적도 있다.
이러한 첩보 부문의 정보 인프라 개발을 담당했던 복수의 기업과 정부 첩보기관에서 태어난 이익 집단을 로널드는 ‘인텔리전스 산업 복합체’라고 부르고 있다. 한편, 국방성(Pentagon)도 군용 정보 인프라 개발을 위한 투자 기관으로서 국방혁신 실험단위(DIUx)를 2015년에 설치하여(이후 ‘DIU’로 개명), 국방성이 설치한 DIU를 통한 개발 투자 활동으로 신흥 테크 기업뿐만 아니라 빅테크도 군사 부문으로 끌어들이는 데 성공했다. 그 사례가 2017년의 ‘프로젝트 메이븐’이나 2022년의 JWCC였다. 코펠 등의 연구자들은 국방성을 중심으로 급속히 테크 기업과의 계약을 확대하고 있는 실태로부터, ‘디지털 군산 복합체’라는 새로운 이익 조직이 등장했다고 판단한 모양이다.
(2) 군민(軍民)의 두 정보 인프라가 결부되는 것의 문제
빅테크가 실질적으로 지배하고 있는 상업용 글로벌 네트워크나 각종 플랫폼의 기술을 군용 정보 플랫폼에도 이용함으로써, 첫째로 기업 및 시민의 활동에 관한 데이터 정보가 해당 기업의 군용 클라우드 시스템의 기능 향상에 이용될 가능성이 높아진다. 둘째로, 기업 및 시민인 이용자가 군사 작전의 직접적 혹은 간접적인 대상이 될 가능성이 생긴다. 빅테크가 개인정보의 관리 및 운용을 독점적으로 관리하고 있는 것에 군사적 요구가 더해짐으로써, 공적인 감시나 민주적인 논의가 한층 더 미치지 않게 될 위험성도 있다.
한편 루시엔코는 테크 기업 측이 군사 부문에 영향을 미치는 것에 문제가 있다고 지적한다. 군사 부문에서의 경험이 적은 테크 기업이 군사 작전에 관여하는 것의 위험성이나, 군의 요구에 응하기 전에 테크 기업이 개발한 장치를 사용한 군사 작전을 제안하는 등 군의 필요를 앞서 주도하는 역전 현상이 일어나는 것에 대해서도 경계의 눈길을 보내고 있다. 정보 플랫폼을 통해 민간과 군용의 양쪽에 동일한 테크 기업이 관여함으로써 이 분야의 군사 우선이 우려되며, 새로운 군산 복합체가 확대된다면 더욱 큰 우려를 낳게 된다.
(3) 디지털 군산 복합체의 등장과 그 위험성
미국 테크 기업을 중심으로 형성되어 가고 있는 디지털 군산 복합체는 기존 복합체와 어떠한 유사점과 상이점이 있는 것일까. 아래의 그림(생략)은 빅테크 중 알파벳, 아마존, 메타, 마이크로소프트의 4개 회사가 미국 연방정부와 맺은 조달 계약의 변화를 금액 추이로 나타낸 것이다. 국방성과의 계약만을 추려내면, 2011년의 1억 달러에서 2024년의 6억 5천만 달러로 증가하고 있음을 알 수 있다.
군사 부문은 테크 기업의 전체 매출에서 보면 아직 소액에 불과하다. 그럼에도 불구하고 ‘디지털 군산복합체’가 등장했다는 근거로 코베리(Coveri) 등 연구자들은 다음과 같은 점들을 꼽는다. 테크 기업이 군사 청부업자로서의 중요성을 높이고 있다는 점, 빅테크가 독점금지법 등의 불이익을 회피할 기회를 얻을 수 있다는 점, 그리고 테크 기업의 임원과 군 기관 및 정보기관 임원 간의 인사 교류가 이루어지고 있다는 점을 지적한다. 나아가 과거에는 비군사 부문에 소극적이었던 테크 기업들의 태도가 변화하여 군사 연구에 열을 올리게 되었다는 점을 지적하고 있다. 여기에 더해 트럼프 대통령이 2025년 11월에 ‘AI 가속화 계획(Genesis Mission)’이라는 대통령令에 서명한 사실까지 고려하면, 테크 기업의 군사 우선 경향과 디지털 군산복합체가 확대되고 있다는 증거로는 충분할 것이다.
코베리 등은 기존의 군산복합체와는 다른 다섯 가지 차이점과 위험성을 설명하고 있다.
첫째, 기존의 군수산업은 제조업을 중심으로 물리적 자원의 확대와 공급 측면의 규모의 경제를 통해 성장했지만, 테크 기업은 서비스업을 중심으로 디지털 정보라는 자원의 지배와 네트워크 독점에 따른 수요 측면의 규모의 경제로 성장한다.
둘째, 테크 기업은 무기나 장비품을 납품하는 공급업체(공급자)의 입장을 대신하여, 정보 인프라의 관리 및 운용 서비스를 제공한다. 국가의 기밀 데이터나 전쟁터에서의 작전 정보를 다룸으로써 지금까지 없었던 영향력이 생겨난다.
셋째, 테크 기업은 전 세계적으로 유통되는 방대한 디지털 정보를 장악함으로써 국가에 필수적인 첩보 활동이나 안보 활동 역할의 일부를 대체하게 된다. 이전에는 볼 수 없었던 형태로 국가와 기업의 전략적 통합이 진전되고 있는 것이다.
넷째, 테크 기업이 개발하는 인공지능이나 클라우드 기술은 상용 부문을 지배하는 도구이자, 군사 부문에서 진행되는 디지털 전쟁에 없어서는 안 될 병기(무기)이기도 하다. 군 전용 기술을 개발해 온 기존 군수산업과는 달리, 테크 기업은 상용과 군용 양쪽 모두에서 기술적 우위를 점하며 국가의 혁신 정책을 조정⋅지도하는 위치를 차지하게 된다.
다섯째, 국가에 대한 보복력이 강화된다는 점이다. 이는 국가의 사회⋅경제⋅안전보장에 있어 필수적인 정보 인프라를 장악하고 있기 때문에, 기업이 국가에 준하는 지정학적 영향력을 행사할 가능성이 높아졌음을 의미한다.
코베리 등은 이러한 특징들로 인해 테크 기업이 지금까지 없었던 정치적⋅군사적 힘을 손에 넣었다고 경고하고 있다.
5. 끝맺으며
서두에 소개한 앤스로픽(Anthropic) 제품에 대해, 올해 2월 27일 트럼프 대통령이 모든 연방 정부 기관에서의 해당 회사 제품 사용을 즉각 중단하도록 명령을 내린 사건의 배경 중 하나는, 앤스로픽이 자사 AI 모델에 설정해 둔 안전 제한 조치의 전면 해제와 군사 목적의 무제한 이용을 국방부가 강력히 요구한 데에 있다. 트럼프 대통령은 미국의 AI 전략 속에서 '지나치게 liberal한 AI의 방지'라는 방침을 밝히고 있는 점도 배경에 있을 것으로 생각된다. 동사의 대표인 다리오 아모데이(Dario Amodei)는 자사의 AI 모델을 전쟁성(국방부)이나 정보기관에 적극적으로 배포해 온 점, 미국 정부의 기밀 네트워크에 도입된 최초의 AI 기업이라고 자부하고 있는 점, 군사적 결정을 내리는 주체는 민간 기업이 아니라 전쟁성이라는 점을 이해하고 있음을 강조하고 있다. 반면 앤스로픽은 자사의 AI 시스템을 대규모 국내 감시에 이용하는 것은 민주적 가치관과 양립할 수 없다고 보며, 또한 현시점에서는 AI 시스템으로 완전 자율형 무기를 운용할 만큼 신뢰성을 갖추지 못해 전투원과 민간인을 위험에 빠뜨릴 수 있다고 판단해 이를 기업 이념으로 삼고 있는 회사라고 해명하고 있다. 완전 자율형 무기에 대해서는 신뢰성 향상을 위해 전쟁성과의 연계를 통해 연구 개발을 진행하겠다는 제안이 거부당했다고도 주장하며, 정부에 의한 사용 중단 처분을 재고해 줄 것을 정부에 요구하고 있다.
이 사건을 통해 떠오르는 문제는, 군수 분야에 적극적인 기업인 앤스로픽이 창업 초기부터 '안전성과 윤리를 최우선한다'는 이념을 가지고 있다는 점이다. 동사는 이미 AI 시스템에 특정 가치관이나 윤리 규범을 학습시켜 안전하고 무해한 응답을 구현하는 방법(Constitutional AI 등)을 개발하고 있다고 한다. 군수 청부 기업이 양보할 수 없는 가치관을 지니고 이를 끝까지 관철하려는 자세는, 개발을 담당하는 연구자의 바람직한 모습과 기업의 바람직한 방향성에 대한 하나의 교훈이 될 것이다. 그와 동시에, 디지털 응용 기술에 대해 안전성을 중시하고 규제를 마련하는 것을 일절 인정하지 않으려는 현재 트럼프 행정부의 태도에 대해서는, 보다 많은 연구자들을 끌어들이는 형태로 우려 표명이나 비판적 활동이 가능하지 않을까.
---------
