🎩 AI가 지배한 전쟁, 민간인 희생자가 늘었다

2025. 2. 27.

한동안 미국 주식 이야기를 하다 보면, 엔비디아와 함께 빠지지 않고 등장하던 종목이 있었습니다. 바로 ‘팔란티어’죠. 국민연금조차도 엔비디아를 팔고 매수했다고 하여 기사가 날 정도였는데요. 팔란티어는 국방, 군사 분야에 AI를 접목해 다양한 정부 기관을 상대로 세일즈를 이어오고 있습니다.

다음 주 오그랲에서 이야기할 주제는 바로 팔란티어와 군사 AI입니다. 그래서 오늘 마부뉴스에서는 한주 앞서서 과연 AI가 적용된 무기 체계가 정말로 전투와 전쟁에서 효율성을 높였는지 살펴보려고 합니다.

두 번의 AI 전쟁... 도리어 민간인 희생자가 늘었다

AI 기술이 접목된 무기들은 러시아-우크라이나 전쟁에 바로 활용이 되었습니다. 일각에서는 이 전장을 두고 '공격용 AI의 실리콘 밸리'라는 표현을 붙이기도 했죠. AI 드론 기술의 최전선을 보고 싶다면 러시아-우크라이나 전쟁터로 향하면 될 정도로, 이 전선은 AI 드론 기술의 집합체라고 할 수 있습니다. AI 기술은 아직 오류를 내포하고 있습니다. 하지만 그럼에도 러시아와 우크라이나에는 AI가 탑재된 드론이 전장을 누비고 있죠.

지난 2월 11일 우크라이나 유엔인권감시단에서 보고서를 하나 발표합니다. 이 보고서에는 2024년 1월부터 2025년 1월까지 매 달 드론에 의한 민간인 사상자가 얼마나 발생했는지가 담겨 있습니다. 보고서의 데이터를 가지고 그래프를 그려봤습니다.

그래프를 보면 알 수 있듯 드론 기술을 점차 발전하고 있는데 도리어 민간인 사상자 규모는 더 늘어나고 있습니다. 2025년 1월엔 총 사상자 규모가 261명(사망자 38명, 부상자 223명)으로 가장 높았습니다. 반면, 같은 시기 전체 사상자 규모는 2024년 10월을 기점으로 줄어들고 있습니다. 즉 전체 피해규모가 늘어나서 드론에 의한 민간인 피해가 늘어난다는 게 아니라는 거죠.

뿐만 아니라 인간의 통제력을 벗어난 AI에 대한 문제도 고민해봐야 할 지점 중 하나입니다. 우크라이나의 드론 공격에 맞서기 위해 러시아는 최근 드론 무력화 시스템을 배급해주고 있는데요, 우크라이나는 이에 대응하기 위해 드론 무력화 시스템에도 공격을 할 수 있는 AI 드론을 보급하고 있습니다. 조종 신호가 끊기더라도 자동으로 적을 감지해 공격할 수 있는 모델인 거죠. 우크라이나에서는 차세대 AI 드론을 대외적으로 크게 알리고 있습니다. 아래 이미지를 클릭해보면 해당 드론이 어떻게 작동하는지 볼 수 있습니다.

출처 : 우크라이나 드론 전문가 스테르넨코 X 계정

하지만 이 시스템에서 한 발자국만 더 나간다면, AI가 알아서 인간을 살상하는 시스템에도 도달할 수 있게 됩니다. 만약 인간이 결정하지 않고도 AI가 살상을 결정할 수 있게 된다면 이건 일종의 '레드라인'을 넘게 되는 것이죠.

'전례 없는 수준의 살상' 지역이 된 팔레스타인

이번엔 팔레스타인으로 가보겠습니다. 이스라엘은 하마스를 공격하기 위해 AI를 적극적으로 활용하고 있습니다. 대표적으로 ‘가스펠’과 ‘라벤더’가 있습니다. ‘가스펠’은 이스라엘 공군이 폭격할 목표물을 결정하는데 도움을 주는 AI입니다. ‘라벤더’는 공격 목표물이 될 인물을 분류해 내죠.

이스라엘은 라벤더를 활용해 하마스의 요원 후보군을 골라내고 있습니다. 기존 하마스 요원에 대한 데이터가 입력되고, 이 데이터와 유사한 정도로 팔레스타인인들을 평가하는 거죠. 그리고 점수가 높은 사람을 살상 대상으로 삼는 겁니다. 실제 하마스 요원이 아니더라도 이름이 유사하거나, 하마스와 친족 관계면 사살 대상이 될 가능성이 높아집니다. 그렇게 분류된 하마스 후보군이 3만 7,000명입니다.

이스라엘 정보 당국자에 따르면 라벤더의 오류율은 10% 정도였다고 합니다. 하지만 그걸 알고도 이스라엘은 라벤더를 사용해 하마스 후보군을 골라냈습니다. 게다가 이 후보군을 제거하는 데에 이스라엘은 정밀 유도무기가 아닌 재래식 폭탄을 사용했습니다. 그 과정에서 발생할 수 있는 민간인 피해를 그냥 넘겨버린 겁니다.

그 영향으로 이번 이스라엘-하마스 전쟁은 역대 어느 때보다도 많은 민간인 희생자가 발생했습니다. 2012년 이후 이스라엘이 팔레스타인을 향해 수행한 작전들 가운데, 이번 작전(Swords of Iron)의 첫 3주간 발생한 민간인 희생자 비율이 압도적으로 높습니다. 이 데이터를 분석하고 만든 사람은 이스라엘의 야길 레비 교수인데요. 분석된 자료를 보고 '전례 없는 수준의 살상'이라고 말하기도 했죠.

다음 주 오그랲에서는 앞서 살펴본 사례를 포함해 방위 산업 영역에 AI 기술이 활용되는 것에 문제는 없는지 살펴보려고 합니다. 팔란티어를 비롯해 방산 AI 기업들이 왜 갑자기 핫해졌는지, 그 이면에 문제점은 없는지 5가지 그래프를 통해 살펴보겠습니다. 기대해 주세요!

이번주 오그랲에선 '권역외상센터'를 다뤄봤습니다.

넷플릭스 시리즈 ‘중증외상센터’가 한동안 인기였습니다. 천재 외상 외과 전문의 백강혁 교수가 중증외상센터에서 겪는 이야기가 속도감 있게 전개되면서, 지난 2월엔 22일 연속으로 넷플릭스 TOP 1위를 독주할 정도였죠.

드라마를 재미있게 정주행 하면서도 한편으로 씁쓸한 건 이렇게 판타지적인 인물이 있더라도 외상센터를 운영하고, 유지해 나가기가 참으로 쉽지 않아 보인다는 거였습니다. 그래서 오늘 오그랲에선 권역외상센터의 현실이 얼마나 참혹하고 힘든지 5가지 그래프를 가지고 풀어보았습니다.