[윤영호 칼럼] 프랑스의 역사 인류학자 에마뉘엘 토드는 그의 저서 ‘제국의 몰락’에서 현대 강대국의 패권 유지 방식을 냉정하게 분석한다.
과거 제국이 산업력과 생산력으로 힘을 유지했다면, 오늘날의 패권은 종종 ‘가상의 적’을 상정하고 군사적 긴장을 유지하는 방식으로 작동한다는 것이다. 내부 모순을 외부 갈등으로 덮는 오래된 정치기술이다.
그의 진단은 극단적이라는 비판에 동의하지만, 권력이 위기를 전쟁으로 전환해온 역사의 패턴을 떠올리면 결코 가볍게 넘길 수 없는 통찰이다.
문제는 그 오래된 권력논리가 이제 인공지능(AI)이라는 전혀 새로운 기술과 결합하고 있다는 점이다. 인류는 지금까지 경험하지 못한 전쟁의 문턱에 서 있다. 그것은 인간의 분노와 두려움이 아니라, 알고리즘의 계산이 지배하는 전쟁이다.
전통적 전쟁에는 최소한의 ‘인간적 망설임’이 존재했다. 전투의 순간에도 인간은 판단했고, 때로는 주저했다. 핵전쟁을 막은 소련 페트로프 중령의 결단실화를 소개하고져 한다. 이 이야기는 군사기술 발전에도 불구하고 인간의 판단이 얼마나 중요한 것인가에 대한 교훈을 남기고 있다.
데이터가 삼켜버린 전장의 윤리
영화 같은 이 극적인 사건의 주인공은 당시 소련군 중령이었던 스타니슬라프 페트로프(Stanislav Petrov)다. 이 사건은 냉전이 정점에 달했던 1983년 9월 26일 새벽에 발생했다. 당시 페트로프 중령은 모스크바 인근의 핵전쟁 조기경보 지휘통제소에서 근무 중이었다. 갑자기 경보 시스템이 울리며 미국 본토에서 소련을 향해 5발의 대륙간탄도미사일(ICBM)이 발사되었다는 신호가 떴다.
소련의 군사 교리대로라면 즉시 상부에 보고하여 핵 보복 공격을 개시해야 했다. 하지만 페트로프는 보고 대신 다음과 같은 이유로 이를 시스템 오류라고 판단했다.
만약 미국이 선제공격을 한다면 수백, 수천 발을 동시에 쏴서 소련의 반격 능력을 완전히 상실시켜야 하는데, 고작 5발만 쐈다는 것이 전략적으로 앞뒤가 맞지 않았다는 상식적 판단과, 당시 도입된 지 얼마 안 된 위성 경보 시스템의 신뢰성에 의구심이 든다는 것이었다.
이 후, 레이더 확인결과, 지상 레이더망에는 아직 아무런 물체도 잡히지 않았다. 결국 그는 상부에 "시스템 오작동에 의한 허위 경보"라고 보고했다. 그의 판단은 옳았다. 해당 경보는 ‘태양 빛이 구름에 반사된 것을 인공위성이 미사일 화염으로 오인하여 발생한 단순 오류’로 확인됐다.
만약 그가 매뉴얼대로만 기계적으로 보고했다면, 당시 긴장 상태였던 소련 수뇌부는 즉각적인 핵 반격을 명령했을 것이고, 이는 제3차 세계대전으로 이어질 뻔했다.
책임이 사라지는 ‘무인 전쟁’
군 내부에서는 매뉴얼을 어겼다는 이유로 조사를 받았으나, 군사 기밀이라는 이유로 이 사실은 오랫동안 숨겨졌고, 1990년대 냉전 종식 이후 이 사실이 세상에 알려지면서 그는 '지구를 구한 사람'으로 불리며 뒤늦은 영웅대접과 국제적 찬사를 받았다는 이야기다.
그러나 지금 AI가 개입한 전장은 전혀 다른 논리로 움직인다. 기계는 두려움도, 연민도, 망설임도 없다. AI 전쟁 시스템은 목표를 확률과 데이터로 환산한다. 전투원과 민간인은 알고리즘 속에서 단지 ‘위험 확률’로 계산된다. 인간의 고뇌 대신 최적화된 사살 확률만 남는다.
독일 철학자 한나 아렌트는 “악은 종종 평범한 계산 속에서 태어난다”고 말했다. AI 전쟁은 바로 그 계산을 무한히 가속하는 체계다.
AI 무기의 또 다른 위험은 책임의 증발이다. 전쟁을 일으키는 국가의 지도자에게 가장 큰 정치적 부담은 자국 병사의 희생과 그에 따른 자국국민의 비난과 불신이다. 그러나 드론과 자율무기가 전장을 대신하면 정치 지도자는 훨씬 쉽게 군사 행동을 결정할 수 있다. 실제로 최근 분쟁에서 무인 시스템이 공격 작전에 점점 더 많이 사용되고 있다.
기계 속도에 밀려나는 인간
문제는 사고가 발생했을 때다. 알고리즘의 오류로 민간인 피해가 발생하면 누가 책임을 질 것인가. 프로그래머인가, 군 지휘관인가, 아니면 알고리즘 자체인가.
책임질 인간이 없는 전쟁은 가장 위험한 전쟁이다. 피해자는 있지만 가해자는 사라지는 구조이기 때문이다. 이런 전쟁은 복수를 낳고, 복수는 또 다른 전쟁을 부른다. 결국 분쟁은 끝나지 않는 ‘관리형 전쟁’으로 변한다.
AI 전쟁의 세 번째 위험은 속도다. 현대 무기 체계는 이미 인간의 판단 속도를 넘어섰다. 미사일 방어 시스템이나 자동 대응 시스템은 밀리초 단위로 작동한다. AI가 여기에 결합하면 전장의 의사결정은 사실상 인간이 개입할 수 없는 속도로 움직이게 된다.
두 기계가 서로를 겨누고 자동으로 반응하는 상황에서 인간의 외교와 숙고는 개입할 틈이 없다. 단 한 번의 알고리즘 오류, 단 한 번의 오판이 전면적 충돌로 이어질 수 있다. 핵무기가 등장했을 때 인류는 ‘상호확증파괴(MAD)’라는 공포 속에서 겨우 균형을 유지했다. 그러나 AI가 전쟁 판단에 들어오는 순간, 그 균형 자체가 흔들릴 가능성이 있다.
AI에게 양보할 수 없는 마지막 가치
기술의 진보 자체를 두려워할 필요는 없다. 문제는 기술이 아니라 기술을 사용하는 인간의 선택이다. 지금 인류가 지켜야 할 최소한의 원칙은 분명하다.
첫째, 살상의 판단권은 인간에게 남겨두어야 한다.
어떤 알고리즘도 생명을 앗아갈 최종 결정을 대신해서는 안 된다. 자율 살상 무기에 대한 국제 규범이 필요한 이유다.
둘째, 기술 경쟁을 협력 경쟁으로 전환해야 한다.
AI가 상대를 파괴하는 무기가 아니라 기후, 에너지, 질병 같은 인류 문제를 해결하는 도구가 될 때 전쟁의 유혹은 줄어든다.
셋째, 알고리즘 권력을 감시해야 한다.
전쟁이 숫자와 그래프로만 보이는 순간 인간의 존엄은 사라진다. 기술이 정치의 책임을 가리는 도구가 되지 않도록 시민 사회의 감시가 필요하다.
영국 역사가 아놀드 토인비는 “문명은 외부의 적이 아니라 내부의 도전에 어떻게 응답하느냐에 따라 흥망이 결정된다”고 말했다. AI라는 기술은 인류에게 축복이 될 수도 있고, 파멸의 도구가 될 수도 있다. 우리가 선택해야 할 것은 더 빠른 알고리즘이 아니라 더 깊은 인간의 판단이다.
기계는 계산할 수 있다. 그러나 책임질 수는 없다. 만약 인류가 그 마지막 판단권마저 알고리즘에 넘겨준다면, 미래의 역사는 이렇게 기록할지도 모른다. “인간은 스스로 만든 기계보다 먼저 인간다움을 포기했노라~” 고.
#외부 칼럼은 본지의 편집방향과 일치하지 않을 수 있습니다.
필자 소개
(사) 서울이코노미포럼 공동대표
한국공감소통연구소 대표/더뉴스24 주필
전 HCN지속협 대표회장
전 ㈜ 한림MS 기획상무
