더 많은 Battlefield AI가 전쟁의 안개를 더욱 치명적으로 만들 것입니다

윌 나이트

미군은 예전만큼 강력한 군대는 아니지만, 스타트업 Scale AI의 CEO인 Alexandr Wang은 지난 주 의회 위원회에서 인공 지능을 활용하면 새로운 이점을 확보할 수 있다고 말했습니다.

Wang은 사이버, 정보 기술 및 혁신에 관한 하원 군사 소위원회에서 "우리는 세계에서 가장 큰 군사 하드웨어를 보유하고 있습니다"라고 말했습니다. "생성되는 이 데이터를 적절하게 설정하고 계측할 수 있다면 인공 지능의 군사적 사용과 관련하여 극복할 수 없는 데이터 이점을 창출할 수 있습니다."

Wang의 회사는 AI 프로젝트를 위한 대량의 교육 데이터를 처리하는 국방부와 정기적으로 협력하고 있기 때문에 이러한 비전에 깊은 관심을 갖고 있습니다. 그러나 미군 내부에서는 AI와 머신러닝의 사용 증가가 사실상 불가피하고 필수적이라는 확신이 있습니다. 나는 최근 이러한 성장하는 움직임과 미 국방부의 한 부대가 기성 로봇 공학과 AI 소프트웨어를 사용하여 중동의 넓은 바다를 보다 효율적으로 감시하는 방법에 대해 썼습니다.

왕 총리는 미국의 비교할 수 없는 군사 데이터 외에도 미국은 엔비디아와 같은 세계에서 가장 진보된 AI 칩 제조업체와 세계 최고의 AI 전문 지식을 보유하고 있다는 장점이 있다고 의회 청문회에서 말했습니다. 그는 “미국은 세계에서 가장 재능 있는 AI 과학자들이 선택하는 곳”이라고 말했다.

왕의 군사 AI에 대한 관심도 주목할 만하다. 스케일 AI는 또 다른 AI 혁명, 즉 강력한 대형 언어 모델과 ChatGPT 같은 고급 챗봇 개발의 최전선에 있기 때문이다.

군사 전쟁 게임에서 대규모 언어 모델을 사용하는 것과 관련된 몇 가지 실험이 있었지만 아직 ChatGPT를 군 복무에 징집할 생각은 없습니다. 그러나 관찰자들은 미국 기업의 최근 AI 성능 도약을 국방부가 활용할 수 있는 또 다른 주요 이점으로 보고 있습니다. 기술이 얼마나 빠르게 발전하고 있고 여전히 얼마나 문제가 있는지를 고려할 때 이는 군사 AI에 어떤 보호 장치가 필요할 수 있는지에 대한 새로운 질문을 제기합니다.

AI 기능의 이러한 도약은 AI의 군사적 사용에 대한 일부 사람들의 태도가 변화함에 따라 발생합니다. 2017년에 구글은 미 공군이 국방부의 프로젝트 메이븐(Project Maven)을 통해 항공 이미지를 해석하기 위해 AI를 사용하도록 돕는 것에 대해 반발에 직면했습니다. 그러나 러시아의 우크라이나 침공으로 민간 부문과 기술 기업의 협력에 대한 대중적, 정치적 태도가 누그러졌고 값싼 자율 드론과 데이터 분석을 위한 상업용 AI의 잠재력이 입증되었습니다. 우크라이나군은 항공 이미지와 영상을 분석하기 위해 신경 딥 러닝 알고리즘을 사용하고 있습니다. 미국 회사인 Palantir는 우크라이나에 타겟팅 소프트웨어를 제공하고 있다고 밝혔습니다. 그리고 러시아는 자율 시스템을 위한 AI에 점점 더 초점을 맞추고 있습니다.

안젤라 워터커터

줄리안 초카투

윌 나이트

조 레이

"킬러 로봇"에 대한 널리 퍼진 두려움에도 불구하고, 이 기술은 아직 이러한 방식으로 사용될 만큼 충분히 신뢰할 수 없습니다. 그리고 국방부의 AI 야망에 대해 보도하는 동안 나는 국방부나 미군, 완전 자율 무기 개발을 열망하는 AI 중심 스타트업 내에서 누구도 만나지 못했습니다.

그러나 AI를 더 많이 사용하면 인간이 방정식에서 제거되거나 추상화되는 군사적 만남이 점점 더 많아질 것입니다. 일부 사람들은 AI를 핵무기에 비유했지만, 더 즉각적인 위험은 군사용 AI 시스템의 파괴력이 적고 전쟁의 안개를 짙게 만들고 인간의 실수 가능성을 높이는 잠재력입니다.

2015년부터 2018년까지 미 해군 해군작전사령관을 지낸 퇴역 4성 장군 존 리차드슨(John Richardson)과 대화를 나누었을 때 그는 AI가 산업혁명이나 원자력 시대와 마찬가지로 군사력에 영향을 미칠 것이라고 확신했습니다. 그리고 그는 이전의 혁명을 가장 잘 활용한 쪽이 지난 두 차례의 세계 대전에서 승리했다고 지적했습니다.

그러나 Richardson은 강력한 기술을 통해 군사적 상호 작용을 관리하는 데 있어 인간 관계의 역할에 대해서도 이야기했습니다. 해군 사령관으로 복무하는 동안 그는 다른 나라 함대의 동료들과 친해지려고 노력했습니다. “우리가 만나거나 이야기할 때마다 우리는 서로에 대해 더 잘 이해하게 되었습니다.”라고 그는 말합니다. “제가 정말로 원했던 것은 계산 착오 등의 일이 발생하면 비교적 짧은 시간 내에 연락할 수 있도록 하는 것이었습니다. 당신은 그것이 첫 번째 통화가 되는 것을 원하지 않을 뿐입니다.”