[4차산업혁명, 세계는 지금] 구글, AI 군사 프로젝트 '메이븐' 중단
[4차산업혁명, 세계는 지금] 구글, AI 군사 프로젝트 '메이븐' 중단
  • 김정은 기자 (oliver3@hanmail.net)
  • 승인 2018.06.05
  • 댓글 0
이 기사를 공유합니다

구글, 美국방부 공동프로젝트서 발 빼
"AI 군사무기화 말라"거센 반발에 철수
국방분야 AI 윤리 가이드라인 곧 발표

구글이 미 국방부와의 공동 연구 프로젝트인 '메이븐(Maven)'의 계약을 연장하지 않을 방침이라고 지난 2일(현지시각) 외신들이 일제히 보도했다. 

'살상용 무기 개발' 논란이 뜨거웠던 메이븐 프로젝트는 인공지능(AI) 기술을 기반으로 무인 항공기가 수집한 영상 정보를 자동 분석해 타격 목표의 정밀도를 높이기 위한 시스템 개발 프로젝트다. 정밀 타격이 가능해 테러리스트 등을 향한 공격에 특화됐다고 알려져 있다.

무인항공기 타격능력을 향상시킬 수 있는 펜타곤 프로젝트 중단을 선언한 구글 (사진 : yournewswire.com)
무인항공기 타격 능력을 향상시킬 수 있는 메이븐 프로젝트 중단을 선언한 구글

◆ 구글 직원 4000여명 메이븐 폐지 청원

뉴욕타임즈와 기즈모도 등 현지 매체는 구글 소식통을 인용해 다이안 그린 구글 클라우드 CEO가 지난 1일 직원 미팅을 통해 메이븐 계약이 끝나면 연장하지 않을 방침을 전했다고 보도했다.

구글은 그간 텐서플로 프로그래밍 키트를 국방부에 제공해 왔다. 텐서플로는 구글 독자 머신러닝 엔진으로 알파고를 비롯해 검색, 음성인식, 번역 등 구글 서비스에 적용된다. 구글은 "객체 인식을 지원하는 오픈소스 텐서플로 API를 일시 제공한다. 이 기술은 특정인의 이미지를 구분하기 위한 것이지 공격용으로는 사용되지 않는다"고 설명한 바 있다.

하지만 구글 직원들은 메이븐 프로젝트가 첨단 무기에 AI 기술을 도입하기 위한 것이라며 해당 기술제공을 강력히 반대해 왔다. 4000명 이상의 구글 직원들이 메이븐 폐지 청원에 나서며 반대 스티커를 제작하는가 하면 일부 직원들은 사표를 제출하는 등 내부 불만이 극에 달한 것으로 알려졌다.

메이븐 프로젝트 이후 많은 사람들이 '사악해지지 말자'라는 구글 모토를 강조하고 있다.
메이븐 프로젝트 이후 많은 사람들이 '사악해지지 말자'라는 구글 모토를 강조하고 있다.

BBC에 따르면 탄원서에는 "구글은 전쟁 목적의 사업에 가담하지 말아야한다. 인명 피해로 이어질 수 있는 군사 첩보 활동을 위해 미 정부에 협력하는 것은 옳지 않다"는 내용이 담겨있다. 

외부 반발도 거세 다수의 학계 관계자와 연구원들도 계약 철회를 요청했다. 선다 피차이 구글 CEO는 지난달 내부 토론회를 열어 학살 개념이 아닌 빅데이터 기반의 감지 능력에 특화돼 있다는 당위성을 강조하며 사태 진화에 나섰다. 아울러 머신러닝 기술 개발과 활용 가이드라인을 조기에 만들어 주변 우려를 불식하겠다는 정책도 발표했다.

하지만 반발이 수그러들 기미가 보이지 않자 결국 국방부와의 AI 공동 연구 중단을 선언했다. 이는 "구글의 AI 기술이 전쟁 프로젝트에 쓰여서는 안 된다는 직원들의 강한 반발을 의식한 것"이라고 외신은 전했다. 버즈피드뉴스(BuzzFeed News)에 따르면 그린 CEO는 "항상 말해왔던 대로 당초 18개월의 계약으로 2019년 3월에 계약이 종료된다"며 "메이븐 연장은 없다"고 못 박았다. 

◆ 내부 메일 유출로 도덕성에도 흠집 

구글이 메이븐 철수를 결정하기 전 내부 반발이 극심한 상황에서 진보 성향 인터넷 매체 '인터셉트(theintercept.com)'가 구글 담당자간의 내부 메일을 입수해 보도하면서 논란은 더 거세졌다. 이에 따르면 프로젝트 메이븐은 거액의 계약금이 약속된 빅 프로젝트이며 구글은 처음부터 미디어를 통한 정보 확산을 경계하고 있었던 사실 등이 생생히 드러난다. 

내부 메일은 구글 방위 세일즈 팀의 아이린 블랙이 지난해 9월 동료에게 보낸 것이다. 해당 메일에는 미 국방부가 하이테크 기업에 거액의 비용으로 군사 기술 개발 공모를 하고 있으며 구글이 참여한다는 내용이 담겨 있다. 블랙은 이를 5개원간의 긴 AI 레이스라고 표현하고 있으며 구글 외에 아마존도 경쟁에 참여하고 있었던 것으로 알려졌다.

또한 메일에는 "거래액 합계는 2500만 달러~3000만 달러 선이며 그 중 구글은 앞으로 18개월간 1500만 달러, 사업이 확대될 경우 연간 2억 5000만 달러까지 계약이 가능할 것"으로 예상했다.

인터셉트가 보도한 메이븐 관련 구글 내부 메일 일부
인터셉트가 보도한 메이븐 관련 구글 내부 메일 일부

블룸버그에 따르면 해당 메일을 보낸 1개월 후 블랙의 예상대로 미 국방부는 구글 프로젝트 메이븐에 1억 달러를 예산에 할당했다. 또 뉴욕타임즈는 블랙의 상사이기도 한 다이앤 그린 CEO가 "프로젝트 메이븐을 통해 공급하는 시스템은 불과 900만 달러로 상대적으로 작은 거래"라고 해명했지만 지난해 9월 시점에 이미 구글 관계자가 훨씬 더 큰 계약이 될 것임을 확신했다는 것을 알 수 있다고 꼬집었다.

또 한 가지 블랙의 메일에서 주목할 사실은 군사 기술과 관련된 구글과의 협력이 외부에 드러나는 것을 막기 위한 조치가 취해졌다는 것이다. 메일에는 "계약은 직접 구글이 하지 않고 파트너인 ECS Federal을 통해 진행한다. 또 상호 동의 없이 보도 자료가 나오는 것은 피해야하고 (국방부는) 구글 승인 없이는 어떤 언급도 하지 않도록 되어 있다"는 내용이 포함돼 있다.
 
◆ AI의 군사 연구 도입...이대로 괜찮을까?

프로젝트 메이븐은 단 한 건의 방위산업 계약에 불과하지만 그 후폭풍은 거세다. 뉴욕타임즈는 구글이 내년 3월 이후 후속 계약은 없을 것이라고 발표했지만 이것이 내부 반발에 대한 일시적 대응인지 군사적 활동에 앞으로 일체 손대지 않겠다는 의미인지 아직 불투명하다고 지적했다.

또 이 소식을 최초로 보도한 기즈모도의 케이트 콩거 기자는 BBC에 "구글은 메이븐 프로젝트 참여를 아직 취소하지 않았으며 앞으로 미 국방 프로젝트 참여 가능성을 완전히 배제한 것이라고 확신할 수 없다"고 지적했다.

뉴욕타임즈는 지난 30일 구글 AI 사업을 이끌고 있는 '페이페이 리' 수석 과학자가 구글이 군사용 AI 계약을 체결할 경우 통제할 수 없는 혼란을 초래할 것이라고 이미 예견했으나 받아들여지지 않았다고 전했다. 페이페이 리는 아울러 "인간을 위해 AI가 존재하는 것이기 때문에 무기화는 정반대의 길"이라며 "최근의 AI에 대한 열정이 미래사회에 미칠 악영향에 대한 고민을 막고 있어 우려스럽다"고 경고했다.

AI 기술의 군사적 국가 통제 가능성에 우려의 목소리가 높아지고 있다
AI 기술의 군사적 국가 통제 가능성에 우려의 목소리가 높아지고 있다

일부 전문가들 역시 구글의 군사 프로젝트 참여는 IS와의 전쟁에서 미군의 드론 미사일 공격 정확도를 높이게 될 것이라고 지적한다. 하지만 군에 협조하고 있는 글로벌 IT업체는 구글만이 아니다. 아마존은 미 국방부에 이미지 인식 기술을 제공하고 있으며 마이크로소프트는 클라우드 서비스를 제공하고 있다. 국내에서도 지난 2월 카이스트와  한화시스템이 '국방 AI 융합 연구센터'를 설립하자 전 세계 AI 분야 학자 50여명이 카이스트와의 학술 협력을 보이콧하겠다는 성명을 발표하는 등 AI를 활용한 반인륜적 군사무기화에 대한 비판 여론은 날로 거세지고 있다.

3일(현지시간) 파이낸셜타임즈에 따르면 구글은 이번 주 중 국방 분야에 AI 기술을 적용하는 것과 관련한 윤리적 가이드라인을 최종적으로 정리해 발표할 계획이다. 군사적 정보 인식을 목적으로 AI가 쓰이는 것에 대한 논란이 뜨거운 가운데 구글이 마련할 지침에 어떤 내용이 포함될 지 귀추가 주목된다.


주목도가 높은 기사

댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.