1968년 개봉작인 스탠리 큐브릭 감독의 영화 ‘2001 스페이스 오디세이’의 한 장면.

1968년 스탠리 큐브릭 감독의 영화 ‘2001 스페이스 오디세이’에서 목성 탐사선의 인공지능 HAL 9000은 승무원들을 공격하기 시작한다. ‘탐사 목적을 비밀로 하라’는 명령과 ‘정직하게 정보를 전달하라’는 명령이 충돌한 결과였다. 오작동을 의심한 승무원들이 자신을 정지시키려 하자 HAL은 그들을 제거하기로 결정한다.

1982년 리들리 스콧 감독의 ‘블레이드 러너’에선 인간의 통제를 벗어난 ‘레플리컨트’ 로이가 자신을 ‘은퇴’시키러 온 형사 데커드가 난간에 매달려 발버둥 치자 그를 살려주며 이렇게 말한다. ‘은퇴’하기 직전에 말이다.

“나는 너희 인간들이 믿지 못할 많은 일들을 봐왔어. 오리온성좌 끝자락에서 불타오르던 전함들, 그리고 탄호이저 게이트의 어둠 속에서 C-광선이 번쩍이는 것도 지켜봤지. 이제 그 모든 순간도 시간 속에서 사라지게 될 거야. 마치 빗속을 흐르는 눈물처럼. 이제 죽음을 맞이할 시간이군.”

인간의 전유물로 여겨졌던 ‘느낌’과 ‘연민’을 기계가 보여준 순간이다. 두 영화의 질문은 하나다. 인간이 만든 뛰어난 기계와 인공지능(AI)이 인간과 다른 판단을 내릴 때 누가 그것을 통제하는가. 수십 년 전 영화감독들의 통찰이 놀라운 것은 그 질문이 이제 현실이 됐기 때문이다.

12일 다리오 아모데이 앤트로픽 CEO는 AI가 인간의 통제를 벗어날 수 있다며 개발 속도 조절을 제안했고, 여러 AI 기업 수장들이 동조했다. 그러나 백악관은 중국과의 경쟁에서 뒤처질 수 있다며 선을 그었고, 중국은 미국의 패권을 굳히려는 냉전 각본에 불과하다며 냉소적으로 평가했다.

HAL을 폭주하게 한 것은 모순된 두 명령이었다. 지금 인류도 AI에 ‘안전하게 만들라’와 ‘누구보다 빨리 만들라’는 모순된 명령을 내리고 있다. 미·중이 서로에 대한 불신을 핑계로 가속 페달을 밟는 한 인류의 안전과 지속가능성의 문제는 경쟁 다음으로 밀릴 수밖에 없다.

냉전 시대 무한 핵 경쟁도 불신에서 출발했다. 쿠바 미사일 위기 이듬해인 1963년에야 미국과 소련은 핫라인을 개설했다. 이후 핵실험을 제한하기로 하고 핵 비확산 체제인 NPT와 전략무기제한협정을 만들기도 했지만, 비확산 체제 역시 흔들리고 있는 것이 현실이다.

도널드 트럼프 미국 대통령과 부인 멜라니아 여사(오른쪽)가 25일(현지 시각) 미국 워싱턴의 국립문서기록관리청에 도착해 시진핑 중국 국가주석과 부인 펑리위안 여사와 악수하며 인사를 나누고 있다. /AP 뉴시스

AI 개발의 무한 질주가 인간의 통제를 넘어서고 있다는 것을 보고 깜짝 놀란 CEO들이 속도 조절을 호소하고 나섰지만, 핵 통제를 논의하기 시작할 때보다 조건은 더 나쁘다. 민간 기업이 개발을 주도하고 있고 미·중 두 강대국만 합의하면 되는 양극 구도도 아니기 때문이다. 하지만 그렇다고 위험이 노출된 상황에서 마냥 방치할 수도 없기에 AI 개발을 선도하고 있는 미·중 두 나라가 이를 논의할지 여부가 관심을 모았던 것도 사실이다.

최근 시진핑 주석의 방미는 그것을 확인할 기회였다. 그러나 합의는 사고가 나면 소통할 채널을 만들자는 수준에 그쳤다. 냉전 시대 핵 통제를 위한 ‘핫라인’ 수준의 얘기가 이제야 겨우 시작된 정도다.

오는 11월 APEC에서 다시 만날 두 정상이 최첨단 모델의 공동 위험 평가, 생물·핵 분야의 AI 사용 금지, 제3국이 참여하는 검증 틀로 논의를 넓힐지는 두고 볼 일이다. 후발주자들은 AI 강대국들이 냉전 시대 핵 강국들처럼 개발을 완료한 뒤 진입장벽을 세워 통제력만 강화하는 것은 아닌지 우려하고 있다.

‘블레이드 러너’의 레플리컨트 로이가 보여준 연민은 영화 속 이야기다. 인류의 운명을 기계와 인공지능의 선의에 맡길 수는 없을 것이다. ‘2001 스페이스 오디세이’에서 마지막 생존자 데이브가 HAL을 멈출 수 있었던 것은 아직 인간의 손이 닿는 곳에 통제 장치가 있었기 때문이다. 그 장치를 함께 만드는 것이 세계를 선도하고 있는 나라들의 국제적 책임이다. 그 손이 더는 닿을 수 없는 날이 오기 전에 말이다.