최연진 한국일보 IT전문기자.

구글의 공동 창업자인 세르게이 브린과 래리 페이지는 회사를 창업할 때부터 꼭 해결해야겠다고 마음먹은 과제가 있다. 바로 전력이다.

지인의 차고에 사무실을 차린 두 사람은 여기저기서 긁어모은 중고 컴퓨터와 스스로 조립한 컴퓨터를 쌓아 놓고 검색 사업을 시작했다. 그들은 검색 사업을 키우려면 더 많은 컴퓨터가 필요하고, 서버 역할을 하는 컴퓨터들이 안정적으로 돌아갈 수 있도록 전력 공급이 무엇보다 중요하다는 것을 간파했다.

이후 구글이 새로운 사업을 할 때마다 최우선으로 고민한 것은 항상 전력이다. 특히 데이터센터를 확대하면서 항상 전력 공급이 차질을 빚지 않도록 신경을 썼다.

‘전기 먹는 하마’로 통하는 인공지능(AI)도 마찬가지다. 구글의 AI 개발에서 전력 문제는 항상 최우선 순위에 있다. 그런 점에서 구글이 최근 발표한 AI ‘제미나이3’를 주목할 필요가 있다.

제미나이3에서 가장 눈길을 끄는 것은 AI 자체의 성능보다 그 뒤에 숨은 전용 반도체다. 구글은 제미나이3의 성능을 끌어 올리기 위해 직접 개발한 AI 반도체 ‘TPU’를 처음으로 사용했다. TPU는 AI에서 반복적으로 수행하는 행렬 계산에 특화된 반도체다.

이전에는 AI를 가동하기 위해 엔비디아에서 개발한 AI 반도체 ‘H100’을 주로 사용했다. 그런데 엔비디아의 반도체는 엄밀히 말하면 AI 전용 반도체라기보다 GPU다. GPU는 원래 게임에서 화려한 그래픽을 끊김이 없이 실시간으로 처리하기 위해 빠른 계산을 수행할 수 있도록 개발된 반도체다. 그러다 보니 AI 처리에 필요한 기능 이외의 것들도 담고 있다. 여러 기능이 들어있다 보니 당연히 전력 소모가 많다. AI를 ‘전기 먹는 하마’라고 우스갯소리로 말하는 이유도 GPU도 막대한 전력을 소모하기 때문이다. 개인용 컴퓨터(PC)에도 엔비디아의 나온 고사양의 그래픽 카드를 장착하면 수냉식 등 다양한 냉각장치를 2, 3개 달아야 할 정도로 발열과 전력 소모가 심하다.

일부 AI의 경우 개발업체에서 이용자를 제한하기도 하는데 가장 큰 이유는 전력 소모를 감당하기 힘들기 때문이다. 그래서 많은 전문가들이 AI 확산의 최대 걸림돌로 전력 공급 문제를 꼽고 있다.

창업 때부터 전력 문제를 고민한 구글은 AI 시대에 똑같이 되풀이되는 문제를 스스로 해결하기 위해 TPU를 개발했다. TPU는 기존 엔비디아 칩보다 전력 효율이 2, 3배 높은 것으로 알려졌다. 즉 엔비디아의 반도체보다 전력 소비량이 절반 내지 3분의 1에 불과하다는 뜻이다. 마이크로소프트와 아마존도 전력 소비를 줄이기 위해 각각 ‘마이어’와 ‘트레니엄’이라는 AI 전용 반도체를 개발했다.

독자 AI를 개발하는 우리 입장에서도 한국형 AI, 즉 K-AI 개발의 선결 과제로 전력 공급을 어떻게 해결할 것인지 먼저 짚고 넘어가야 한다. 같은 이유로 많은 AI 기업들이 원자력 발전에 주목한다. 신재생 에너지는 친환경적이지만 자연환경에 영향을 받아 지속적이고 안정적인 전력 공급이 힘들다 보니 원자력 발전이 거론될 수밖에 없다. 마이크로소프트, 구글, 아마존 모두 원자력 발전을 주로 활용해 AI에 필요한 전력을 공급할 계획이다.

우리 입장에서는 만만치 않은 숙제다. 독자 AI 개발에 필요한 전력을 안정적으로 공급하기 위해 일부 기업들처럼 원전을 활용하려면 사회적 합의가 필요하다. 늦은 감이 있지만 GPU 보급 못지않게 중요한 과제인 전력 공급 문제를 지금이라도 먼저 풀고 넘어가야 전 국민의 AI 시대를 긍정적으로 맞을 수 있다.