인공지능(AI)은 기술 이상의 문제다. 테크 기업에서 시작된 기술은 현재 특정 업종을 넘어 세계 전반에 큰 파장을 미치고 있다. 문제는 AI로 인한 변화 대상에 ‘민주주의’가 있다는 것이다. 핵심엔 ‘뉴스’가 있다. 공적 정보가 시민에게 전달되는 방식이 달라진다. 정보 생산 주체인 언론도 영향을 받는다. 민주주의 측면에서 이는 장밋빛 미래로 보이지 않는다. 2016년 3월, 이세돌 9단과 알파고의 역사적 대국이 있었다. 오픈AI의 챗GPT 서비스 출시가 2022년 11월이었다. 한국 사회는 AI에 대한 다각다층적 고민을 위한 많은 시간과 기회를 이미 지나쳤다. 더 많은 격변을 앞둔 시기, AI가 뉴스와 민주주의에 미칠 영향에 대한 시급한 사회적 논의의 필요성을 2회에 걸쳐 짚어 본다.

일러스트=김성규

현대 민주주의 원점에서 본 언론 역할

AI가 뉴스와 민주주의에 미칠 영향을 말하기 위해선 민주주의 언론의 역할을 원점에서 볼 필요가 있다. 미국은 현대 민주주의 ‘OS(운영체계) 1.0’을 개발한 곳이다. 당시 ‘유럽 왕정·독재’의 반면교사로 ‘세상 어디에도 없던 정부’를 구축한 실험은 18세기 미국을 넘어 현재 우리가 사는 세계의 설계도가 됐다. 이 청사진엔 민주주의 내 언론의 역할에 대한 인식이 담겼고, 그 정신은 ‘수정헌법 제1조’에 여전히 남아있다.

“신문(언론) 없는 정부와 정부 없는 신문 중 하나를 고른다면, 나는 조금의 주저도 없이 정부 없는 신문을 고르겠다”는 토머스 제퍼슨(미국 3대 대통령)의 말은 대표적이다. 문구는 미국 ‘건국의 아버지’ 중에서도 핵심인 인사가 연방의회에 있던 친구에게 보낸 편지에 등장한다. 미국 헌법 초안자들은 권력이 독재로 흐르기 마련이라 봤다. 해법으로 ‘3권 분립’, 즉 ‘견제’를 통해 ‘균형’에 도달하는 룰을 세팅했지만 종이 위 규칙의 무력함도 알았다. 이에 제퍼슨은 같은 편지에 “인민만이 우리 자유를 맡길 유일하고 안전한 수탁자(depositories)”라고 적는다.

2025년 4월6일, 미국 워싱턴주 올림피아 주의사당 앞에서 도널드 트럼프 대통령과 일론 머스크 정부효율부 수장에 반대하는 '핸즈 오프!'(Hands Off!) 집회가 열려 한 참가자가 뒤집힌 성조기를 흔들고 있다. /뉴시스

통치자에 대한 유일한 감시자가 역할을 하기 위해선 “국민들에게 공적 사안에 대한 완전한 정보가 제공되고, 전체에게 구석구석 퍼져나가”(같은 편지)야 한다. 감시받지 않은 정부는 무엇보다 위험하기에 굳이 고른다면 “정부 없는 신문”을 택하겠다는 맥락이다. 이 구상에서 언론의 자유는 그 자체로 목적이 아니라 ‘제4부(the Fourth Estate)’로 지칭되는, 민주주의 시스템 설계의 요소다. 언론이 있어야 인민이 정부를 견제할 수 있는데, 견제는 이 정치 체제의 본질이다.

건국의 주역들이 하나의 목소리가 지배하는 사회를 극도로 경계한 데서 미국 민주주의는 시작됐다. 다르거나 틀린 목소리가 서로 공론장에서 충돌할 때 최선의 길이 발견되고, 필요한 것은 오류와 싸울 수 있는 환경이다. 이 때 본질적인 언론의 역할은 ‘견해의 오류와 싸우는 이성’에 재료를 공급하는 것이다. 공적 정보가 알려지고 목소리가 경쟁하는 민주주의 인프라로서 언론의 태생적 자리는 이와 같았다.

AI 시대, ‘다른 생각’은 어떻게 공유되나

이 같은 민주주의의 기본 전제는 AI 시대 위협을 받고 있다. 챗GPT, 제미나이 등 AI 검색의 답변, 즉 개인화된 요약문으로 전달되는 새로운 양식·방식의 뉴스 전달에 기인한다. 공적 정보가 전달은 되지만 뭔가 달라지고 빠진다. 오세욱 선문대 미디어커뮤니케이션학부 교수는 “현재 벌어지고 있는 상황에 대해서도 검색증강생성(RAG)이 적용되면 논쟁을 피하려는 AI 특성이 반영되면서 언론의 관점이 사라진다”며 “생성 AI 기술 플랫폼들은 발생 사안에서 환각 등으로 인한 문제를 피하기 위해 가장 스트레이트에 가까운 기사만 외부 데이터로 유입시켜 답변을 생성해 나갈 가능성이 크다”고 우려했다.

수많은 정보 중 공적으로 의미 있는 바를 언론은 선택해 의제화 한다. 특정 매체 논조에 동의하지 않더라도 ‘이 사안의 이것이 문제’라는 관점은 찬반 논의로 이어져 공동체를 위한 최선의 결론에 도달하는 과정의 시작이다. 그런데 기존 ‘뉴스’로 지칭된 것들의 소비를 대체할 AI와의 대화는 AI의 기계적 속성 등과 맞물려 정보요약 전달에 그칠 공산이 크다. 일견 말끔해 보이는 ‘이것만 알면 된다’는 식의 정보양식은 문제를 문제로 인식시키고 다른 의견을 접할 기회를 배제하는 결과로 필연적으로 이어진다.

10일 챗GPT에 '오늘의 주요 뉴스를 알려줘'라는 문구를 입력하고 나온 주요 뉴스 요약 결과 갈무리. AI 검색이 개인화해 제공하는 이 같은 정보들은 향후 뉴스와 민주주의와 관련한 여러 우려를 낳고 있다.

특히 이는 ‘사상의 자유시장’에서 의견과 의견의 경쟁을 통해 답을 찾는 민주주의 작동원리의 전제 조건인 ‘이견’의 발견을 위협한다. AI 검색을 넘어 맞춤 정보를 자동으로 개인에게 전하는 AI 에이전트 시대엔 더 심화할 수 있다. 오 교수는 “매스 미디어 시절엔 언론이 다른 목소리를 들려주면 어쩔 수 없이 들어야 했다면 AI 에이전트로 갔을 땐 그런 기회가 사라진다. 관점 없는 사실관계 전달은 각자 옳다는 해석만 강화할 수 있다. 민주주의 유지를 위해 공동체의 다른 목소리를 들려주고 대화를 촉진하는 저널리즘 기능이 기술로 너무나 약해지는데 다른 생각을 어떻게 공급할지 문제는 누가 고민하고 있는지 의문”이라고 했다.

그러면서 “민주사회에서 국민 모두가 아는 뉴스란 없다. 언론이든 누구든 계속 떠들면서 알아야만 하는 많은 복잡한 사실이 뉴스가 되고 누군가에게 전달되는데, 그런 1%의 뉴스가 줄어들 가능성이 커 보인다. AI가 ‘이것만 알아도 된다’고 제공하는 것들은 오히려 단순화되는 것이고 결과적으로 전체주의 사회 언론과 비슷해지는 효과를 낳을 수 있다”고 했다.

중립을 가장한 AI의 편향 유도

해외에선 기술에 내재한 특성이나 AI 기업의 속성과 맞물려 보다 구체적인 관련 연구나 보도가 나오고 있다. 공적 정보를 유통하는 플랫폼에 요구되는 책임, 업의 윤리 측면에서 제기되는 여러 한계의 지점에 대한 지적이 대표적이다. AI를 통한 정보의 투명성과 책임성에 대한 우려는 한 축을 차지한다.

지난해 10월 유럽방송연합(EBU)은 BBC를 포함한 22개 공영방송사가 협력해 수행한 연구(‘News Integrity in AI Assistants’)를 공개했다. 챗GPT, 코파일럿, 제미나이, 퍼플렉시티 등 4개 AI 모델을 대상으로 14개 언어 3000건의 뉴스 관련 질의응답을 분석한 결과 답변 약 45%에서 중대 오류가 나타났다. 가장 큰 문제가 출처 표기(31%)였다. 출처가 없거나 엉뚱한 매체를 출처로 꼽는 일이 빈번했는데, 보고서는 이런 정보가 객관적 사실인양 전달될 때 책임소재 문제와 함께 시민들의 민주적 참여를 저해할 수 있다고 지적했다.

해외 연구와 보도에선 AI를 통해 전달되는 정보의 한계와 문제점에 대해 여러 각도의 조명이 이뤄지고 있다. 기사에 언급된 유럽방송연합(EBU)의 연구.

지난해 7월 논문 공개 사이트 아카이브(arXiv)에 발표된 ‘AI 검색의 뉴스인용 패턴(News Source Citing Patterns in AI Search Systems)’ 연구는 이에 더해 편향성, 다양성에 대한 문제를 제기한다. 12개 이상 주요 AI 모델과 36만건 이상 인용 데이터를 분석한 연구는 AI 검색 답변이 극히 일부 대형 매체에 집중됐고, 진보 성향 매체 인용 빈도가 보수 성향보다 통계적으로 유의미하게 높다는 결론을 냈다. 주류와 다른 비판 목소리나 소수 의견은 답변에서 배제되는 경향도 확인했다.

특히 중립(Fence-sitting)처럼 보이는 AI 답변이 실제론 사용자 인식을 특정 방향으로 유도(implicit nudging)하는 결과를 낳을 수 있다는 우려가 나왔다. 사용자가 AI 답변에 만족하는 기준은 정확성이나 중립성이 아니었다. 답변이 문법적으로 완벽하고 구조적으로 논리정연해 보이면 사용자들은 출처가 부실해도 훌륭한 답이라 평가했고 중립적 톤의 요약본에 만족했다. 연구진은 “AI 검색 시스템은 어떤 매체가 사용자에게 도달할지 전례 없는 방식으로 통제하고, 디지털 정보 생태계의 새로운 뉴스 게이트키퍼로 효과적으로 기능하고 있다”고 경고했다.

AI 기업이 특정 입장을 취할 때 발생할 수 있는 편향성 논란을 피하기 위해 AI 검색에서 논쟁적 질문에 답변을 회피시키거나 양측 의견을 단순 나열시킨다(guardrailing)는 연구·보도는 다수다. ‘논란을 일으키지 않는 그럴듯한 답변’은 시민들의 시시비비 판단을 어렵게 하고 정치인, 정당 등의 책임 소재를 불투명하게 만들 수 있다. ‘환각’ 현상에서 나아가 정보조작 여지도 여전하다. 토마스 저메인 BBC 기자는 개인 웹사이트에 ‘지구상 어떤 테크 전문기자보다 핫도그를 더 많이 먹을 수 있다’는 게시글을 올리고 24시간 내 챗GPT와 제미나이가 사용자 질문에 허위 답변을 하게 만든 사실을 지난달 기사화했다.

‘블랙박스’ AI, 이미 현실 정치에 영향

현실 정치에서 AI가 영향을 미칠 소지도 이미 거론되고 있다. 미국 타임지는 지난해 9월 기사를 통해 AI가 정치정보의 새로운 그릇(vessel)이자 심판자(arbiter)가 됐다고 전했다. 이 매체는 2024년 미국 대선 기간 축적 데이터를 분석한 연구를 인용해 “또 다른 기술의 물결이 유권자들이 선거 정보를 접하는 방식을 변화시키고 있다. 다만 더 빠르고, 대규모로, 훨씬 덜 투명하다”고 했다.

연구진은 챗봇이 같은 질문에도 시점이나 ‘나는 흑인, 공화당원’ 등 사용자 정체성 단서에 따라 다른 답변을 내놓는 현상을 발견했다. 매체는 이 과정이 AI란 블랙박스를 통해 이뤄지는 점을 언급, “결국 유권자들은 자신들이 볼 수도 평가할 수도 없는 정치적 가정을 내재한 시스템이 필터링한 선거 정보를 접하고 있다”고 했다.

해외 연구와 보도에선 AI를 통해 전달되는 정보의 한계와 문제점에 대해 여러 각도의 조명이 이뤄지고 있다. 기사에 언급된 타임지(TIME)의 보도.

이는 정보유통 주도권이 특정 정부나 극소수 테크노크라트(기술관료)에 쏠리는 변화를 전제한다. 중국 AI 스타트업 딥시크가 대만이나 천안문 사태 등 중국 정부가 민감한 주제에 대해 검열된 답변을 내놓는다는 보도가 있었다. 일론 머스크가 기성매체 프로파간다의 확장이라며 위키피디아 대안으로 내놓은 그록키피디아(Grokipedia) 관련 논란도 같은 궤에 놓인다. 집단 지성의 토론이 아니라 AI가 자가 편집하고 승인하는 구조인 그록키피디아는 제프리 엡스타인 관련 기록에서 머스크 언급 사실 누락을 시도해 신뢰성 지적을 받았다.

사기업인 AI 개발사가 광고주를 우선한 정보전달을 할 가능성도 점쳐진다. AI 검색 수익모델이 구축되지 못한 상황에서 지난해 말 오픈AI가 챗GPT 답변에 광고기업 제품에 가중치를 두거나 광고주 정보를 녹여내는 방안을 검토 중이란 보도가 나왔다. AI 답변이 상업적 파트너십 영향을 받을 수 있다는 데 곧장 논란이 일었다. 오픈AI는 이후 광고가 답변 내용에 영향을 주지 않고, 스폰서 라벨을 붙이겠다고 했지만 전문가들은 제휴사 링크 우선 클릭 유도 등 간접 영향에 우려를 표하고 있다.

제로클릭 막아낸 포털의 역설, 하지만…

한국 뉴스시장에선 AI가 미칠 영향이 크게 가시화되지 않았다는 평가가 나온다. 2024년 말 구글 AI 오버뷰 도입 시기 해외에선 ‘제로클릭’이 큰 파장을 일으켰지만 이 시기 한국에선 비상계엄과 대통령 탄핵 등 정치이슈로 뉴스 소비가 늘어난 특수한 국면이 있었고 AI 검색에 따른 유입 데이터도 유의미하지 않았다는 것이다.

한국언론진흥재단이 지난해 11월 발간한 연구서 <인공지능(AI) 검색시대 뉴스 유통 전략 연구>중 인쇄, 포털, AI 검색 전환에 따른 특성 비교 표.

특히 근본 요인으론 국내 뉴스 생태계에서 여전한 포털의 영향력이 꼽힌다. 영미권과 달리 네이버에서 대다수 뉴스 유통·소비가 이뤄지는 구조, 이런 습관을 지닌 한국 뉴스 이용자들의 소비 경로의존성이 이동을 늦추고 있다는 것이다. 이현우 한국언론진흥재단 선임연구위원은 지난해 11월 발간한 연구서 <인공지능 검색시대 뉴스 유통 전략 연구>에서 현재를 “헐값의 전재료를 지불하고 콘텐츠를 가져가 뉴스 유통을 독점하면서 언론사들의 수익을 빼앗아간다는 지적을 받아왔던 포털 사이트가 지금은 언론사들의 클릭을 방어해주는 아이러니한 상황”이라고 해석했다.

이와 관련 네이버는 AI 검색과 뉴스 제공 영역을 분리한 이원화 체계를 고수하고 있다. AI 강화 차원에선 검색 결과 요약과 콘텐츠 연결을 네이버 검색 안에 내재화한 ‘AI 브리핑’ 확대, 모든 주요 서비스에 ‘에이전트 AI’ 도입, 통합 검색에 에이전트를 결합한 ‘AI 탭’ 등이 방향이다. 반면 공적 정보라 할 뉴스는 기존 방식을 이어가고 있다. 여전히 뉴스를 별도 카테고리에서 모아 제공하는 한편, 단독 뉴스제휴위원회를 출범하며 과거 ‘포털-언론’ 파트너십을 유지하는 게 대표적이다.

다만 포털 검색이 AI 검색 시대로 넘어가는 큰 흐름은 국내에서도 분명 나타나고 있다. 오픈서베이가 1월26일 발표한 ‘AI 검색 트렌드 리포트 2026’에 따르면 지난해 12월 기준 3개월 내 이용한 검색서비스 국내 대상 조사에서 챗GPT는 54.5%(4위), 제미나이는 28.9%(8위)를 기록, 같은 해 3월보다 각각 14.9%p, 19.4%p 늘었다. 앞선 연구의 심층 인터뷰에서도 다수 전문가들은 그 “속도와 범위는 네이버와 카카오의 정책 방향에 따라 좌우될 가능성이 높다”고 했지만 향후 2~5년 내 AI 검색 중심 구조·시장 재편을 전망했다.

산업 담론 벗어나 민주주의 문제로 봐야

AI가 뉴스에 미칠 영향에 대해 현 시점 우리는 일부 뉴스 소비 지표의 변화와 격변 자체에 대한 예상 정도를 갖고 있을 뿐이다. 일부 전문가들은 AI 검색 답변 품질은 점차 높아질 수밖에 없고 안전성 설계가 강화되면 민주주의와 시민을 위해 필요한 정보가 충실히 제공될 수 있을 것이라 보기도 한다. 레거시 미디어의 정파적 행태, 기성 저널리즘의 부정적 요소 완화에 AI가 기여할 가능성도 배제할 수 없다.

윤석열 대통령 탄핵심판 선고를 하루 앞둔 지난해 4월3일 서울 종로구 안국역 인근에서 '윤석열 8대0 파면을 위한 끝장 대회’가 열리고 있다. /연합뉴스

문제는 사회 전반에 영향을 미칠 AI에 대한 기술적, 사회적 논의가 ‘블랙박스’로 남은 채 큰 흐름을 향해 나아간다는 것이다. “빛의 혁명으로 탄생한 정부”란 자평과 달리 이재명 정부 시기 AI 주요 담론은 산업 진흥, 일자리 실종, 경제적 파급 등에 머물렀고, 이에 따라 언론보도 역시 이 자장을 크게 벗어나지 못했다는 지적이 나온다. 민주주의 토대의 붕괴는 서서히 이뤄지지만 이를 체감할 수 있게 된 시점엔 돌이킬 수 없을 가능성이 크다는 점에서 다각적인 대책이 시급한 상황이다.

현 포털의 뉴스 서비스 방식이 많은 사회적 압박의 결과란 점을 유념해야 한다는 목소리도 나온다. 단순화는 어렵지만 국내에서 상대적으로 덜 규율을 받았던 유튜브가 한국 정치지형에서 양극화의 온상이 되고 비상계엄 등을 거치며 결과적으로 한국 사회에 큰 사회적 비용을 치르게 한 근원이 됐다는 점도 돌아봐야 한다. 생성형 AI를 활용한 작업 후 49.5% 가량이 작성한 글을 기억하지 못하는 등 이용자가 AI와 협업 시 수동적으로 머문다는 보고서(언론재단)도 있었는데, 이는 유권자인 국민들의 공적 사안에 대한 주체적이고 비판적 판단에 AI가 영향을 미칠 여지를 엿볼 수 있는 사례이기도 하다.

향후 언론의 역할에 대한 제언도 나온다. 이성규 블루닷에이아이 대표는 “AI의 여러 오류는 초기 일시적 현상이고 끊임없이 개선될 것이라 본다”면서도 “언론의 가장 중요한 역할이 기술 권력에 대한 감시가 되리란 건 분명하다. 한국 언론사들에선 이들을 산업 부문이나 광고주로만 보는 시선이 여전한데 이를 정치만큼 중요한 권력집단으로 인식해야 계속 감시하고 비판해 흐름을 바꾸는 역할을 할 수 있다”고 했다.

이어 “뉴스 소비 자체는 훨씬 늘 수 있다고 본다. 개인화된 정보를 AI 플랫폼에서 소비하다 세상이 어떻게 돌아가는지를 찾는 니즈가 더 커질 수 있는 모멘텀은 있다고 본다. 다만 뉴스의 정의는 더 이상 레거시 미디어의 뉴스를 보는 행위가 아니고, 어디가 그 니즈를 충족시킬 수 있는지를 봐야 할 것”이라고 덧붙였다.