언론을 위한 생성형 인공지능 준칙


  • 서문
    생성형 인공지능(Generative AI, 이하 인공지능이라 한다)은 뉴스의 생산과 유통 방식에 근본적 변화를 초래하고 언론 활동 전반에 지대한 영향을 미치는 변혁의 촉매가 되고 있다. 인공지능 기술의 무한한 잠재력을 올바로 활용한다면 뉴스 생산의 효율성과 창의성을 높이고 콘텐츠의 질적 수준을 향상하는 혁신의 도구가 될 수 있다. 인공지능을 악용한 허위·조작 콘텐츠가 범람하는 진실성의 위기에 대응하기 위해서도 언론은 인공지능을 이해하고 적극 활용해야 한다. 그러나 동시에 오류와 차별적 내용이 담긴 콘텐츠를 생성할 가능성이 있으며 저작권 침해 등 여러 법률적·윤리적 문제를 초래할 위험성 또한 적지 않다. 따라서 언론의 인공지능 활용은 무엇보다 철저한 사실 확인과 검증을 전제로 다양성, 독립성, 투명성, 책무성 같은 저널리즘 가치를 준수하며 실행되어야 한다. 또한 언론이 인공지능 환경에서 민주주의와 인권의 보루이자 공동체가 신뢰할 수 있는 정보의 원천이 되기 위해서는 언론의 노력뿐 아니라 정부와 기업, 이용자의 관심과 지원을 필요로 한다. 본 준칙은 언론이 공적 책무를 수행하면서 발전된 디지털 기술을 활용할 수 있도록 그 기준을 제시하는 것을 목적으로 한다. 이 준칙은 기성 언론사 조직뿐 아니라 뉴스 형식의 콘텐츠를 생산하는 모든 행위자에게 적용되어야 한다.
  • 원칙과 실천 방안
  • 제1조 (인간의 관리와 감독) 인공지능은 뉴스 생산에 보조적 수단으로 활용되어야 하며 인간의 관리 및 감독하에 사용되어야 한다.
    (1) 뉴스 콘텐츠 생산에서 인공지능 기술이 인간을 완전히 대체하는 일은 없어야 한다. 즉, 인공지능은 인간의 업무를 보완하기 위한 보조적 수단으로 사용되어야 한다.
    (2) 언론사는 인공지능의 사용 목표, 방침, 범위, 조건에 대한 명확한 기준을 구성원에게 제시하고 공유해야 한다.
    (3) 언론사 내부에 인공지능 활용 정책을 수립, 집행, 감독하는 책임자를 지정해야 한다.
  • 제2조 (책무성) 뉴스 생산에 인공지능을 활용하는 경우 언론은 이로 인해 발생한 문제에 대해 법률적·윤리적 책임을 진다.
    (1) 인공지능으로 생산한 뉴스 콘텐츠에 오류가 있다면 즉각 수정하고 그 사실을 명확하게 표시하여 이용자들이 인지할 수 있도록 해야 한다.
    (2) 인공지능 활용으로 인한 문제점을 상시 점검하고 이에 대처할 수 있는 시스템을 구축하여야 한다.
    (3) 인공지능 활용은 각 언론사의 기존 윤리강령 및 취재보도준칙 등이 정한 기준에 부합하여야 한다.
  • 제3조 (사실 확인과 검증) 인공지능을 활용하여 생산하는 뉴스 콘텐츠는 반드시 사실 확인 및 적절한 검증 과정을 거쳐야 한다.
    (1) 인공지능은 기술적 한계로 인해 생성된 결과물에 부정확한 사실이나 허구의 내용이 포함될 수 있다. 뉴스는 진실성이 생명이므로 인공지능이 만들어낸 콘텐츠를 사실 확인이나 검증 없이 그대로 보도해서는 안된다.
    (2) 인공지능에 활용된 데이터의 사실 여부와 정확성도 확인해야 한다.
    (3) 기자가 확인과 검증을 할 수 없는 내용이라면 인공지능으로 생산해서는 안 된다.
    (4) 인공지능으로 만든 결과물이 사실과 다르거나 현실을 왜곡했다고 판단된 경우 즉시 시정하고 그 결과물은 반드시 폐기해야 한다.
  • 제4조 (활용 범위) 인공지능을 뉴스 생산 및 유통에 활용하는 경우 그 범위와 한계를 명확히 제시해야 한다.
    (1) 뉴스 생산을 위한 기획과 기초 자료 조사, 아이디어 제공, 녹취 및 문자 변환, 번역, 오탈자 확인, 방대한 양의 정보 처리, 데이터 분석, 시각화 자료 생성 등 보조적 작업은 원칙적으로 제한 없이 활용할 수 있다.
    (2) 날씨, 주가, 기업 공시, 재난, 스포츠 등의 분야에서 자동화 방식으로 데이터를 객관적으로 사실 보도하는 경우에도 활용할 수 있다.
    (3) 뉴스 제목 추출과 내용 요약은 보도의 핵심적 부분이므로 기사의 내용과 맥락에 일치하는지를 반드시 확인하는 등 활용에 주의해야 한다.
    (4) 뉴스 내용의 이해를 돕기 위한 삽화와 영상 생성의 경우, 기사 맥락에 부합해야 하며 사실 관계를 오인하도록 해서는 안 된다.
    (5) 실제 현실을 보여주는 사진·영상·오디오를 인공지능 기술로 변형 또는 합성하는 행위는 사실의 혼란을 초래할 수 있어 원칙적으로 사용하지 않아야 한다. 다만 사실을 왜곡하지 않고 이용자에게 도움이 되는 경우 예외적으로 허용될 수 있다.
    (6) 인간이 촬영하거나 제작한 사진, 동영상, 이미지, 삽화 등을 우선적으로 사용하여야 한다.
    (7) 내용 전부를 인공지능이 자동으로 생성한 기사와 영상은 사용하지 않는 것이 바람직하다.
  • 제5조 (투명성) 인공지능을 뉴스 생산에 활용한 경우 이를 이용자들이 인식할 수 있도록 명확하고 구체적으로 밝혀야 한다.
    (1) 인공지능이 생성한 글, 이미지, 영상, 오디오가 뉴스 생산에 직접적으로 사용된 경우 그 사실을 알림 문구나 워터마크, 안내 음성 등의 방법으로 구체적이고도 명확하게 표시한다.
    (2) 뉴스 생산을 위한 기획과 기초 자료 조사, 녹취 및 문자 변환, 번역, 오탈자 확인, 방대한 양의 정보 처리, 데이터 분석, 시각화 자료 생성 등에는 표시를 생략할 수 있다.
    (3) 뉴스 생산자는 사용 중이거나 사용했던 인공지능의 활용 기록, 프롬프트 활용 방법, 사용된 인공지능 도구 등을 필요한 경우 공개할 수 있어야 한다.
    (4) 언론사는 인공지능 활용 정책과 방법, 도구 등을 홈페이지를 통해 공개하여 이용자의 올바른 미디어 이용에 도움을 주고 적극적으로 소통하여야 한다.
  • 제6조 (다양성·공정성·비차별성) 인공지능을 활용한 뉴스 콘텐츠는 다양성과 공정성, 비차별성의 가치에 부합해야 한다.
    (1) 인공지능은 알고리즘 구조와 학습 데이터에 의해 편향성을 내재할 위험성이 있음에 주의해야 하며, 뉴스 콘텐츠 생성 목적의 인공지능의 경우 학습데이터에 대한 설명이나 공개가 가능해야 한다.
    (2) 인공지능이 생성한 결과물은 사회에 유해한 결과를 초래할 수 있는 편견과 차별, 혐오 표현 등을 포함할 위험이 있으므로 이를 차단하고 부정적 효과를 줄이기 위해 노력해야 한다.
    (3) 인공지능을 활용한 뉴스 콘텐츠는 다양한 사회 가치와 이해관계를 고르게 반영하고, 정치적·종교적 균형을 유지하며 사회적 약자를 보호해야 한다.
  • 제7조 (권익 보호) 인공지능을 활용하는 과정에서 명예나 사생활, 초상권, 개인정보, 재산권 등 타인의 권리나 이익을 침해하지 않도록 해야 한다.
    (1) 인공지능에 의해 제공되는 정보가 타인의 권리와 이익을 침해하는 내용을 포함하는지 확인할 책임은 언론에 있다.
    (2) 인공지능을 활용하여 생산한 뉴스 콘텐츠가 개인의 권익을 침해한 것으로 확인될 경우 신속하게 삭제나 정정 등의 조치를 취한다.
    (3) 인공지능 활용 과정에서 개인정보를 본인 의사에 반하여 수집·공개·유포해서는 안되며, 개인정보를 입력하여 인공지능이 학습하지 않도록 주의한다.
    (4) 맞춤형 서비스 등을 위해 개인정보를 활용하는 경우에는 이용자들이 자신의 개인정보가 어떻게 사용되는지를 확인할 수 있어야 한다.
    (5) 인공지능을 활용해 정보 가치가 낮은 뉴스를 대량으로 무분별하게 확산시켜 정보를 소비하는 시민의 권리를 손상하지 않도록 주의한다.
  • 제8조 (저작권 보호) 인공지능에 의해 뉴스 저작권이 침해받지 않도록 노력하고 동시에 인공지능을 활용한 뉴스 콘텐츠가 타인의 저작권을 침해하지 않도록 주의한다.
    (1) 인공지능이나 플랫폼은 보상 없이 뉴스 콘텐츠를 학습 데이터로 활용함으로써 뉴스 저작권을 침해하지 않아야 하며, 언론은 뉴스 저작권 보호를 위해 공동 노력한다.
    (2) 뉴스 생산에 인공지능을 활용할 경우 타인의 저작권을 침해하지 않도록 주의하며, 침해 요소가 있는 경우 신속하게 시정해야 한다.
    (3) 언론 상호 간에도 독자적 뉴스의 저작권을 존중하고 인공지능을 활용한 뉴스 콘텐츠에 표절 요소가 있는지를 주의하고 점검한다.
  • 제9조 (플랫폼의 사회적 책임) 뉴스 서비스를 제공하거나 매개하는 플랫폼 사업자는 인공지능으로 생산·유통되는 정보 및 서비스에 대한 사회적 책임을 다해야 한다.
    (1) 뉴스 서비스를 제공하거나 매개하는 플랫폼 사업자는 인공지능 활용의 범위와 방식을 공개해야 한다.
    (2) 플랫폼 사업자는 인공지능을 활용한 뉴스 콘텐츠가 독자적이고 원천적인 뉴스 생산을 저해하지 않도록 노력해야 한다.
  • 제10조 (갱신과 교육) 인공지능 기술 발전과 달라질 뉴스 환경에 맞춰 준칙의 내용을 지속적으로 갱신하고 필요한 교육을 실시해야 한다.
    (1) 발전하는 인공지능 기술이 저널리즘 가치에 부합하게 활용될 수 있도록 지침과 기준을 지속적으로 개선한다.
    (2) 언론사는 정기적으로 구성원들에게 인공지능 윤리, 기술, 제도 등에 관한 교육 프로그램을 제공한다.
  • * 이 준칙은 인공지능 기술 발달에 따라 개선될 수 있습니다.



  • 2024년 12월 5일
    한국신문협회·한국방송협회·한국기자협회·한국신문방송편집인협회·한국인터넷신문협회·한국온라인신문협회