AI 시대 허위조작정보 확산, 민주주의 위협에 사회적 해법 모색
인공지능(AI) 기술의 급속한 발전은 우리 사회에 많은 편익을 제공하고 있지만, 동시에 허위조작정보의 확산이라는 심각한 위협을 초래하고 있습니다. 특히 생성형 AI 기술의 보편화로 누구나 손쉽게 콘텐츠를 제작하고 유포할 수 있게 되면서, 사실과 다른 정보가 사회적 신뢰를 훼손하고 민주주의 근간을 흔들 수 있다는 우려가 커지고 있습니다.
이러한 문제의식 속에서 국가인공지능전략위원회와 과학기술정보통신부는 2026년 11월 12일 'AI 시대의 사회적 쟁점'을 주제로 'AI 이슈 공론화 시민토론회'를 개최했습니다. 이번 토론회는 'AI 기술과 허위조작정보'를 핵심 주제로 삼아, AI 기술 발전이 사회 신뢰에 미치는 영향과 허위조작정보에 대응하기 위한 정부와 시민의 역할을 폭넓게 논의하는 장을 마련했습니다.
시민토론회에는 시민토론단, 민간 전문가, 관계기관 등 100여 명이 참석하여 심도 깊은 논의를 진행했습니다. 토론회는 1부 '라운드 테이블'과 2부 '분임 토론'으로 구성되어, 다양한 관점에서 허위조작정보 문제에 대한 해법을 모색하는 시간을 가졌습니다.
AI 기술 발전과 함께 개인정보 유출 및 사생활 침해 문제도 심각한 사회 문제로 부상하고 있습니다. 2025년 조사에 따르면 '개인정보 유출 및 사생활 침해 증가'가 국민들이 가장 우려하는 문제 1위로 나타났으며, 이는 2020년 27위에서 2025년 1위로 급상승한 수치입니다. 2024년 한 해에만 307건의 개인정보 유출 신고가 접수되었고, 이 중 56%인 171건이 해킹으로 인한 것으로 확인되어 방어 시스템 강화가 시급한 과제로 지적되었습니다(socialvalueconnect.com 보도).
김의영 AI민주주의 분과장은 이번 토론회가 허위조작정보에 대항하고 민주주의 신뢰를 지키기 위해 AI와 현장 토론을 결합한 대안 공론장을 구축하는 데 의미가 있다고 강조했습니다. 그는 AI 기술이 민주주의를 위협하는 도구가 아닌, 오히려 이를 강화하는 수단이 될 수 있음을 시사했습니다.
이진수 과학기술정보통신부 인공지능정책기획관은 AI 기술 발전이 사회 전반에 영향을 미치는 만큼, 변화와 쟁점을 국민과 함께 논의하는 과정이 중요하다고 밝혔습니다. 이는 정부가 AI 관련 정책 수립에 있어 국민의 목소리를 경청하고 반영하겠다는 의지를 보여주는 대목입니다.
물론 AI 기술 발전이 허위조작정보 확산에 미치는 구체적인 영향의 정도와 그에 대한 사회적 대응의 실효성에 대해서는 다양한 의견이 존재할 수 있습니다. 또한 허위조작정보에 대한 대응이 자칫 표현의 자유를 침해할 수 있다는 우려도 제기될 수 있어, 신중한 접근이 요구됩니다.
과학기술정보통신부와 위원회는 이번 시민토론회 논의 결과를 전문가 검토 등을 거쳐 향후 정부 정책 수립 및 검토 과정에 활용할 계획입니다. 이는 토론회에서 나온 다양한 의견들이 실제 정책으로 이어질 수 있는 중요한 과정입니다.
AI 시대의 허위조작정보 문제는 단순한 기술적 문제를 넘어 사회적 신뢰와 민주주의의 근간을 위협하는 중대한 사안입니다. 정부와 시민사회가 함께 지혜를 모아 효과적인 대응 방안을 마련하고, 지속적인 관심과 참여를 통해 건강한 정보 환경을 조성하는 노력이 필수적입니다.
이번 시민토론회는 AI 시대의 사회적 쟁점에 대한 공론의 장을 열었다는 점에서 의미가 큽니다. 앞으로도 이러한 논의가 꾸준히 이어져, AI 기술이 가져올 긍정적인 변화는 극대화하고 부정적인 영향은 최소화하는 방향으로 나아가야 할 것입니다.