유엔총회, AI 안전성 국제 공조 논의…한국 산업계 규범 준수 과제 직면

제81차 유엔총회에서 인공지능(AI) 안전성 확보와 국제 공조 방안이 주요 의제로 부상하며, 이 논의가 한국 산업계에 미칠 영향에 관심이 쏠리고 있습니다. 특히 유엔 안전보장이사회(안보리)는 2026년 9월 23일 AI와 국제 평화·안보를 주제로 별도 회의를 개최할 예정입니다. 이 회의에는 샘 올트먼 오픈AI 최고경영자(CEO)가 직접 브리핑에 나설 것으로 알려졌습니다.

안토니우 구테흐스 유엔 사무총장은 최근 기자회견에서 AI 개발 최전선에서 제기되는 우려를 외면해서는 안 된다고 강조했습니다. 그는 AI가 유엔총회 기간 세계 정상들과의 주요 논의 주제가 될 것이라고 밝히며, AI의 잠재적 위험성에 대한 국제사회의 공동 대응 필요성을 역설했습니다.

이번 안보리 회의는 9월 의장국인 프랑스가 소집했으며, 장노엘 바로 프랑스 유럽·외무장관이 주재할 예정입니다. 회의에서는 AI 통제력 상실 위험과 최신 AI 모델이 국제 평화 및 안보에 영향을 미치는 행위에 활용될 가능성 등이 주요 논점으로 다뤄질 것으로 보입니다. 이는 AI 기술의 군사적 오용 가능성 및 사회적 통제 문제에 대한 국제사회의 깊은 우려를 반영합니다.

논의될 주요 내용은 AI 모델 출시 전 안전성 시험, 독립적인 제3자 평가, 국제적으로 통용될 수 있는 공통 안전기준 마련입니다. 또한 AI 관련 위기 발생 시 국가 간 공조 방안 등도 포함될 예정으로, 이는 AI 기술 개발의 투명성과 책임성을 강화하려는 국제적 움직임으로 해석됩니다.

이와 함께 9월 24일에는 AI 안전단체 'AI 세이프티 커넥트'가 주도하고 유엔개발계획(UNDP), 유네스코 등이 공동 주최하는 AI 위기 대응 관련 부대행사가 유엔본부에서 열립니다. 이러한 일련의 국제적 논의는 AI 기술의 윤리적 사용과 안전한 개발을 위한 글로벌 거버넌스 구축의 중요성을 부각하고 있습니다.

이러한 국제사회의 AI 안전성 논의는 한국의 AI 산업 및 관련 기업들에게 직접적인 영향을 미칠 것으로 전망됩니다. 한국은 G20 회의에서 AI 대전환 및 초혁신 경제 등 성장 촉진 방안을 공유하며 AI 분야의 선도적인 역할을 강조해왔습니다. 그러나 동시에 AI 기술의 급속한 발전과 함께 제기되는 윤리적 문제와 안전성 확보에 대한 국제적 요구에 부응해야 하는 과제를 안고 있습니다.

한국 정부는 AI 기술 개발과 활용에 있어 국제적인 기준과 규범을 준수하고, 책임 있는 AI 생태계를 구축하는 데 중요한 역할을 해야 합니다. 이는 국내 AI 기업들이 글로벌 시장에서 경쟁력을 유지하고 신뢰를 얻기 위한 필수적인 요소로 작용할 것입니다. 특히 AI 안전성 평가 및 인증 시스템 도입 등 구체적인 방안 마련이 요구됩니다.

특히 AI 기술은 사이버 안보와도 밀접하게 연관되어 있어, AI를 활용한 사이버 공격 위협에 대한 국제적 공조 및 방어 체계 구축 논의도 활발합니다. 2026년 9월 16일부터 18일까지 서울 코엑스에서 열린 '사이버 서밋 코리아 2026'에서도 고성능 AI 위협 대응과 AI 전환 시대의 사이버 안보 전략 등이 논의되었습니다. 이는 AI 기술 발전이 가져올 수 있는 새로운 안보 위협에 대한 경각심을 보여줍니다.

내년에는 수원에서 33개국 60개 기관, 3천여 명이 참여하는 대규모 국제 사이버 안보 행사가 개최될 예정입니다. 이는 한국이 AI와 사이버 안보 분야에서 국제적인 협력의 중요성을 인식하고 있음을 보여주며, 글로벌 안보 환경 변화에 대한 적극적인 대응 의지를 나타냅니다.

유엔을 중심으로 한 AI 안전성 및 국제 공조 논의는 한국 정부와 기업들이 AI 기술 개발과 활용에 있어 국제적인 기준과 규범을 준수하는 데 중요한 이정표가 될 것입니다. 한국은 이러한 논의에 적극적으로 참여하여 글로벌 AI 거버넌스 형성에 기여하고, 국내 AI 산업의 지속 가능한 발전을 도모해야 합니다.

결론적으로, 한국은 AI 기술의 선도적 위치를 유지하면서도 국제사회의 안전성 및 윤리적 요구에 부응하는 균형 잡힌 접근이 필요합니다. 이는 국내 AI 산업의 장기적인 성장과 국제적 신뢰 확보에 결정적인 영향을 미칠 것입니다.