AI 기본법 '설명 의무', 해외 기업 적용 기준 미정…시민 혼란 우려
2026년 11월 16일 기준으로, 인공지능(AI) 기술이 채용, 신용 평가, 의료 등 시민 생활 전반에 깊숙이 관여하면서 AI 시스템의 결정에 대한 '설명 의무'가 법제화되었으나, 해외 기업에 대한 구체적인 적용 기준은 아직 미정인 것으로 확인되었습니다. 이는 2026년 1월 22일 시행된 한국의 인공지능 기본법(AI Basic Act)에 따른 조치로, 시민의 알 권리 보장과 AI 시스템의 책임성 강화를 목표로 합니다.
한국의 인공지능 기본법은 개인의 삶과 안전에 중대한 영향을 미칠 수 있는 '고영향 AI 시스템'에 대해 위험 평가, 생애주기 관리, 그리고 영향을 받는 개인에 대한 설명 의무를 부과하고 있습니다. 또한, 생성형 AI가 만든 콘텐츠에는 표시 의무가 있으며, 일정 수익 또는 사용자 수를 넘는 해외 기업은 국내 대리인을 두어야 합니다. 법 위반 시 최대 3천만 원의 과태료 또는 벌금이 부과될 수 있으며, 완전한 집행 전 약 1년의 유예 기간이 있습니다.
그러나 해외 기업의 국내 대리인 지정 의무와 관련하여, 구체적인 수익 또는 이용자 수의 임계값은 아직 확정되지 않아 향후 시행령을 통해 구체화될 예정입니다. 이처럼 AI 규제가 일상생활에 미치는 영향이 커지고 있음에도 불구하고, 일부 핵심적인 적용 기준이 불분명하여 시민들과 관련 기업들의 혼란이 예상됩니다.
이번 AI 기본법의 가장 큰 변화는 시민들이 AI의 결정에 대해 설명을 요구할 수 있는 법적 근거가 마련되었다는 점입니다. 예를 들어, 구직자가 채용 플랫폼에서 탈락 통보를 받았을 때, 대출 신청자가 자동 심사에서 낮은 한도를 받았을 때, 또는 환자가 의료 AI의 분석 결과를 진료 과정에서 접했을 때, 그 결정에 AI가 어떤 역할을 했는지 설명을 받을 수 있게 됩니다.
이는 AI가 단순한 편의 도구를 넘어 사회적 결정을 분담하는 기반 시설로 전환됨에 따라, 최소한의 설명 경로를 제도화하는 것이 불가피하다는 본지의 분석입니다. 시민들은 AI가 관여한 결정에 대해 알 권리를 가지며, 이는 투명하고 공정한 사회를 위한 중요한 발걸음으로 평가됩니다.
한국의 AI 기본법은 아시아 태평양 지역에서 첫 포괄적 AI 일반 법률로 평가받고 있습니다. 반면 중국은 서비스 유형별 의무 규정을 단계적으로 도입하고 있으며, 2026년 11월 3일에는 AI 기업 안전 표준을 공식 발표하여 위험 평가, 데이터 보호, 알고리즘 투명성을 모델 배포 전 요구하는 체계를 추가했습니다.
이러한 해외 규제 동향은 한국 기업에도 영향을 미칠 수 있습니다. 중국 이용자를 대상으로 AI 서비스를 제공하는 한국 기업은 등록, 보안 평가, 라벨링 요구 등을 검토해야 하며, AI 생성 콘텐츠 표시 의무는 허위 영상 및 자동 생성 이미지 유통 방식에 변화를 가져올 수 있습니다.
일각에서는 촘촘한 AI 규제가 스타트업과 중소기업의 문서 작업 부담을 늘리고 제품 출시를 지연시킬 수 있다는 우려도 제기됩니다. 그러나 AI가 이미 사람의 기회와 안전에 영향을 미치는 현실을 고려할 때, 이러한 규제는 불가피한 조치라는 반론도 존재합니다.
현재 미확정 상태인 해외 기업 적용 기준 등 구체적인 시행령이 마련되어야 AI 기본법의 실질적인 효과를 기대할 수 있을 것으로 보입니다. 정부는 AI 허위조작정보 확산에 대응하기 위해 시민 100명의 의견을 수렴하는 'AI 이슈 공론화 시민토론회'를 11월 12일 개최하는 등 시민 의견을 정책 수립에 반영하려는 노력을 기울이고 있습니다.
앞으로도 AI 기술의 발전이 사회 전반에 미치는 영향을 고려하여, 국민과 함께 논의하고 정책에 반영하는 과정이 중요할 것으로 예상됩니다. 명확한 기준 마련을 통해 시민의 권리를 보장하고 기업의 예측 가능성을 높이는 것이 시급합니다.