한국소비자원이 10일 공개한 유명인·언론사 영상 조작 광고 사례. 사진=한국소비자원
정부가 AI 기술을 활용한 허위·과장 광고 확산을 차단하기 위해 AI 생성물 표시 의무화, 위법행위 징벌적 손해배상 등을 포함한 강력한 규제 대책을 내놨다.
빠르게 늘어나는 딥페이크 기반 광고와 조작 콘텐츠가 고령층 등 취약 소비자 피해로 이어지자 정부 차원의 선제적 대응이 본격화된 것이다.
정부는 10일 김민석 국무총리 주재로 열린 제7회 국가정책조정회의에서 'AI 등을 활용한 시장 질서 교란 허위·과장광고 대응 방안'을 확정·발표했다.
정부는 먼저 플랫폼 및 정보제공자에게 AI 생성물 표시 의무를 부과한다.
방송미디어통신위원회는 사진·영상 등 콘텐츠가 AI로 제작·편집된 경우 반드시 이를 명확히 표시하도록 하고, 플랫폼 사용자가 해당 표시를 삭제하거나 훼손하는 행위를 금지하기로 했다.
플랫폼 사업자는 정보제공자가 표시 의무를 준수하는지 관리·감독해야 한다.
또한 과학기술정보통신부는 AI 사업자의 투명성 확보를 위해 AI 생성물 사용·표시 가이드라인을 마련해 업계의 적용 기준을 구체화할 계획이다.
정부는 유통 단계를 중심으로 한 신속 차단 체계도 강화한다.
식·의약품, 화장품, 의료기기 등 피해 우려가 큰 품목의 AI 허위·과장광고는 방송미디어통신심의위원회 서면심의 대상에 추가된다.
심의요청 후 24시간 이내 신속 심의가 가능하도록 절차를 대폭 단축하며, 식약처의 ‘패스트트랙’ 시스템도 해당 품목까지 확대 적용한다.
국민 피해 우려가 큰 긴급 사안은 방송미디어통신위원회의 플랫폼사 긴급 시정요청을 허용해, 정식 심의 이전이라도 즉각적인 차단이 가능하도록 했다.
플랫폼 자율규제도 강화된다.
정부는 플랫폼 사업자가 허위·과장광고 모니터링 체계를 확대하도록 유도하고, 자체 경고·삭제 조치 기준을 명확히 마련하는 방안을 검토 중이다.
아울러 정부는 위법행위에 대한 금전 제재 수위를 대폭 강화한다. 공정거래위원회와 식품의약품안전처는 AI 조작 전문가·가짜 유명인을 활용한 광고에 대한 위법성 판단 기준을 제시해 예측 가능성을 높이고, 적발 시 즉각 제재할 수 있도록 했다.
특히 정보통신망 등을 통한 악의적 허위·조작정보 유포에는 징벌적 손해배상제(손해액의 최대 5배)를 적용하기로 했으며, 표시·광고법상 과징금도 상향 조정한다.
김민석 총리는 "AI 시대의 부작용을 최소화하고 시장 질서를 바로 세우는 출발점이 될 것"이라며 "소비자 보호와 투명한 디지털 생태계 조성을 위한 규율 체계를 지속 정비하겠다"고 말했다.
이번 대책은 AI 기반 콘텐츠 생산이 폭발적으로 증가한 상황에서 기업·플랫폼·정부의 역할을 명확히 하는 규범 정비라는 점에서 의미가 있다.
다만 업계에서는 기술 발전 속도에 비해 규제 가이드라인의 현실 적용 가능성, 플랫폼의 모니터링 부담 증가 등에 대한 우려도 공존한다.