사회적 점수 평가, 원격 생체인식 식별 등 원천금지… 딥페이크는 'AI 기반' 표기
[금융소비자뉴스 박혜정 기자] 유럽연합(EU)이 세계 최초로 마련한 포괄적 인공지능(AI) 규제법이 오는 10월부터 순차적으로 시행될 전망이다.
유럽의회는 13일(현지시간) 프랑스 스트라스부르에서 열린 본회의에서 'AI 법' 최종안이 찬성 523표(반대 46표, 기권 49표)로 가결했다고 연합뉴스가 보도했다.
EU 27개국 장관들이 내달 최종 승인하면 관보 게재를 거쳐 발효된다. 일부 금지 조항은 발효 뒤 6개월부터 적용되며, 이후 단계적으로 도입돼 2026년 이후 전면 시행된다.
보도에 따르면 최종안은 AI 활용 분야를 총 네 단계의 위험 등급으로 나눠 차등 규제하고, 법 위반 시 경중에 따라 전 세계 매출의 1.5%에서 최대 7%에 해당하는 과징금이 부과될 수 있도록 했다.
고위험 등급으로 분류되는 의료, 교육을 비롯한 공공 서비스나 선거, 핵심 인프라, 자율주행 등에서 AI 기술 사용 시 사람이 반드시 감독하도록 하고 위험관리시스템을 구축해야 한다.
범용 AI(AGI·사람과 유사한 수준 또는 그 이상의 지능을 갖춘 AI)를 개발하는 기업에 대해서는 '투명성 의무'를 부여하기로 했다. 관련 조항은 2021년 발의된 초안에는 없었지만 이듬해 챗GPT 등 생성형 AI 등장으로 AI 오남용에 대한 우려가 확산하면서 입법 과정에서 추가됐다.
또 범용 AI 업체들은 EU 저작권법을 반드시 준수해야 하며 AI의 학습과정에 사용한 콘텐츠를 명시해야 한다.
또 광범위한 사이버 공격, '유해한 선입견' 전파 등 EU가 시스템적 위험이라고 규정한 사고 발생을 방지하기 위한 조처를 해야 한다.
별도의 정보 공개·고지 의무도 부과된다.
일부 AI 기술 활용은 원천 금지된다. 개인의 특성·행동과 관련된 데이터로 개별 점수를 매기는 관행인 '사회적 점수 평가'(social scoring)가 대표적이다.
AI를 활용한 실시간 원격 생체인식 식별 시스템 사용도 사실상 금지된다. 강간·테러와 같은 중대 범죄 용의자 수색을 비롯해 예외적인 경우에 일부 허용되지만 이 경우에는 법원의 사전 허가를 받도록 했다.
이 밖에 딥페이크 영상이나 이미지는 AI로 만든 조작 콘텐츠라는 점을 표기하도록 했다.
