[금융소비자뉴스 강승조 기자] 우리 정보기술(IT) 당국이 AI 생성물에 워터마크를 넣도록 하는 방침을 세운 것으로 알려졌다.
오픈 AI와 구글 등 인공지능(AI) 빅테크가 AI가 생성한 음성·시각 콘텐츠에 'AI가 만들었다'는 표식(워터마크)을 넣기로 백악관과 합의한 데 뒤이은 조치다.
25일 과학기술정보통신부에 따르면 과기정통부는 AI가 생성한 콘텐츠를 워터마크 처리로 구별하도록 하는 방향을 정하고 기술적인 방식에 대해 업계와 구체적인 검토를 진행 중이다.
과기정통부는 AI 부작용을 막을 수 있는 기술적인 보완 대책을 다음 달 안으로 내놓겠다는 방침이다.
박윤규 과기정통부 차관은 최근 기자간담회에서 "가짜뉴스 등 AI 부작용이나 의도적인 AI 오남용 시도에 대한 기술적인 대책을 만들어야 한다는 생각을 갖고 있다"고 밝힌 바 있다.
AI 생성에 사용된 원본 콘텐츠 저작권을 보호하고, 딥페이크 기술을 악용한 인권 침해나 가짜 뉴스 확산 등 생성형 AI 기술이 초래할 수 있는 부작용을 최소화하기 위한 것이다.
앞서 국가인권위원회도 전날 인공지능 개발·활용 과정에서 인권침해 등의 문제가 발생하지 않도록 '인공지능 법률안'에 관련 규정을 포함해야 한다는 의견을 표명한 바 있다.
국회 과학기술정보방송통신위원회 심의 중인 인공지능기본법안에 인권침해와 차별, 사회적 편견의 확대·재생산, 개인정보 유출, 허위정보 생산, 저작권 침해 등의 문제를 예방·규제할 규정이 미흡하다는 이유에서다.
인권위는 이용자와 정보 주체의 권리를 명시하고 피해구제 절차도 마련하라고 했다.
"산업 진흥과 규제라는 상호모순적 업무를 한 기관이 담당할 경우 규제의 실효성을 담보하기 어렵다"며 인공지능 감독·규제 업무는 과기부가 아닌 제3의 기관이 독립적으로 맡을 필요가 있다고 덧붙였다.
과기정통부와 업계는 특히 AI 생성물에 워터마크를 어떤 식으로 표시할지 기술적인 부분을 협의 중으로 알려졌다.
영상이나 이미지 속 또는 텍스트의 시작·끝 지점에 'AI 생성물'이라고 가시적으로 표기하는 방법 외에AI 생성물임을 자동으로 알아차리는 '비시각적 워터마크'를 넣는 방안도 강구 중이다.
AI 학습용 데이터 묶음에 워터마크 처리를 하면 거대언어모델(LLM) 등을 거쳤을 때 AI가 만든 콘텐츠임을 기계적으로 식별할 수 있다.
AI 당국의 한 관계자는 "AI 생성물에 워터마크를 넣는 시도가 AI 산업을 위축시킨다고 우려할 수도 있지만, AI 기술 활용을 막을 수 없는 상황에서 AI 생성물임을 정당하게 밝히고 널리 활용하도록 하는 지침을 주는 것이 AI 산업 발전에 더 긍정적일 수 있다"고 전했다.
