[정기석 칼럼] 지난 8일 AI 기본법 시행령 초안이 공개됐다. 유럽연합(EU)에 이어 세계 두 번째 AI 관련 법안이다. 이 ‘인공지능발전과 신뢰 기반 조성 등에 관한 기본법안’은 내년 1월 시행을 앞두고 있다.
AI 기본법 시행령은 AI 사용에서 투명성을 확보하기 위한 목적이다. 특히 '고영향' 인공지능은 인간 기본권에 막대한 영향을 줄 수 있다. 따라서 이용자에 대한 사전 고지와 AI에 의한 결과물임을 표시하기로 했다.
또한 사람 눈에 보이지 않지만, 기계가 AI 생성물임을 자동으로 알아차리는 비가시적 워터마크도 표식으로 인정된다.
딥페이크 결과물도 위험하다. 연령이나 장애 여부 등 이용자의 신체적 조건을 고려, 딥페이크임을 표시해야 한다. 다만, 사업자 내부 업무용이거나 생성형·고영향 AI 기반이 명백한 경우에는 표시 의무가 면제된다.
안정성 확보 대상인 고성능 AI 모델은 아직 국내외에 존재하지 않는다. 거대 규모인 10의 26제곱 플롭스 이상(누적 연산량 기준)이다. 사람의 생명, 신체의 안전, 기본권에 광범위하고 중대한 영향을 미칠 수 있는 AI 시스템으로 규정됐다.
고영향 AI는 에너지, 보건·의료, 원자력, 교통, 교육 등에서 활용된다. 신뢰성 확보를 위한 구체적 이행 방안이 중요하다.
이때, 신뢰성 확보 조치란 위험 관리 교육 방안이나 관리 조직 운영안 등 이용자 보호 방안을말한다. 여기에 오작동 방지나 보안 대책 등도 필요하다.
국가인공지능(AI) 전략위원회 위원장, 이재명 대통령
사업자가 고영향 AI 서비스를 제공할 경우, 일괄적 적용보다 사용 맥락에 따라 규정한다. 가령 인간 직원의 개입 없이 AI에 의해 완전 자율형으로 운영될 경우는 고영향으로 간주한다.
특히, 이번 시행령은 AI 제품이나 서비스를 제공할 경우 기본권에 미치는 영향 평가를 사업자가 자율적으로 할 수 있도록 했다. 다만, 고영향 AI는 영향 평가 실시에 노력해야 하는 의무를 규정했다.
맞추어 ‘AI 3대 강국(G3)' 도약에 시동을 거는 국가인공지능(AI) 전략위원회도 출범식을 가졌다. 이재명 대통령이 위원장을 맡아 직접 챙긴다. 한국 독자 AI 파운데이션 모델을 개발한다는 목표와 비전이다.
구체적으로, 산업·공공·지역 전반에서 AI 대전환(AX)을 추진하고 우리나라가 세계적으로 강점을 가진 문화·국방 등 분야에서 AI를 전략적으로 결합, 신성장 동력 창출과 수출 성장을 견인한다는 계획이다.
이른바 ‘대한민국 AI 액션플랜’ 추진 방향도 발표됐다. AI 3대 강국 도약을 위한 AI 혁신 생태계 조성, 범국가 AI 기반 대전환, 글로벌 AI 기본사회 기여를 3대 정책 축으로 삼았다.
이재명 정부의 크고 빠른 보폭에 맞추듯 국내 최고의 인공지능 전문가들도 한국형 AI 개발은 반드시 가야 할 길이라고 입을 모으고 있다. 이들은 한국의 강점으로 고성능 반도체부터 소프트웨어, 클라우드, AI 모델까지 AI의 모든 구성요소를 개발할 수 있는 '풀스택'(Full-stack) 역량을 꼽고 있다.
그런데 최근 국회입법조사처의 ‘인공지능(AI) 3대 강국 도약을 위한 양손잡이 전략 : 자원·인프라 공급 정책과 경쟁력 있는 AI 시장 환경 조성 정책의 균형’ 보고서에 따르면, 정부 일방의 공급 정책만으로는 AI 3대 강국 도약을 보장하기 어렵다고 지적했다.
정부의 공급 정책만으로 AI 3대 강국은 어려워
AI 선진국･경쟁국이 수백조 원의 투자를 추진하고 미국 AI 기업 하나가 수십만 장의 GPU를 가동하는 상황이 엄연한 현실임을 자각해야 한다는 것이다.
따라서 향후 ‘경쟁력 있는 AI 시장 환경’을 조성하는 수요 측 정책을 강화, 현재 추진 중인 자원･인프라 공급 정책과의 균형 및 보완 관계를 이루는 양손잡이 전략(ambidextrous strategy)이 필요하다는 제언이다.
구체적으로 사업화가 보장되어야 한다. AI 기업이 창업･시장진입을 위해 규제샌드박스 신청하면 정부가 안 되는 이유를 입증하는 ‘AI 샌드박스’를 도입하라는 제안이다. 경쟁국보다 더 빠른 AI 창업･사업화 환경을 갖춘 ‘AI 클러스터’를 조성하라는 주문이다.
아울러 수요 확대를 병행해야 한다. 정부･공공기관의 공공AX 선도 사례를 창출･확산, 민간AX 비용 경감을 위해 AX 세액공제와 비용지원을 추진해야한다는 것이다.
기반도 강화되어야 한다. AI 윤리를 발전시키고, 기술･윤리･법학･인문학･사회과학 등이 포괄적으로 참여 AI 한계를 논의하는 것도 중요하다.
‘인공지능(AI) 3대 강국 도약’이야말로 이재명 정부의 핵심 국정과제다. 현재 압도적 선두권인 미국과 중국 다음으로 한국의 위상을 높이려는 야심이다. 그러나 현실은 결코 녹록치 않다. AI 선진국과 경쟁국은 우리보다 더 크고 빠른 걸음으로 저 앞에 달려나가고 있다.
‘K-AI'도 얼마든지 가능하지 않겠는가. K-팝, K-드라마, K-푸드, K-뷰티, K-문화도 그 시작은 미약했다. 그러나 오늘날 글로벌시장에서 ’K-'의 열풍이 불고 있다. 결국, 이토록 창대하지 않았던가.
#외부 칼럼은 본지의 편집방향과 일치하지 않을 수 있습니다.
<필자소개>
정기석(tourmali@hanmail.net)
전국퇴직금융인협회 금융시장연구원 연구위원
경상국립대 창업대학원 6차산업학과 비전임교원
前 국회정책연구위원
