[금융소비자뉴스 강승조 기자] 미국 금융 감독 당국이 인공지능(AI)이 금융 시스템에 위험을 초래할 수 있다고 처음으로 경고했다.
미 금융안정감독위원회(FSOC)는 14일(현지시간) 연례 보고서에서 "AI가 혁신을 촉진하고 효율성을 높일 잠재력이 있지만 금융 분야에서의 사용은 잠재적 리스크를 관리하기 위한 신중한 시행과 감독을 요구한다"고 외신을 인용해 연합뉴스가 전했다.
2008년 금융 위기 이후 신설되어 현재 재닛 옐런 재무장관이 이끄는 FSOC는 AI를 '급부상하는 취약점'으로 공식 규정했다.
금융기관들의 챗GPT 같은 생성형 AI 도입에 따라 데이터 보안과 소비자 보호, 사생활 위험 등 우려도 언급했다.
생성형 AI가 환각 현상(할루시네이션)으로 불리는 결함 있는 결과를 내놓을 수 있고, 일부 AI 모델의 경우 외부에서 내부 업무에 접근할 수 없는 '블랙박스'처럼 작동할 수 있다는 점도 우려의 대상이 됐다.
FSOC는 "이런 설명 가능성의 부족은 금융 시스템의 개념적 건전성을 평가하기 어렵게 하고 적합성과 신뢰성에 대한 불확실성을 증대시킨다"고 강조했다.
은행들이 베일에 싸인 AI 모델에 의존하게 되면 금융 시스템이 얼마나 견조한지 알기 어렵다는 것이다.
앞서 많은 관련 분야 전문가가 AI 기술이 통제 불능 상태로 성장하면 재앙적인 결과를 초래할 수 있다고 경종을 울린 바 있다.
FSOC에 참여하는 미국 증권거래위원회(SEC) 등 감독기관들도 기업들이 어떻게 AI를 활용하는지에 대한 조사에 나섰고 백악관은 AI 리스크 완화를 위한 행정명령을 발표했다고 로이터통신은 전했다.
