"소수의 데이터 취합ㆍ관리 기관 의존도 높아질 것...선제적 대응 기구 신설해야"
[금융소비자뉴스 박도윤 기자] 금융 분야에서 사용되는 인공지능(AI)이 획일화를 지향하며 금융시스템 안정성을 저해할 수 있다는 우려가 제기됐다.
한국금융연구원은 24일 '금융안정에 대한 AI의 잠재적 위협과 관리 방안의 모색' 보고서를 통해 이 같이 밝히고 금융당국과 학계, 업계가 협력해 관리 방안을 마련할 것을 촉구했다.
혔다.
보고서는 기술의 오용이나 알고리즘 오작동, 혹은 의도된 잘못이 없더라도 AI 확산이 금융시스템에 위기를 촉발할 수 있다고 지적했다.
AI는 소수 모형의 시장 지배, 데이터 활용·상호 반응 등을 통해 서로 비슷해지기 쉬운데, 이런 AI의 '획일성'이 시스템 위험을 유발할 수 있다는 것이다.
연태훈 선임연구위원은 "다수의 AI, 혹은 AI의 도움을 받은 다수의 시장참여자가 유사한 결정을 내려 시장에서 획일적인 결과가 발생하면 경기 순응성 위험 또는 자기 강화형 시장 급등락이 초래될 수 있다"고 경고했다.
다수의 AI가 시장 침체에 직면한 뒤 이익의 극대화를 위해 취하는 '합리적이지만 획일적' 행동들이 시장을 지배하게 되고 이는 시장 상황을 더욱 빠르게 침체시키는 악순환이 될 수 있으며, 과열된 시장에서는 반대 방향의 악순환이 나타날 수 있다는 것이다.
이 같은 AI의 위험은 앞서 미국에서도 제기돼 논란이 됐다.
개리 겐슬러 미국 증권거래위원회(SEC) 위원장은 AI의 발전이 금융시스템의 획일성과 상호연결성을 높여 시스템을 규제하기 어렵게 만들 수 있다는 점 등을 연이어 지적한 바 있다.
이에 SEC는 금융회사의 AI 활용과 관련한 새로운 규제안을 이르면 10월까지 도입할 계획으로 알려졌다.
금융시장에서 AI 확산이 획일성을 향해 갈 것이란 예측은 규모의 경제와 네트워크 효과에 따라 소수의 데이터 취합ㆍ관리 기관에 의존도가 높아질 것이란 전망 때문이다.
딥러닝이 보편화된 AI들로부터 수렴한 데이터와 모형들이 내놓는 예측들의 상관관계가 높아지고 결국 군집행동으로 이어질 수 있다는 우려다.
게다가 금융회사들이 자체적으로 AI 모형을 개발하기보다는 AI 서비스나 구독형 AI 같은 외부 업체가 제공하는 모형을 이용하면서, 소수의 시장지배력을 가진 AI 기업을 중심으로 금융시장이 재편되며 획일화가 가속화 될 것이란 예상이다.
이처럼 시장지배력을 가진 데이터 제공업체나 AI 서비스 업체가 네트워크 상에서 핵심 지위를 차지하게 되면 시스템의 안정성이 위협받을 수 있다는 것이다.
연 선임연구원은 "AI 확산에 따른 시스템 위험을 방지하기 위해서는 금융시스템 전체를 조망해 관련 위험을 모니터링하고 선제적으로 대응하기 위한 기구를 신설하거나 해당 업무를 담당할 기관을 지정해야 한다"고 제언했다.
