[비즈체크=장동한 전문기자] 2022년말 Open AI 가 Chat GPT 를 출시한 이래 GAI(Generative AI 생성형 AI)가 급속도로 진화 중이다. 인류는 바야흐로 AI 시대에 접어들었는데 앞으로의 AI 진화 과정을 정리해 본다.
⁃ 대화하는 AI(chatbots)
⁃ 추론하는 AI(reasoners)
⁃ 일을 대행하는 AI(agents)
⁃ 혁신적인 AI(innovators)
⁃ 조직을 관리하는 AI(organizers)

첨단 AI 기법은 비즈니스 리스크 관리에도 훌륭하게 활용될 것인데 GRC(Governance. Risk Management. Compliance) 차원에서 분석해 보자. 우선, 리스크 관리(Risk Mgt.)에 혁신적인 AI 기술들이 활용됨으로써 사고 예방에 있어 큰 전기가 될 전망이다. 예를 들어 영화 Minority Report(2002)의 설정처럼 범죄 예방이나 재해 예방에 AI 가 훌륭하게 쓰일 수 있다. 조직의 합리적인 의사결정 시스템(Governance)의 향상에도 AI 의 활약이 기대된다. 일반적이고 단순한 법과 규정의 준수(Compliance)에 있어 AI 는 더없이 효과적이다. 물론 비즈니스의 리스크 관리, 거버넌스, 컴플라이언스에 있어 AI 의 한계 또한 분명하다. 그러나 GRC 차원의 수준 높은 리스크 관리에 있어 AI 의 활용은 상당히 긍정적인 효과를 가져다 줄 것으로 예상된다.

반면, AI 활용은 우리 사회에 전례 없는 위험을 가져 오기도 한다. 최근 세계적으로 큰 논란이 되고 있는 딥페이크(deepfake) 문제가 좋은 예다. 허위 정보, 가짜 뉴스, 선동, 음란물 대거 유포 등의 문제가 심각하다. 또 AI 알고리즘이 편견을 반영하는 과거의 데이터로 학습될 때 편향(bias) 문제가 발생한다. AI 윤리와 가치 정렬 문제는 어떤가? AI 시스템이 인간에게 끼칠 수 있는 피해에 대한 충분한 고려 없이 주어진 목표만을 추구하게 될 때 비윤리적인 결과나 가치 전도의 문제가 생길 수 있다. 초지능 AI 기계의 발달 폭주로 살상용 로봇의 대량 확산과 같은 제어하기 힘든 상황의 전개 또한 가능하다.

이와 같이 AI 시대의 전개는 인류에게 양날의 검과 같은 엄청난 리스크를 가져 왔다. 그래서 이제 AI 리스크 관리에 있어 인류의 지혜가 지극히 필요한 상황이 된 것이다. 속도 제한이 없다는 독일 고속도로 아우토반(Autobahn)에선 간혹 대형사고가 나고 큰 피해가 발생한다. 그런데 그런 대형 교통사고가 발생한다고 해서 고속도로라고 하는 훌륭한 인프라 자체를 없앨 순 없는 일이다. AI 는 이미 도도하고 광범위하게 전개되고 있는 인류 발전의 혁신적 인프라이자 성장 패러다임이다. 앞으로 어떻게 더 안전한 AI 인프라를 만들고, 어떻게 더 건전하고 안전한 AI 운용을 해야할지에 대해 고민하는 게 AI 시대 성공적인 리스크 관리의 발전 방향이다.

장동한 리스크관리 전문기자(건국대학교 명예교수) dhchang@konkuk.ac.kr

비즈체크 bizcheck114@naver.com bizcheck114@naver.com bizcheck114@naver.com의 기사 더보기

저작권자 ⓒ 비즈체크, 무단 전재 및 재배포 금지