[인더스트리뉴스 한원석 기자] 최근 각광받고 있는 인공지능(AI)과 관련해 아시아·태평양(AP) 지역에서 2030년까지 투자되는 금액이 1170억달러(한화 약 171조원)에 달하고, AI 시장은 향후 10년간 5배 성장할 것이라는 전망이 나왔다.

15일 한국 딜로이트 그룹은 아·태 13개 지역 고위 리더 900여명을 대상으로 설문 조사한 결과 이같이 나타났다고 밝혔다.

딜로이트 액세스 이코노믹스와 딜로이트 AP AI 연구소가 공동으로 발표한 보고서에 따르면, 고위 리더들은 AI 활용시 고려해야 할 주요 리스크로 가장 먼저 ‘보안취약성(86%)’을 꼽았다. 이어 △감시(83%) △개인정보보호(83%) 순이었다.

소비자의 62%가 AI를 윤리적으로 활용하는 기업에 더 높은 신뢰를 보이는 것으로 나타나, 기업의 리스크 관리 역량이 경쟁력의 핵심 요소로 떠오르고 있다.

이에 딜로이트는 ‘신뢰할 수 있는 AI 프레임워크’를 기반으로 한 거버넌스 구축을 강조하고 △투명성과 설명 가능성 △공정성과 편견 없음 △견고성과 신뢰성 △개인정보보호 존중 △안전과 보안 △책임성(사회·윤리적 책임을 가지고 개발 및 운영) △명확한 책임 소재를 핵심 원칙으로 설정했다.

이를 위해 △조직 구조 △정책 및 원칙 △절차와 통제 △인력과 스킬 △모니터링 및 보고 등 AI 거버넌스 구축에 필요한 5가지 주요 항목들에 대한 성숙도 진단 평가가 도움이 될 것이라고 제안했다.

보고서에 따르면 기업 직원 중 평균 56%가 AI를 책임감 있게 사용할 기술과 역량을 갖추고 있었다. AI 교육을 제공하는 기업은 그렇지 않은 기업에 비해 AI를 안전하게 사용할 수 있는 직원의 비율이 27% 더 높다고 분석했다.

보고서는 AI 거버넌스 성숙도 지수에서 '준비 완료' 단계에 도달한 기업은 고객 서비스, 마케팅 및 판매, 운영 및 생산, 연구 개발(R&D) 등 다양한 영역에서 AI를 사용할 가능성이 3배 이상 높다고 분석했다. 또 AI 거버넌스 체계를 구축하면 AI 솔루션이 배포된 분야에서의 활용 범위가 증가함도 확인했다.

한편 딜로이트는 리더가 AI 거버넌스를 개선하기 위해 AI 수익 창출을 위한 명확한 AI 거버넌스 우선순위를 설정해야 한다고 강조했다. 또한 광범위한 AI 공급망의 이해와 활용을 통해 기업의 경쟁력을 강화하고, 직원들을 단순한 리스크 회피자에서 리스크 관리자로 양성하는 것이 중요하다고 언급했다. 아울러 조직 내 소통 강화와 AI 전환 준비 체계 구축을 신뢰할 수 있는 AI 거버넌스 정착을 위한 필수 요소로 제시했다.

김진숙 한국 딜로이트 그룹 AI혁신·거버넌스 부문 리더는 “생성형 AI 시대가 다가오고 있으나 안타깝게도 기업 현장에서는 신뢰할 수 있는 AI의 효과적 활용을 끌어낼 수 있는 AI 거버넌스가 제대로 구축되지 않고 있다”면서 “이번 리포트를 통해 딜로이트가 제시하는 AI 거버넌스 요소 및 현황을 바탕으로 의미 있는 AI 인사이트를 얻어 갈 수 있길 바란다”고 말했다.

한원석 기자 다른기사 보기