[PRNewswire] 생성형 AI에 대한 신뢰 급증… AI 안전장치 부족은 여전

-- SAS, AI 사용 및 도입 현황 조사한 '데이터 및 AI 영향 보고서' 발표 신뢰할 수 있는 AI 구축 시, AI 프로젝트에서 ROI 두 배 달성 가능성 60% 상승 책임 있는 AI 실천 외면할 경우 높은 비용 초래

미국 노스캐롤라이나주 캐리(Cary) 2025년 10월 1일 /PRNewswire=연합뉴스/ -- 글로벌 데이터 및 AI 선도기업 SAS(쌔스)가 AI의 활용과 영향력, 그리고 신뢰성에 대한 새로운 연구 결과를 발표했다. SAS가 의뢰하고 IDC가 수행한 'IDC 데이터 및 AI 영향 보고서: 신뢰의 필수성(The Trust Imperative)'에 따르면, IT 및 비즈니스 리더들은 생성형 AI에 대해 다른 형태의 AI보다 더 높은 신뢰를 보이는 것으로 나타났다.

AI 사용 및 도입 현황을 조사한 이번 글로벌 연구에서, 신뢰할 수 있는 AI를 우선시하는 조직의 경우 AI 프로젝트에서 두 배 이상의 ROI를 달성할 가능성이 60% 더 높은 것으로 나타난 반면, 전체 응답자의 40%만이 AI 시스템의 신뢰성 확보를 위해 거버넌스, 설명 가능성, 윤리적 안전장치 등에 투자하고 있는 것으로 드러났다. 또한 역설적으로, 신뢰할 수 있는 AI 시스템에 가장 적게 투자한 그룹에서는 생성형 AI(예: ChatGPT)를 기존 AI(예: 머신러닝)보다 200% 더 신뢰한다고 응답했는데, 이는 기존 AI가 더 안정적이고 설명성이 높다는 점과 상반된 결과이다.

IDC의 AI 및 자동화 부문 리서치 디렉터 캐시 랭(Kathy Lange)은 "인간과 유사한 방식의 상호작용과 사회적 친숙함을 지닌 AI의 형태가 실제 정확도나 신뢰성과 관계없이 더 큰 신뢰를 유도한다는 모순된 결과가 나왔다"며 "AI 제공자, 전문가, 사용자 모두는 '생성형 AI가 신뢰받고 있지만, 실제로 신뢰할 수 있는가?'라는 질문을 던져야 한다"고 말했다.

이번 연구는 북미, 중남미, 유럽, 중동 및 아프리카, 아시아 태평양 지역의 IT 전문가 및 비즈니스 리더 2,375명을 대상으로 실시되었으며, 기술 및 비즈니스 관점이 균형 있게 반영되었다.

새로운 AI 기술에 대한 더 높은 신뢰도

이번 조사에서는 전반적으로 보다 안정적인 AI 기술 보다 생성형 AI나 에이전틱 AI와 같은 신기술에 대한 신뢰가 더 높은 것으로 나타났다. 응답자 중 48%는 생성형 AI에 대해 '완전한 신뢰'를 보였으며, 33%는 에이전틱 AI(agentic AI)에 대해 같은 수준의 신뢰를 나타냈다. 반면, 기존 AI는 가장 낮은 신뢰도를 기록했으며, '완전한 신뢰'를 보인 응답자는 18%에 불과했다.

생성형 AI와 에이전틱 AI에 대한 높은 신뢰에도 불구하고, 응답자들은 데이터 프라이버시(62%), 투명성과 설명 가능성(57%), 윤리적 사용(56%)에 대한 우려를 동시에 표명했다.

한편, 양자 AI(quantum AI)는 아직 대부분의 활용 사례가 실현되지 않았음에도 불구하고 빠르게 신뢰를 얻고 있는 것으로 드러났다. 전 세계 의사결정자 중 약 3분의 1은 양자 AI에 익숙하다고 답했으며, 26%는 해당 기술에 대해 '완전한 신뢰'를 보였다.

AI 안전장치 부족은 AI 영향력 및 ROI 저하로 이어져

연구 결과, AI 사용이 급격히 증가했으며, 특히 생성형 AI가 가시성과 적용 면에서 기존 AI를 빠르게 앞질렀다(생성형 AI 사용률 81%, 기존 AI 사용률 66%). 이는 새로운 차원의 위험과 윤리적 문제를 제시하고 있다.

IDC는 전 세계적으로 AI에 대한 신뢰 수준과 실제 신뢰성 사이의 불일치를 확인했다. 전체 응답자의 78%는 AI를 '완전히 신뢰한다'고 답했지만, 실제로 AI 거버넌스, 설명 가능성, 윤리적 안전장치에 투자한 기업은 40%에 불과했다.

또한 AI 프로젝트를 운영하는 과정에서 '신뢰할 수 있는 AI'를 위한 방안들이 중요하게 고려되지 않고 있다는 것을 알 수 있다. 조직의 우선순위 3가지 중 AI 거버넌스 프레임워크 개발을 선택한 비율은 2%이었으며, 책임 있는 AI 정책 개발은 10% 미만을 기록했다. 이러한 저조한 투자로 인해 AI 투자 효과가 충분히 실현되지 못할 가능성이 있다.

연구진은 응답자를 '신뢰할 수 있는 AI 선두주자'와 '후발주자'로 구분했다. 선두 그룹은 AI 시스템의 신뢰성을 확보하기 위한 기술, 거버넌스 프레임워크 등에 가장 많이 투자하고 이로 인한 효과를 거두는 기업으로서, 이들은 AI 프로젝트에서 두 배 이상의 ROI를 거둘 가능성이 1.6배 더 높았다.

데이터 기반과 거버넌스 부족이 AI 성공을 저해

AI 시스템이 핵심 프로세스에 통합되며 점점 더 자율화됨에 따라, 데이터 기반의 중요성도 커지고 있다. 데이터의 품질, 다양성, 거버넌스는 AI 결과에 직접적인 영향을 미치며, 스마트한 데이터 전략은 ROI, 생산성 향상 등의 이점을 실현하고 위험을 줄이는 데 필수적이다.

AI 구현 성공을 저해하는 세 가지 주요 장애물로는 분산되어 있는 데이터 인프라(49%), 미흡한 데이터 거버넌스(44%), AI 전문 인력 부족(41%)이 꼽혔다.

AI에 활용되는 데이터를 관리하는 데 있어 가장 큰 문제는 관련 데이터 소스 접근의 어려움(58%)으로 나타났다. 이 외에도 데이터 프라이버시 및 규제 준수 문제(49%), 데이터 품질 문제(46%)가 주요 우려사항으로 드러났다.

SAS 최고기술책임자 브라이언 해리스(Bryan Harris)는 "사회와 기업, 직원 모두를 위해 AI에 대한 신뢰를 확보하는 것은 필수적 요소"라며 "이를 위해 AI 구현의 성공률을 높이고, 인간이 AI 결과를 비판적으로 검토해야 하며, 경영진들은 직원들에게 AI 역량을 부여해야 한다"고 강조했다.

전체 보고서는 다음 사이트에서 확인 가능하다: sas.com/ai-impact

*미국 시간으로 9/30일 진행되는 LinkedIn Live [https://edge.prnewswire.com/c/link/?t=0&l=ko&o=4520953-1&h=1445675679&u=https://www.linkedin.com/events/7372346441039794176/&a=LinkedIn+Live] 패널에서는 The Atlantic의 CEO 니콜라스 톰슨(Nicholas Thompson)이 진행을 맡고, SAS, Deloitte, IDC의 게스트 연사가 참여한다.

SAS 소개

SAS는 글로벌 데이터 및 AI 선도기업으로, 업계별 솔루션과 소프트웨어를 통해 데이터를 신뢰할 수 있는 의사결정으로 전환한다. SAS는 여러분에게 'THE POWER TO KNOW®'를 제공합니다.

SAS Innovate 2026: SAS Innovate 2026 행사가 2026년 4월 27일부터 30일까지 텍사스주 그레이프바인(Grapevine)에서 개최됩니다. 본 행사는 비즈니스 리더, 기술 사용자, 그리고 SAS 파트너들을 위한 특별한 경험을 제공할 예정입니다. 더 자세한 정보와 일정 저장을 위해 SAS Innovate 웹사이트 [https://edge.prnewswire.com/c/link/?t=0&l=ko&o=4520953-1&h=1520474751&u=https://www.sas.com/en/events/sas-innovate/save-the-date.html&a=SAS+Innovate+웹사이트]를 방문해 주세요!

SAS 및 기타 모든 SAS Institute Inc. 제품 또는 서비스 명칭은 미국 및 기타 국가에서 SAS Institute Inc.의 등록 상표 또는 상표입니다. ®는 미국 등록을 의미합니다. 기타 브랜드 및 제품명은 해당 회사의 상표입니다. 저작권 © 2025 SAS Institute Inc. 모든 권리 보유.

심벌 마크 - [https://mma.prnasia.com/media2/1250367/SAS_v1_Logo.jpg]

*보도자료 문의 : SAS코리아 마케팅부 황혜신 이사(2191-7096/010-5457-3483)

출처: SAS

[※ 편집자 주 = 이 보도자료는 자료 제공사에서 제공한 것으로, 연합뉴스는 내용에 대해 어떠한 편집도 하지 않았으며, 연합뉴스의 편집방향과는 무관함을 밝혀 드립니다.]

(끝)