생성형 AI 기술이 급속히 증가, 반면 보안은 취악 AI 보안 문제를 인식하면서도 준비가 부족 AI 보안 관련 투자가 증가
사이버 보안 기업 탈레스(Thales)가 최근 발표한 ‘2025년 데이터 위협 보고서에 따르면, 생성형 인공지능(Generative AI)과 같은 인공지능 기술이 데이터 보안 문제를 겪고 있는 조직들에게 가장 큰 우려 요소로 부상한 것으로 나타났다.
15개 산업 분야에 걸쳐 20개국에서 3100명 이상의 IT 및 보안 전문가를 대상으로 설문을 실시해 작성됐으며, 응답자의 3분의 1은 생성형 AI가 이미 조직 내에서 적극적으로 도입되었거나 변화를 이끌고 있다고는 하지만 보안에 대한 문제는 여전하다고 밝혔다.
조사에 의하면 조직 10곳 중 7곳은 생성형 AI의 급격한 발전 속도를 보안상 가장 큰 문제로 인식하고 있다. 응답자들은 이는 단지 기술의 속도에 대한 우려뿐 아니라, AI 시스템의 신뢰성과 정확성, 일관성의 부족(64%) 및 신뢰할 수 없음에 대한 불안(57%)도 주요 원인으로 꼽았다.
탈레스는 생성형 인공지능이 고품질이면서도 민감한 데이터를 기반으로 학습, 추론, 콘텐츠 생성을 수행하기 때문에, 데이터 보호 수준이 미흡 할 경우 상당한 위험을 초래할 수 있다고 분석했다. 특히 최근 부각되고 있는 자율 에이전트형 AI(agentic AI)는 데이터의 질이 곧 시스템의 판단력과 신뢰도로 직결된다는 점에서, 데이터 보안의 중요성은 더욱 커지고 있다.
AI 도입 속도와 보안 간 불균형 경고
보고서는 AI 기술이 조직 내에서 실험적 적용을 넘어 실질적 운영 단계로 진입하고 있는 가운데, 보안 체계 마련이 그 속도를 따라가지 못하고 있다고 지적한다. 흥미롭게도 많은 기업들이 AI를 보안상 최대 위협으로 인식하면서도, 그 도입을 중단하거나 인프라를 완전히 정비하는 조치는 취하지 않고 있는 실정이다.
오히려 빠른 혁신을 위해 준비가 부족한 상태에서도 추진하고 있으며, 이로 인해 오히려 심각한 보안 취약점을 스스로 초래하고 있다는 지적이 나온다.
S&P 글로벌 마켓 인텔리전스의 수석 애널리스트 에릭 한셀먼(Eric Hanselman)은 “빠르게 변화하는 생성형 AI 환경은 기업들이 신중함보다 속도를 우선시하도록 압박하고 있다”며, “SaaS 도구에 내장된 생성형 AI 기능이 확산되면서 위험과 복잡성이 증가하고 있다”고 경고했다.
데이터 침해는 소폭 감소했지만 위협은 여전
데이터 유출은 여전히 큰 우려 사항이지만, 발생률은 다소 감소한 것으로 나타났다. 2021년에는 응답 기업의 56%가 유출 경험이 있다고 응답했으나, 2025년에는 45%로 줄었다. 최근 1년 내 유출을 경험한 비율도 23%에서 14%로 감소했다.
악성코드는 2021년 이후 여전히 가장 큰 위협으로 남아 있으며, 피싱은 2위로 올라섰고, 랜섬웨어는 3위로 밀려났다. 공격 주체로는 해커티비스트(hacktivist)가 1위를 차지했고, 국가 차원의 공격, 인적 실수 등이 그 뒤를 이었다.
보안의 중요성 높아져 투자 확대 기업 증가
긍정적인 소식도 있다. 응답자의 73%는 AI 관련 보안 도구에 신규 예산을 편성하거나 기존 자원을 재배치해 투자하고 있다. 이들은 클라우드 제공업체, 기존 보안 벤더, 신생 스타트업 등 다양한 경로를 통해 AI 보안 솔루션을 도입 중이다.
생성형 AI 보안은 클라우드 보안에 이어 두 번째로 많은 예산을 차지하고 있으며, 이는 AI 기반 위협에 대한 인식과 특화된 방어 기술의 필요성이 커졌음을 보여준다.
*이 보고서는 사이버 보안 기업 탈레스(Thales)가 매년 최신 데이터 보안 위협, 트렌드, 이슈를 심층 분석한 자료입니다. | 
사이버 보안 기업 탈레스(Thales)가 최근 발표한 ‘2025년 데이터 위협 보고서에 따르면, 생성형 인공지능(Generative AI)과 같은 인공지능 기술이 데이터 보안 문제를 겪고 있는 조직들에게 가장 큰 우려 요소로 부상한 것으로 나타났다.
15개 산업 분야에 걸쳐 20개국에서 3100명 이상의 IT 및 보안 전문가를 대상으로 설문을 실시해 작성됐으며, 응답자의 3분의 1은 생성형 AI가 이미 조직 내에서 적극적으로 도입되었거나 변화를 이끌고 있다고는 하지만 보안에 대한 문제는 여전하다고 밝혔다.
조사에 의하면 조직 10곳 중 7곳은 생성형 AI의 급격한 발전 속도를 보안상 가장 큰 문제로 인식하고 있다. 응답자들은 이는 단지 기술의 속도에 대한 우려뿐 아니라, AI 시스템의 신뢰성과 정확성, 일관성의 부족(64%) 및 신뢰할 수 없음에 대한 불안(57%)도 주요 원인으로 꼽았다.
탈레스는 생성형 인공지능이 고품질이면서도 민감한 데이터를 기반으로 학습, 추론, 콘텐츠 생성을 수행하기 때문에, 데이터 보호 수준이 미흡 할 경우 상당한 위험을 초래할 수 있다고 분석했다. 특히 최근 부각되고 있는 자율 에이전트형 AI(agentic AI)는 데이터의 질이 곧 시스템의 판단력과 신뢰도로 직결된다는 점에서, 데이터 보안의 중요성은 더욱 커지고 있다.
보고서는 AI 기술이 조직 내에서 실험적 적용을 넘어 실질적 운영 단계로 진입하고 있는 가운데, 보안 체계 마련이 그 속도를 따라가지 못하고 있다고 지적한다. 흥미롭게도 많은 기업들이 AI를 보안상 최대 위협으로 인식하면서도, 그 도입을 중단하거나 인프라를 완전히 정비하는 조치는 취하지 않고 있는 실정이다.
오히려 빠른 혁신을 위해 준비가 부족한 상태에서도 추진하고 있으며, 이로 인해 오히려 심각한 보안 취약점을 스스로 초래하고 있다는 지적이 나온다.
S&P 글로벌 마켓 인텔리전스의 수석 애널리스트 에릭 한셀먼(Eric Hanselman)은 “빠르게 변화하는 생성형 AI 환경은 기업들이 신중함보다 속도를 우선시하도록 압박하고 있다”며, “SaaS 도구에 내장된 생성형 AI 기능이 확산되면서 위험과 복잡성이 증가하고 있다”고 경고했다.
데이터 유출은 여전히 큰 우려 사항이지만, 발생률은 다소 감소한 것으로 나타났다. 2021년에는 응답 기업의 56%가 유출 경험이 있다고 응답했으나, 2025년에는 45%로 줄었다. 최근 1년 내 유출을 경험한 비율도 23%에서 14%로 감소했다.
악성코드는 2021년 이후 여전히 가장 큰 위협으로 남아 있으며, 피싱은 2위로 올라섰고, 랜섬웨어는 3위로 밀려났다. 공격 주체로는 해커티비스트(hacktivist)가 1위를 차지했고, 국가 차원의 공격, 인적 실수 등이 그 뒤를 이었다.
긍정적인 소식도 있다. 응답자의 73%는 AI 관련 보안 도구에 신규 예산을 편성하거나 기존 자원을 재배치해 투자하고 있다. 이들은 클라우드 제공업체, 기존 보안 벤더, 신생 스타트업 등 다양한 경로를 통해 AI 보안 솔루션을 도입 중이다.
생성형 AI 보안은 클라우드 보안에 이어 두 번째로 많은 예산을 차지하고 있으며, 이는 AI 기반 위협에 대한 인식과 특화된 방어 기술의 필요성이 커졌음을 보여준다.
*이 보고서는 사이버 보안 기업 탈레스(Thales)가 매년 최신 데이터 보안 위협, 트렌드, 이슈를 심층 분석한 자료입니다.