트렌드마이크로(지사장 김진광)은 생성형 AI 애플리케이션에 대해 급증하는 수요에 따라 IT 사용자와 소비자를 보호하기 위한 계획을 발표했다. AI의 발전이 수반하는 양면적 현상인 기회와 위험을 모두 다루기 위해 설계된 트렌드마이크로의 전략은 사용자들이 생성형 AI 애플리케이션을 안전하게 사용할 수 있도록 돕고 AI의 사용을 넘어 남용으로 인한 피해 위험을 낮추는 데 초점을 맞추고 있다. 또한, 트렌드마이크로는 자사의 사이버 보안 솔루션과 서비스에서도 AI를 활용하여 보안 효율성과 성능을 높이는 혁신을 지속적으로 추진할 것임을 밝혔다.

AI는 IT 사용자와 소비자에게 무한한 가능성을 제공하지만, 사이버 범죄자들은 AI를 활용해 더욱 지능화되고 탐지하기 어려운 피싱 이메일이나 딥페이크 영상과 같은 전술을 사용함으로써 디지털 사기 범죄를 더욱 빠르고 쉽게 자행하고 있다. 트렌드마이크로가 최근 실시한 연구에 따르면, 응답자의 약 72%가 AI가 업무 성과를 향상시키고 새로운 사업 기회를 발견하는 데 도움을 줄 수 있는 잠재적 능력에 대해 매우 긍정적으로 평가함과 동시에, 65%에 이르는 응답자는 AI로 인해 잘못된 정보가 생성되고 확산되는 현상에 대해 우려하고 있다고 답변하였다. 또한 58%의 응답자는 AI가 자신의 개인 정보를 도용하거나 자신과 유사한 디지털 이미지를 만들어 내 유사성을 악용할 가능성에 대해 우려하고 있다고 답변하였다. 이렇듯 AI의 잠재적 남용 가능성 외에도, 별도의 보호 장치가 부재할 경우 사용자나 소비자들이 미처 인지하지 못한 채 잘못된 정보에 영향을 받거나, 개인 정보를 의도치 않게 노출하게 되는 등 AI 애플리케이션 자체에도 잠재적 취약성이 존재하는 점을 간과할 수 없다.

트렌드마이크로의 공동 창립자 겸 CEO인 에바 첸은 "생성형 AI는 결국 디지털 인프라의 대전환을 의미하며, 이는 우리가 그동안 디지털 인프라 상의 사이버 위협을 연구해 온 오랜 역사를 바탕으로 혁신적인 보안 솔루션을 개발하여 이 순간을 맞이해야 함을 의미합니다. 우리의 목표는 개인 사용자부터 전세계 유수의 기관과 기업에 이르기까지 모든 사용자가 AI와 AI PC의 잠재력을 안전하고 자신 있게 활용할 수 있게 하는 것입니다."라고 말했다.

AI PC의 도입은 사용자와 소비자들이 AI 애플리케이션을 사용하는 방식에 또 다른 변화를 가져올 것이며, 이를 가능하게 하는 것은 신경망 처리 장치(NPU) 덕분이다. IDC는 AI PC의 수요가 2024년 5천만 대에서 2027년 1억 6천 7백만 대 이상으로 증가하여 2027년까지 전 세계 PC 출하량의 거의 60%를 AI PC가 차지할 것으로 예상하고 있다.* AI PC를 사용하면 사용자는 데이터를 클라우드로 전송하여 처리할 필요 없이 로컬 장치에서 바로 AI 애플리케이션을 사용할 수 있어 속도와 보안성을 높일 수 있다. 이로 인해 생성되는 추가 컴퓨팅 파워는 트렌드마이크로가 일부 클라우드 AI 기능을 장치에 제공하고 AI PC가 제공하는 효율성과 데이터 프라이버시 이점을 활용하는 새로운 기능을 도입할 수 있는 기회를 제공한다.

트렌드마이크로는 2024년 연내 AI를 보호하고, AI 남용으로부터 사용자를 보호하며, 보다 안전하게 AI를 활용하기 위한 새로운 기능과 솔루션을 출시할 예정이다:

 AI 애플리케이션 보호: AI 애플리케이션의 변조 방지, 악성 입력으로부터 AI 애플리케이션 보호, AI 애플리케이션이 민감한 데이터에 우발적 또는 악의적으로 접근하지 않도록 하는 보호 기능
 악성 AI 콘텐츠 보호: 악성 AI 생성 또는 AI 변조 콘텐츠로부터 소비자를 보호하는 솔루션
 NPU 기반 사이버 보안 기능: 추가 컴퓨팅 파워를 활용하여 AI PC용으로 설계된 솔루션

AI 위협 대응의 중요성을 보여주는 지표로 MITRE(마이터)가 최근 발표한 ATLAS(아틀라스) 매트릭스(MITRE Adversarial Threat Landscape for Artificial-Intelligence Systems (https://atlas.mitre.org/matrices/ATLAS))를 주목할 필요가 있다. MITRE의 ATLAS 매트릭스는 인공지능(AI) 시스템에 대한 위협 모델링과 방어 전략을 위한 프레임워크이며 AI 시스템의 보안을 강화하기 위한 중요한 도구이다. 트렌드마이크로는 MITRE가 공인하는 보안 전문 벤더로서 AI 보안을 위해 ATLAS 매트릭스에 맞춘 보안 솔루션과 서비스를 제공하고 있다.