[류청빛의 요즘IT] "AI가 일할수록 보안팀도 바빠진다"…기업들 AI 확산에 보안 투자도 확대

[경제일보] 생성형 인공지능(AI)이 기업 업무 전반으로 빠르게 침투하면서 기업들의 정보보호 투자에도 변화가 나타나고 있다. AI를 활용해 업무 효율을 높이는 동시에 새로운 보안 위협에 대응해야 하는 상황에 놓이면서 AI 투자가 정보보호 투자 확대로 이어지는 모습이다. 과거 해킹이나 악성코드 등 외부 공격을 막는 데 집중했던 보안의 범위가 AI 모델과 데이터, 클라우드 인프라까지 넓어지고 있다.

15일 IT 업계에 따르면 국내 기업들은 AI 도입 확대와 함께 정보보호 체계를 강화하고 있다. 특히 통신과 금융 등 대규모 개인정보와 금융정보를 다루는 산업을 중심으로 보안 인력과 시스템에 대한 투자를 늘리는 움직임이 커지고 있다.

AI가 기업의 업무 환경에 들어오면서 보안팀이 관리해야 할 영역도 늘어났다. 임직원이 생성형 AI에 사내 문서나 고객정보 등 민감한 데이터를 입력할 경우 정보가 외부로 유출될 가능성이 있고, 기업이 자체적으로 구축한 AI 시스템과 외부 AI 서비스를 연결하는 과정에서도 새로운 보안 취약점이 발생할 수 있는 것으로 지적되고 있다.

특히 AI가 기존 업무 시스템과 연결되면서 보안 문제는 더욱 복잡해지고 있다. 단순히 AI 모델 자체를 보호하는 것을 넘어 AI가 어떤 데이터에 접근할 수 있는지, 어떤 업무 시스템을 사용할 수 있는지, 생성된 결과물을 어떻게 검증할지까지 관리해야 하기 때문이다.

AI를 활용하는 공격도 늘어날 수 있다는 점은 기업들의 부담을 키우는 요인이다. 공격자는 생성형 AI를 이용해 피싱 문구를 제작하거나 악성코드 개발을 지원받고, 취약점 탐색과 공격 과정의 일부를 자동화할 수 있다. 공격 속도와 규모가 커질수록 기존의 인력 중심 보안관제만으로는 대응하기 어려워질 수 있다는 의미다.

이에 기업들의 보안 투자 역시 AI와 결합하는 방향으로 바뀌고 있다. AI를 활용해 이상 징후를 탐지하고 보안 로그를 분석하는 것은 물론, 반복적인 보안 대응 작업을 자동화하는 기술에 대한 관심도 높아지고 있다. AI가 공격에 활용되는 만큼 방어에도 AI를 활용해야 한다는 인식이 확산하는 것이다.

IT 기업뿐만 아니라 보안이 중요한 금융권에서도 보안 강화 움직임이 이어지고 있다. 은행과 카드, 증권, 보험 등 금융회사는 개인정보뿐만 아니라 계좌와 결제정보 등 민감한 데이터를 대규모로 보유하고 있어 AI 도입 과정에서 데이터 보호와 접근통제가 중요한 과제로 떠오르고 있다.

이 같은 변화는 AI 산업의 비용 구조에도 영향을 미칠 것으로 분석된다. 지금까지 AI 투자라고 하면 GPU와 데이터센터, AI 모델 개발 등에 집중됐지만 앞으로는 AI 서비스를 안전하게 운영하기 위한 보안 솔루션과 전문 인력, 데이터 관리 체계까지 투자 범위가 확대될 전망이다.

기업의 AI 경쟁력이 단순히 얼마나 많은 AI 서비스를 도입했는지로 결정되는 시대에서 벗어나 AI를 업무에 빠르게 적용하는 동시에 데이터와 시스템을 안전하게 보호할 수 있는 능력까지 갖춰야 실제 경쟁력으로 이어지고 있다. AI 투자가 늘어날수록 정보보호 투자도 함께 증가하는 구조가 본격화되면서 보안이 AI 사업의 부수적인 비용이 아니라 서비스를 운영하기 위한 필수 인프라로 자리 잡을 것으로 분석된다.

한 IT 업계 관계자는 "AI가 빠르게 발전하고 있지만 보안 문제로 발전된 AI를 즉각 실제 업무에 적용하지 못하고 있다"고 말했고, 다른 IT 업계 관계자는 "본사와 자회사 모두 보안 부서를 따로 보유해 보안에 신경 쓰고 있다"고 강조했다.