AI 보안이란 무엇인가요?

조직은 다양한 방법으로 AI를 사이버 보안 관행에 통합할 수 있습니다. 가장 일반적인 AI 보안 도구는 머신 러닝과 딥 러닝을 사용하여 트래픽 추세, 앱 사용, 검색 습관 및 기타 네트워크 활동 데이터를 포함한 방대한 양의 데이터를 분석합니다.

이 분석을 통해 AI는 패턴을 발견하고 보안 기준을 설정할 수 있습니다. 해당 기준을 벗어나는 모든 활동은 즉시 이상 징후 및 잠재적인 사이버 위협으로 표시되어 신속한 해결이 가능합니다.

또한 AI 보안 도구는 대규모 언어 모델(LLM)로 대중화된 생성형 AI(gen AI)를 자주 사용하여 보안 데이터를 일반 텍스트 권장 사항으로 변환하여 보안 팀의 의사 결정을 간소화합니다.

연구에 따르면 AI 보안 도구는 위협 탐지 및 사고 대응을 크게 개선합니다. IBM 데이터 유출 비용(CODB) 보고서에 따르면, 광범위한 보안 AI 및 자동화를 갖춘 조직은 AI 도구가 없는 조직보다 평균 108일 더 빠르게 데이터 유출을 식별하고 억제했습니다.

또한 보고서에 따르면 AI 보안을 광범위하게 사용하는 조직은 데이터 유출에 대응하는 데 드는 비용을 평균 176만 달러씩 절약할 수 있습니다. 이는 AI를 사용하지 않는 기업의 평균 유출 비용과 비교하면 거의 40%의 차이입니다.

이러한 이유로 AI 보안에 대한 투자가 증가하고 있습니다. 최근 연구에 따르면 2023년 201억 9,000만 달러 규모였던 AI 보안 시장은 2032년까지 매년 24.2%씩 성장하여 1,416억 4,000만 달러에 달할 것으로 예상됩니다.¹

AI 보안은 상황에 따라 다양한 의미를 갖습니다. 이 페이지에서는 사이버 보안 개선에 중점을 두지만, 다른 일반적인 두 가지 정의는 AI 모델과 프로그램 악용, 무단 접근 차단에 주목합니다.

한 가지 정의에 따르면 사이버 보안 전문가는 위협 행위자가 AI를 사용하여 사이버 공격을 개선하거나 새로운 공격 표면을 악용하는 방법에 초점을 맞춥니다.

예를 들어, LLM은 공격자가 더욱 개인화되고 정교한 피싱 공격을 만드는 데 사용될 수 있습니다. 비교적 새로운 기술인 AI 모델은 위협 행위자에게 공급망 공격 및 적대적 공격과 같은 사이버 공격에 대한 새로운 기회를 제공합니다("AI의 잠재적 취약성 및 보안 위험" 참조).

AI 보안의 또 다른 정의는 AI 배포 보안을 다룹니다. IBM 기업가치연구소(IBV)의 최근 연구에 따르면 현재 진행 중인 생성형 AI 프로젝트 중 오직 24%에만 보안이 적용되어 있었습니다. AI 데이터, 모델 및 사용을 보호하는 관행이 AI 프로젝트 보안에 속합니다.

예를 들어 윤리적 해커가 실제 공격자처럼 행동하는 레드팀 훈련은 주로 AI와 ML 애플리케이션을 지원하는 AI 시스템, 머신 러닝 모델, 데이터세트를 표적으로 삼습니다.

AI 모델과 도구를 무단으로 사용하는 섀도우 AI 사례를 근절하기 위한 모니터링도 AI 배포 보안에 포함될 수 있습니다. 이 모든 관행은 기업이 AI 위험을 관리하고 규정 준수 문제를 해결하는 데에도 도움이 됩니다.

오늘날의 사이버 위협 환경은 복잡합니다. 클라우드 및 하이브리드 클라우드 환경으로의 전환으로 인해 데이터가 무분별하게 확산되고 공격 표면이 확대되었으며, 위협 행위자는 취약점을 악용할 새로운 방법을 계속 찾고 있습니다. 동시에 사이버 보안 전문가는 여전히 부족하여 미국에서만 700,000개 이상의 일자리가 창출되고 있습니다.²

그래서 이제 사이버 공격이 더 빈번하게 일어나고 더 많은 비용을 초래합니다. 데이터 유출 비용(CODB) 보고서에 따르면 2023년 데이터 유출을 복구하는 데 든 비용은 전 세계 평균 445만 달러로, 3년 동안 15%가 증가했습니다.

AI 보안이 솔루션을 제공할 수 있습니다. AI는 위협 탐지 및 대응을 자동화하여 실시간으로 공격을 더 쉽게 예방하고 위협 행위자를 잡을 수 있도록 합니다. AI 도구는 악성 소프트웨어를 식별하고 격리하여 멀웨어 공격을 방지하는 것부터 반복되는 로그인 시도를 인식하고 차단하여 무차별 대입 공격을 탐지하는 것까지 모든 것을 지원할 수 있습니다.

AI 보안을 통해 조직은 보안 운영을 지속적으로 모니터링하고 머신 러닝 알고리즘을 사용하여 진화하는 사이버 위협에 적응할 수 있습니다.

AI 보안에 투자하지 않으면 비용이 많이 듭니다. AI 보안이 없는 조직의 평균 데이터 유출 비용은 536만 달러로 전체 조직의 평균 비용보다 18.6% 높습니다.

보안을 제한적으로 적용하더라도 비용 절감 효과는 상당합니다. AI 보안을 제한적으로 적용한 기업의 데이터 유출 비용은 평균 404만달러로, 전체 평균보다 40만 달러, AI 보안이 전혀 없는 기업보다 28.1% 적었습니다.

AI는 이러한 이점에도 불구하고 보안 문제, 특히 데이터 보안 문제를 야기합니다. AI 모델은 학습 데이터만큼만 신뢰할 수 있습니다. 조작되거나 편향된 데이터는 오탐 또는 부정확한 응답으로 이어질 수 있습니다. 예를 들어, 채용 결정에 사용되는 편향된 학습 데이터는 AI 모델이 특정 인구 집단을 선호하고 다른 집단을 차별하는 등 성별 또는 인종 편견을 강화할 수 있습니다.³

AI 도구는 또한 위협 행위자가 보안 취약성을 보다 성공적으로 악용하는 데 사용될 수 있습니다. 예를 들어, 공격자는 AI를 사용하여 시스템 취약점 검색을 자동화하거나 정교한 피싱 공격을 생성할 수 있습니다.

로이터 통신에 따르면 미국 연방수사국(FBI)은 AI로 인한 사이버 침입이 증가하고 있다고 밝혔습니다.⁴ 또한 최근 보고서에 따르면 고위 사이버 보안 전문가의 75%가 사이버 공격이 증가하고 있으며, 85%는 생성형 AI를 사용하는 악의적 행위자를 사이버 공격의 증가의 원인으로 꼽았습니다.⁵

앞으로 많은 조직은 AI 윤리 또는 보안을 손상시키지 않으면서 인공 지능의 이점을 활용하기 위해 보안 AI에 시간과 리소스를 투자할 방법을 모색할 것입니다("AI 보안 모범 사례" 참조).

AI 기능은 사이버 보안 방어를 강화하는 데 많은 이점을 제공할 수 있습니다.AI 보안의 가장 중요한 이점은 다음과 같습니다.

• 향상된 위협 탐지: AI 알고리즘은 대량의 데이터를 실시간으로 분석하여 잠재적인 사이버 위협을 탐지하는 속도와 정확성을 향상시킬 수 있습니다. AI 도구는 기존 보안 조치에서 놓칠 수 있는 정교한 공격 경로도 식별할 수 있습니다.

• 더 빠른 사고 대응: AI는 보안 사고의 탐지, 조사 및 대응에 필요한 시간을 단축하여 조직이 보다 신속하게 위협을 해결하고 잠재적 피해를 줄일 수 있도록 지원합니다.

• 운영 효율성 향상: AI 기술은 일상적인 작업을 자동화하여 보안 운영을 간소화하고 비용을 절감할 수 있습니다. 사이버 보안 운영을 최적화하면 인적 오류를 줄이고 보안 팀이 보다 전략적인 프로젝트에 집중할 수 있습니다.

• 사이버 보안에 대한 사전 예방적 접근 방식: AI 보안을 통해 조직은 과거 데이터를 사용하여 미래의 사이버 위협을 예측하고 취약성을 식별함으로써 사이버 보안에 대한 보다 사전 예방적 접근 방식을 취할 수 있습니다.

• 새로운 위협에 대한 이해: AI 보안은 조직이 위협 행위자보다 앞서 나갈 수 있도록 지원합니다. AI 시스템은 새로운 데이터로부터 지속적으로 학습함으로써 새로운 위협에 적응하고 새로운 공격 방법에 대해 사이버 보안 방어를 최신 상태로 유지할 수 있습니다.

• 사용자 환경 개선: AI는 사용자 환경을 손상시키지 않으면서 보안 조치를 강화할 수 있습니다. 예를 들어 생체 인식과 행동 분석 같은 AI 기반 인증을 적용하면 사용자 인증을 더 수월하고 안전해 집니다.

• 자동화된 규정 준수: AI는 규정 준수 모니터링, 데이터 보호 및 보고를 자동화하여 조직이 규정 요구 사항을 일관되게 충족할 수 있도록 지원합니다.

• 확장성: AI 사이버 보안 솔루션은 대규모의 복잡한 IT 환경을 보호하도록 확장할 수 있습니다. 또한 보안 정보 및 이벤트 관리(SIEM) 플랫폼과 같은 기존 사이버 보안 도구 및 인프라와 통합하여 네트워크의 실시간 위협 인텔리전스 및 자동화된 대응 기능을 강화할 수 있습니다.

새로운 AI 도구를 도입하면 많은 이점이 있지만 조직의 공격 표면이 확장되고 몇 가지 보안 위협이 발생할 수도 있습니다.

AI로 인해 발생하는 가장 일반적인 보안 위험은 다음과 같습니다.

AI 시스템은 변조, 유출, 기타 공격에 취약할 수 있는 데이터 세트에 의존합니다. 조직은 개발에서 교육 및 배포에 이르기까지 전체 AI 수명 주기에 걸쳐 데이터 무결성, 기밀성, 가용성을 보호하여 이러한 위험을 완화할 수 있습니다.

위협 행위자는 도난, 리버스 엔지니어링 또는 무단 조작을 위해 AI 모델을 표적으로 삼을 수 있습니다. 공격자는 AI 모델의 동작과 성능을 결정하는 핵심 구성 요소인 아키텍처, 가중치 또는 매개 변수를 변조하여 모델의 무결성을 손상시킬 수 있습니다.

적대적 공격은 입력 데이터를 조작하여 AI 시스템을 속여 잘못된 예측 또는 분류를 유도하는 것을 포함합니다. 예를 들어, 공격자는 AI 알고리즘의 취약성을 악용하여 AI 모델의 의사 결정을 방해하거나 편향을 생성하는 적대적 예제를 생성할 수 있습니다.

마찬가지로 프롬프트 인젝션은 악성 프롬프트를 사용하여 AI 도구가 데이터 유출 또는 중요한 문서 삭제와 같은 유해한 조치를 취하도록 속입니다.

보안 팀이 AI 시스템을 배포할 때 안전과 윤리를 우선시하지 않으면 개인 정보가 보호되지 않고 편향과 오탐을 악화시킬 위험이 있습니다. 윤리적 배포를 통해서만 조직은 AI 의사 결정에 있어서 공정성, 투명성, 책임성을 보장할 수 있습니다.

AI 시스템을 합법적, 윤리적으로 사용하려면 법과 규제 요건을 반드시 준수해야 합니다. 조직은 일반 데이터 보호 규정(GDPR), California Consumer Privacy Act(CCPA), EU AI 법과 같은 규정을 준수해야 합니다. 그렇지 않으면 민감한 데이터가 노출되거나 무거운 법적 처벌을 받을 위험이 있습니다.

입력 조작 공격은 AI 시스템의 동작이나 결과에 영향을 미치기 위해 입력 데이터를 변경하는 것과 관련됩니다. 공격자는 입력 데이터를 조작하여 탐지를 회피하거나, 보안 조치를 우회하거나, 의사 결정 프로세스에 영향을 미칠 수 있으며, 이로 인해 편향되거나 부정확한 결과가 발생할 수 있습니다.

예를 들어 위협 행위자는 모델에 잘못된 교육 데이터를 의도적으로 제공하는 데이터 중독 공격에서 AI 시스템의 아웃풋을 손상시킬 수 있습니다.

공급망 공격은 위협 행위자가 개발, 배포 또는 유지 관리 단계를 포함한 공급망 수준에서 AI 시스템을 표적으로 삼을 때 발생합니다. 예를 들어, 공격자는 AI 개발에 사용되는 타사 구성 요소, 소프트웨어 라이브러리 또는 모듈의 취약성을 악용하여 데이터 침해 또는 무단 액세스로 이어질 수 있습니다.

AI 모델은 시간이 지남에 따라 표류 또는 쇠퇴를 경험할 수 있으며, 이로 인해 성능이나 효율성이 저하될 수 있습니다. 공격자는 쇠퇴하거나 표류하는 AI 모델의 약점을 악용하여 출력을 조작할 수 있습니다. 조직은 AI 모델의 성능, 동작 또는 정확성의 변화를 모니터링하여 신뢰성과 관련성을 유지할 수 있습니다.

AI 도구가 더욱 발전하고 접근성이 높아짐에 따라 사이버 보안에 AI를 적용하는 방식은 다양하고 지속적으로 발전하고 있습니다.

오늘날 AI 보안의 가장 일반적인 사용 사례는 다음과 같습니다.

데이터 보호는 민감한 정보를 보호하여 데이터 손실 및 손상으로부터 데이터를 보호하고 가용성을 보장하고 규정 요구 사항을 준수하는 것을 포함합니다.

AI 도구는 조직이 민감한 데이터를 분류하고, 데이터 이동을 모니터링하고, 무단 액세스 또는 유출을 방지하여 데이터 보호를 개선하는 데 도움이 될 수 있습니다. AI는 저장 중인 데이터와 전송 중인 데이터를 보호하기 위해 암호화 및 토큰화 프로세스를 최적화할 수도 있습니다.

또한 AI는 위협 환경에 자동으로 적응하고 24시간 내내 위협을 지속적으로 모니터링할 수 있으므로 조직은 새로운 사이버 위협에 앞서 나갈 수 있습니다.

엔드포인트 보안에는 컴퓨터, 서버, 모바일 디바이스와 같은 엔드포인트를 사이버 보안 위협으로부터 보호하는 것이 포함됩니다.

AI는 엔드포인트에서 의심스러운 행동과 이상 징후를 지속적으로 모니터링하여 실시간 보안 위협을 탐지함으로써 기존 엔드포인트 탐지 및 대응(EDR) 솔루션을 개선할 수 있습니다.

또한 머신 러닝 알고리즘은 파일리스 멀웨어 및 제로 데이 공격과 같은 지능형 엔드포인트 위협이 피해를 입히기 전에 식별하고 완화하는 데 도움이 될 수 있습니다.

AI는 섀도 데이터를 자동으로 식별하고, 데이터 접근의 이상 징후를 모니터링하고, 위협이 발생하면 사이버 보안 전문가에게 경고함으로써 하이브리드 클라우드 환경에서 민감한 데이터를 보호하는 데 도움이 될 수 있습니다.

위협 헌팅 플랫폼은 조직의 네트워크 내에서 악의적인 활동의 징후를 사전에 검색합니다.

AI 통합을 통해 이러한 도구는 대규모 데이터 세트를 분석하고, 침입 징후를 식별하고, 고급 위협을 보다 신속하게 탐지하고 대응할 수 있게 되면서 훨씬 더 발전되고 효율적이 될 수 있습니다.

사이버 공격과 신원 도용이 보편화됨에 따라 금융 기관은 고객과 자산을 보호할 수 있는 방법이 필요합니다.

AI는 사기를 나타내는 패턴에 대한 거래 데이터를 자동으로 분석하여 이러한 기관을 지원합니다. 또한 머신 러닝 알고리즘은 새롭고 진화하는 위협에 실시간으로 대응할 수 있으므로 은행은 사기 탐지 기능을 지속적으로 개선하고 위협 행위자보다 앞서 나갈 수 있습니다.

AI 보안 도구는 조직의 기존 보안 인프라와 통합될 때 가장 효과적인 경우가 많습니다.

예를 들어, 보안 오케스트레이션, 자동화 및 대응(SOAR)은 많은 조직이 보안 운영을 간소화하는 데 사용하는 소프트웨어 솔루션입니다. AI는 SOAR 플랫폼과 통합되어 일상적인 작업과 워크플로를 자동화할 수 있습니다. 이 통합을 통해 사고 대응 속도가 빨라지고 보안 분석가가 더 복잡한 문제에 집중할 수 있습니다.

ID 및 액세스 관리(IAM) 도구는 사용자가 디지털 리소스에 액세스하는 방법과 이를 사용하여 수행할 수 있는 작업을 관리합니다. 이 도구의 목표는 해커의 침입을 차단하는 동시에 각 사용자에게 필요한 권한만 정확하게 부여하고 그 이상은 부여하지 않는 것입니다.

AI 기반 IAM 솔루션은 역할, 책임, 행동에 따라 세분화된 액세스 제어를 제공하여 권한이 있는 사용자만 민감한 데이터에 액세스할 수 있도록 함으로써 이 프로세스를 개선할 수 있습니다.

또한 AI는 머신 러닝을 사용하여 사용자 행동 패턴을 분석하고 개별 사용자의 위험 수준에 따라 변경되는 적응형 인증 조치를 지원함으로써 인증 프로세스를 개선할 수 있습니다.

ChatGPT와 같은 LLM은 피싱 공격을 더 쉽게 수행하고 인식하기 어렵게 만들었습니다. 그러나 AI는 피싱 퇴치를 위한 중요한 도구로도 부상했습니다.

머신 러닝 모델은 조직에서 피싱 징후가 있는지 이메일과 기타 커뮤니케이션을 분석하여 탐지 정확도를 높이고 피싱 시도를 줄이는 데 도움을 줄 수 있습니다. AI 기반 이메일 보안 솔루션은 실시간 위협 인텔리전스와 자동화된 대응 기능을 제공하여 피싱 공격이 발생했을 때 이를 포착할 수 있습니다.

취약성 관리는 조직의 IT 인프라 및 소프트웨어의 보안 취약점을 지속적으로 발견하고, 우선순위를 정하고, 완화하고, 해결하는 것입니다.

AI는 잠재적인 영향과 악용 가능성에 따라 취약성의 우선순위를 자동으로 지정하여 기존 취약성 스캐너를 개선할 수 있습니다. 이를 통해 조직은 가장 중요한 보안 위험을 먼저 해결할 수 있습니다.

또한 AI는 패치 관리를 자동화하여 사이버 위협에 대한 노출을 즉시 줄일 수 있습니다.

많은 조직은 AI의 보안 위험과 이점의 균형을 맞추기 위해 이해 관계자가 AI 시스템을 개발, 구현, 관리하는 방법을 설명하는 명시적인 AI 보안 전략을 수립합니다.

이러한 전략은 회사마다 다르지만 일반적으로 사용되는 몇 가지 모범 사례는 다음과 같습니다.