인공 지능은 안전합니까? 이는 현재 기술 세계에서 틀림없이 가장 인기 있는 주제이며 상당한 토론을 불러일으키고 있는 주제입니다.
2025년 2월 파리에서 열린 글로벌 서밋에서는 인공 지능의 안전에 대한 견해가 세계 정상들 사이에 엇갈렸습니다. 예를 들어 에마뉘엘 마크롱 프랑스 대통령은 AI가 발전하는 데 도움이 되는 추가 규제가 필요하다고 말했고, JD 밴스 미국 부통령은 안전 문제보다 "친성장 AI 정책"을 우선시해야 한다고 말했다.
합법적인 기업, 당국, 사람들이 AI를 책임감 있고 안전하게 사용하는 방법을 모색하고 있는 동안, 또 다른 위협도 있습니다. 사이버 범죄자들은 그들의 악성 활동을 더욱 강력하고 성공적으로 만들기 위해 AI를 사용하는 것입니다.
인공 지능 사이버 범죄는 디지털 환경 전반의 보안을 완전히 바꿔 놓고 있습니다. 따라서 모든 사람이 위험을 인식하고 안전을 유지하기 위해 필요한 조치를 인식하는 것이 중요합니다. 이 가이드에서는 다양한 유형의 AI 사이버 공격, 보안 관점에서의 이러한 공격의 의미, 방어를 강화하기 위해 지금 할 수 있는 일에 대해 알아봅니다.
AI를 사용한 성공적인 해킹의 예
AI가 생성한 악성 코드 및 기타 범죄 활동의 위험은 이론적인 것보다 훨씬 높습니다. 이러한 공격은 이미 전 세계적으로 발생하고 있으며 수많은 피해자를 앗아가고 있습니다. 다음은 수많은 예 중 세 가지입니다:
사칭: 귀도 크로세토
2025년 초 , 스캐머들은 AI 생성 음성 기술을 사용하여 이탈리아 국방부 장관인 Guido Crosetto를 사칭했습니다. 그런 다음 그들은 이탈리아의 부유한 기업가에게 연락하여 중동에서 납치된 이탈리아 언론인을 석방하는 데 사용할 수 있는 재정 지원을 요청했습니다. 최소 1명의 기업인이 속아 사기로 판명된 계정에 돈을 송금했습니다.
악성 코드: DeepSeek ClickFix 스캠
한 사이버 범죄자들이 중국의 새로운 인공 지능 DeepSeek를 가장한 확인 웹 페이지를 설정했습니다. 보안문자 확인 을 완료한 사용자는 비다르 스틸러 와 루마 스틸러를 설치합니다. 이 악성 코드는 로그인과 은행 세부 정보 등의 중요한 정보를 도용해 궁극적으로 온라인 뱅킹 사기 로 연결될 수 있는 악성 코드입니다.
사용자 오류: 삼성의 ChatGPT 유출
AI 바이러스 또는 악성 코드 공격은 아니지만, 이 세간의 이목을 끄는 사건은 AI 공격의 문이 어떻게 무의식적으로 열릴 수 있는지를 보여줍니다. 2023년 봄, 한국의 기술 대기업인 Samsung의 직원은 ChatGPT를 사용하여 일부 소스 코드를 확인했습니다. 이를 통해 삼성의 매우 중요한 지적 재산권 중 일부가 사실상 모든 사용자가 접근할 수 있도록 공용 도메인으로 공개된 것입니다.
AI 사이버 공격의 유형
AI가 직접적으로 또는 다른 범죄 기업을 지원하기 위해 악성 활동에 사용될 수 있는 방법은 이미 여러 가지가 있습니다:
소셜 공학
사회 공학 공격은 범죄자가 인간의 행동에 영향을 미치고 사용자가 자발적으로 정보 또는 자산을 양도하도록 하는 공격입니다. 민감한 개인 데이터 , 은행 계정 정보, 금전 또는 암호화 화폐 , 특정 장치 및 데이터베이스에 대한 접근 등이 포함될 수 있습니다. 인공 지능은 이러한 종류의 공격에 매우 유용하며, 사이버 범죄자가 표적을 식별하고, 설득력 있는 페르소나 및 메시지를 개발하며 , 사기에 개연성을 더하는 오디오 및 비디오 녹음을 생성하는 데 도움이 됩니다.
피싱 공격
피싱 공격은 사용자가 받은 메시지, 링크, 이메일 첨부파일을 진짜로 생각하고 악성 코드를 클릭하는 것을 말합니다. 과거에는 적절한 사용자 교육이 이러한 공격의 성공을 줄이는 데 도움이 되었지만 이제 인공 지능을 사용하여 피싱 시도를 그 어느 때보다 유능하게 만들고 있습니다. 이 형태의 트로이목마는 WhatsApp 메시지나 소셜 미디어 커뮤니케이션과 같은 실시간 커뮤니케이션은 물론, 고객이 자신의 계정 세부 정보를 실제 직원과 공유하고 있다고 생각하는 스푸핑 고객 서비스 챗봇에도 사용할 수 있습니다.
AI 랜섬웨어
AI는 랜섬웨어 공격 의 기술적 기능을 상당히 확장했습니다. 여기에는 표적 조사(예: 시스템)의 악용할 수 있는 가장 유망한 취약점 평가와 랜섬웨어 파일이 사이버 보안 솔루션의 탐지를 우회할 수 있도록 조정하는 기능이 포함됩니다.
적대적 AI 및 악성 GPT
많은 사이버 범죄자들이 부정확한 데이터를 제공하거나 AI 모델의 설정을 변경하여 AI가 생성한 결과를 왜곡합니다. 부정확한 정보로 인해 해커의 목적에 맞는 위험한 편향 이나 명령이 생성될 수 있습니다. 이와 함께 편향과 오용으로부터 보호하는 보호 장치가 포함되어 있지 않은 악성 AI 툴의 사용이 증가하고 있습니다. 고스트GPT는 AI 악성 코드를 만드는 데 사용할 수 있는 무수정 챗봇의 최근 사례입니다.
딥페이크
딥페이크는 얼굴과 목소리가 중요하고 위협적인 위치에 있는 공인만을 위한 문제로 생각될 수 있지만 모든 사람을 위한 위협은 현실입니다. 딥페이크 기술을 사용하면 영상, 음성 또는 이 둘의 조합을 통해 모든 사람을 가장할 수 있습니다. 이러한 방식은 보안 및 확인 절차를 속여 중요한 정보는 물론 은행 계정에까지 접근할 수 있습니다.
화재 진압: AI 기반 사이버 범죄가 보안에 미치는 영향은?
인공 지능 사이버 위협에 맞서기 위한 최고의 툴은 인공 지능 그 자체입니다. 그렇다고 표준 보안 솔루션이 AI 지원 공격을 방지하는 데 무력하다는 것은 아닙니다. 여전히 많은 종류의 악성 코드와 해킹으로부터 보호할 수 있습니다. 그러나 보안 구성에 AI를 통합하면 다음과 같은 여러 보안 방법에 차원을 더할 수 있습니다:
인시던트 대응
AI는 인시던트 대응 활동을 자동화하는 데 사용할 수 있습니다. 예를 들어 Kaspersky 사고 Response는 악성 활동을 차단할 수 있으며, 영향을 받는 시스템은 시스템 경고에 대응하는 사람이 관리할 수 있는 것보다 훨씬 빠르게 격리될 수 있습니다. 대응 및 해결 시간을 크게 단축하면 모든 공격의 영향을 최소화할 수 있으며, 이를 통해 서비스 중단, 비용 및 데이터 손실의 규모를 궁극적으로 제한할 수 있습니다.
위협 탐지 및 위협 사전 헌팅
주변에는 위협이 너무 많아 보안 팀이 모든 면에서 뒤처지고 모든 경고를 조사하기가 어려울 수 있습니다. 여기에 AI가 도움이 될 수 있습니다. 사용자 행동과 네트워크 트래픽을 자세히 분석하고, 잠재적 위협을 더 빠르게 탐지하고, 보안 팀의 시간을 낭비하는 오탐을 필터링합니다. 인공 지능은 또한 위협 탐지를 사전에 수행하여 사이버 공격이 시작되기 전에 탐지할 수 있습니다.
악성 코드 분석
AI가 생성할 수 있는 인사이트를 통해 보안 팀은 다양한 유형의 악성 코드가 실제로 어떻게 작동하는지에 대해 훨씬 더 정확하고 심층적으로 이해할 수 있습니다. 이 분석을 자동화할 수 있다는 것은 보안팀이 이러한 인사이트에 훨씬 빠르게 접근할 수 있고, 방어벽이 설계 및 배포된 위치와 방법에 대해 더 많은 정보에 근거한 결정을 내릴 수 있음을 의미합니다.
취약점 검사
AI 툴은 시스템과 인프라를 평가하여 가장 큰 취약점이 어디에 있는지 알아내면 보안팀이 취약점을 차단하는 데 시간과 리소스의 우선순위를 더 잘 지정할 수 있습니다. 이 정보는 더 나은 패치 및 업데이트 관리를 위해 중요하고 가장 시급한 업그레이드가 먼저 설치되도록 합니다.
ID 및 접근 관리(IAM)
ID 및 접근 관리의 강점은 입력과 마우스 이동의 속도로 다양한 위치에서 접근 시도에 대한 사용자 활동의 비정상적인 패턴을 탐지하는 기능을 통해 AI에 의해 상당히 강화되었습니다. 이러한 이상 행위에 실시간으로 플래그를 지정하여 잠재적인 무단 접근을 차단하고/하거나 합법적인 사용을 확인하는 추가 확인 계층을 생성할 수 있습니다.
윤리적 해킹
윤리적인 해킹과 침투 테스트는 취약점을 발견하고 이를 사전에 차단하는 데 중요한 도구입니다. 그러나 기업과 관련된 작업량으로 인해 느리고 시간이 많이 걸리는 기업이 될 수 있습니다. 인공 지능은 이러한 작업의 관리자 부담을 덜어줄 수 있지만, 두 가지 중요한 방법으로, 즉 팀의 업무를 느리게 하는 더 간단하고 반복적인 작업을 자동화하는 것과 결과를 분석하여 실행 가능한 인사이트를 제공합니다.
위험 평가
윤리적 해킹에 대한 AI의 동일한 이점은 위험 평가를 개발하고 위험 수준에 따라 위협의 우선 순위를 지정하는 데에도 적용될 수 있습니다. 이 또한 일상적이고 시간이 많이 걸리는 작업(그만큼 중요함)이 될 수 있으므로, AI를 사용하여 프로세스 속도를 높이고, 반복적인 작업을 처리하며, 보다 자세한 인사이트를 도출하는 것은 매우 유용할 수 있습니다.
AI 사이버 공격으로부터 자신을 보호하는 방법
위에서 설명한 AI 기반 보안 기능 외에도 AI 해킹이 성공할 가능성을 최소화하는 방법이 많이 있습니다. 우리의 전문가의 관점에서 볼 때, 앞으로의 최선의 방법은 사람, 계획, 기술이 함께 합니다:
인시던트 대응 계획을 세웁니다
인시던트에 신속하게 대응할 수 있으며, 모든 영향을 더 빠르게 완화하고 피해가 너무 널리 퍼지지 않도록 보장할 수 있습니다 . 보안 인시던트가 발생했을 때 어떻게 행동해야 하는지 정확히 알고 있어야 하는 것이 소방 훈련입니다. 계획에는 준비(예, 방지 및 대응 방법), 탐지 및 분석(공격의 특성과 심각도 확인), 공격을 억제하고 근절(시스템 격리, 복원, 패치), 다시는 발생할 수 없는 사건.
Kaspersky의 인시던트 Response 솔루션을 사용하여 효과적인 전략을 구축하는 방법에 대해 자세히 알아보십시오.
사용 가능한 가장 강력한 보안 플랫폼 사용
기존 위협과 AI 사이버 범죄를 기반으로 하는 새로운 공격으로부터 사용자를 보호할 수 있는 가장 포괄적인 보안 보호 기능이 있는지 확인하십시오. 예를 들어 Kaspersky Premium 공격을 방지하기 위해 즉시 조치를 취하는 실시간 안티 바이러스 보호 기능을 제공합니다. 여기에는 중요한 개인 데이터를 더욱 안전하게 보호하는 ID 보호도 포함됩니다.
보안 태세를 정기적으로 평가
AI와 사이버 범죄가 빠른 속도로 진화하고 있기 때문에 현재 보유하고 있는 보안 조치로는 12개월이 지나면(혹은 그보다 빨라도) 부족할 수 있습니다. 즉, 보안을 정기적으로 감사하고 검토해야 합니다. AI는 사용자 활동을 실시간으로 분석하고 이전 감사 기간과 비교하여 이상 활동을 탐지하여 이를 지원할 수 있습니다.
사용자 및 직원 보안 인식 유지
인공 지능을 활용한 개발 여부와 상관없이 피싱 공격이 계속해서 성공을 거두고 있는 것은 좋은 보안은 사용자로부터 시작된다는 사실을 강조합니다. 이제 AI 해킹 및 관련 공격의 위험, 특히 AI 생성 텍스트, 오디오 및 비디오가 얼마나 설득력이 있는지 사용자에게 인식시켜야 할 때입니다. 이렇게 하면 사용자에게 각별한 주의를 기울이고 안전하다고 100% 확신하는 경우를 제외하고는 어떤 활동도 하지 않을 것을 상기시키는 데 도움이 될 수 있습니다. Kaspersky의 사이버 보안 교육이 팀이 AI 기반 공격에 대해 경계를 늦추는 데 어떻게 도움이 될 수 있는지 알아보세요.
연관 문서:
연관 제품:
