거짓 정보에 속지 않으려면 먼저 딥페이크가 무엇인지 이해해야 합니다. 딥페이크는 AI가 매우 사실적인 콘텐츠를 만들기 위해 생성하는 이미지나 비디오입니다.
딥페이크는 어떻게 만들어지나요?
딥 러닝은 여러 계층의 머신 러닝 알고리즘을 사용하여 원시 입력에서 점점 더 높은 수준의 기능을 추출하는 고급 인공지능(AI) 방법입니다. 사람 얼굴과 같은 비정형 데이터로도 학습할 수 있습니다.
해당 데이터는 GAN(생성적 적대 신경망)을 통해 처리되어 딥페이크 비디오를 생성합니다. GAN은 특수 머신 러닝 시스템입니다. 두 개의 신경망을 사용하는데, 이들이 서로 경쟁하면서 트레이닝 세트(예: 얼굴 사진)의 특징을 학습한 다음 동일한 특징을 가진 새로운 데이터(새로운 '사진')를 생성합니다.
네트워크가 생성된 이미지를 훈련 세트와 비교 테스트함에 따라, 가짜 이미지, 비디오, 오디오는 점점 더 설득력 있게 됩니다. 이로 인해 딥페이크는 음성을 복제하는 합성 기술을 활용할 수 있기 때문에 더욱 강력한 위협이 되었습니다.
딥페이크를 만드는 또 다른 방법은 자동 인코더 아키텍처를 사용하는 것입니다. 자동 인코더 신경망은 데이터(예: 이미지)를 더 낮은 차원의 잠재 표현(즉, 픽셀 대신 수학적 벡터)으로 인코딩하고, 데이터를 압축한 다음 파이프라인의 반대쪽에서 동일한 데이터를 재구성하도록 설계되었습니다. 자동 인코더는 컴퓨터 비전 분야에서 필기 분석, 얼굴 인식 등 다양한 목적으로 사용됩니다.
자동 인코더는 이미지(예: 얼굴 이미지)에서 '필수' 데이터를 찾으므로 시각적 노이즈를 제거하는 데 매우 효과적입니다. 딥페이크 소프트웨어의 경우, 자동 인코더 아키텍처는 얼굴 이미지에서 기본적인 특징과 특성을 학습하는 동시에 이미지에 존재할 수 있는 입자, 그림자 및 기타 '얼굴이 아닌' 요소와 같은 외부 요인을 대체로 무시할 수 있으므로 다재다능하고 일반화된 모델(즉, 원래의 훈련 데이터와 다른 데이터에 대해 유용한 변환을 수행할 수 있는 모델)이 생성됩니다.
딥페이크는 어떻게 사용되나요?
딥페이크라는 개념은 영화에서 시각 효과를 만드는 데에도 사용되지만 온라인 딥페이크에는 여러 가지 의도가 있습니다.
특히 선거 기간에 사람들의 의견을 바꾸기 위해 허위 정보 캠페인이 행해집니다.
협박은 누군가가 당신의 딥페이크 영상이나 이미지를 만들어서 당신이 그들의 요구에 굴복하지 않으면 그것을 공개하겠다고 위협하는 것입니다.
딥페이크 피싱은 친구, 가족 또는 동료를 돕는다는 명목으로 실시간으로 누군가를 사칭하는 수법입니다.
딥페이크의 위험성
기술과 AI가 발전함에 따라 온라인 딥페이크 영상과 이미지를 생성하기가 더 쉬워지고 더욱 설득력 있게 되었습니다. 딥페이크의 희생자가 되는 것은 기업, 유명인, 직원, 선거 후보자, 일반인 모두에게 큰 위험을 초래합니다.
사기
2023년, 홍콩의 한 금융 종사자가 딥페이크 기술 때문에 사기꾼에게 2,500만 달러를 지불했습니다 . 해당 근로자는 동료들과 회사 최고재무책임자와의 화상 통화에 초대되었습니다. 전화 통화 중에 직원은 2억 홍콩 달러를 송금하기로 동의했습니다.
그는 회의에서 다른 직원들과 CFO를 보았지만, 사실은 얼굴 인식 기능을 조작해 동료와 CFO처럼 보이게 한 것은 모두 딥페이크 AI였습니다.
협박 및 명예훼손
2020년, 한국 경찰은 고등학생 여학생들의 사진을 찍어 메신저 앱 Telegram 에 유포하는 남자들의 조직을 적발했습니다. 남자들을 도운 것은 고등학생들이었는데, 그들은 반 친구들의 사진을 찍었는데, 그중에는 미성년자도 있었다. 그런 다음 사진을 제작자에게 보냈다.
이런 영상은 다양한 플랫폼에 배포되어 소녀들은 아무것도 할 수 없게 되었습니다. 실제로 범행을 저지른 사람은 아니지만, 위조된 증거는 사회가 그들을 어떻게 보는지에 영향을 미치고 여전히 큰 충격을 줍니다.
딥페이크 피싱
2024년, 77세의 영국 여성 니키는 딥페이크 영상을 통해 17,000파운드의 사기를 당했습니다. 그 여성은 온라인에서 다른 여성을 만났고, 두 사람은 관계를 맺었습니다. 적어도 그녀는 그렇게 생각했습니다. 사기꾼은 석유 굴착 장치에서 작업 중이어서 화상 통화를 할 수 없고, 피해자는 인터넷 접속을 위해 바우처 비용을 지불해야 한다고 주장했습니다. 니키가 의심을 품기 시작하자, 범인은 니키에게 '석유 굴착 장치에 있는 그녀'의 영상을 보내기 시작했고, 이로 인해 니키의 의심은 사라졌습니다. 관계가 지속되면서 니키는 종종 화상 통화를 요청했지만 항상 거절당했습니다. 그러나 얼마 지나지 않아 니키의 마음을 편안하게 해 줄 AI가 생성한 문서, 이미지, 비디오를 받았고, 그 후에는 더 많은 돈을 요구했습니다.
니키는 파트너의 은행 계좌로 돈을 이체하려고 할 때 사기 사실을 알게 되었습니다.
무해한 딥페이크
일부 온라인 딥페이크 영상은 소셜 미디어 플랫폼에서 더 많은 팔로워를 확보하기 위해 순전히 오락 목적으로 제작될 수 있습니다.
가장 인기 있는 딥페이크 영상 중 하나는 TikTok에 공개된 톰 크루즈의 딥페이크 영상입니다 . 이 계정은 팔로워가 100만 명이 넘었고, 톰 크루즈가 출연하지 않았음에도 불구하고 일부 영상은 조회수가 5,000만에 달했습니다. 처음에 사람들은 유명인이 플랫폼에 가입한 이유가 영상, 모습, 목소리, 심지어 성격까지 너무나 설득력이 있었기 때문이라고 생각했습니다.
2022년 , 유튜브 크리에이터 샤묵은 새로운 스파이더맨 영화 예고편을 촬영하면서 배우 톰 홀랜드를 원래 배우인 토비 매과이어로 교체했습니다. 제목에 딥페이크라고 적힌 영상은 순전히 오락용입니다.
딥페이크를 예방하는 방법
딥페이크가 점점 더 큰 우려와 보안 위험으로 떠오르고 있는 가운데, 이런 일이 자신이나 회사에 일어나지 않도록 예방할 수 있는 몇 가지 조치가 있습니다.
모든 요청 확인
개인 정보나 민감한 정보를 요구받는 경우, 전화를 건 사람이 소속되었다고 말한 회사에 다시 전화를 걸어 확인하는 등 2차 채널을 통해 발신자의 신원을 확인하세요 .
모든 온라인 계정에서 개인 정보 보호 설정을 사용하세요
자신과 비슷한 사진이나 영상이 있는 소셜 미디어 계정에 대한 접근을 제한하여 자신과 비슷한 사진을 복제할 수 있는 기회를 줄이세요.
암호 보호
암호를 정기적으로 변경하세요. 모든 비밀번호는 강력하고 , 고유하고, 복잡하며, 최소 16자 이상이어야 합니다. 공유 계정에서는 비밀번호 공유 소프트웨어를 사용하면 가족이나 직원에게 비밀번호를 알려줄 필요가 없습니다.
계정에 2단계 인증 추가
모든 온라인 계정에서 2단계 인증을 사용하여 접속하기 전에 신원 확인을 요구하도록 하세요. 이렇게 하면 사기꾼이 귀하의 계정을 해킹하기가 더 어려워집니다.
정기적으로 소프트웨어를 업데이트하세요
소프트웨어 업데이트는 기기를 최신 맬웨어 , 스파이웨어 , 버그로부터 보호하는 데 필수적입니다.
직원들에게 정기적인 교육을 실시하세요
기술이 발전하듯이 딥페이크 사기 수법도 발전합니다. 최신 사기 수법 에 대해 최신 정보를 얻고, 이를 식별하는 방법에 대해 직원들과 소통하는 것이 중요합니다.
딥페이크 영상을 식별하는 방법을 알아보세요
영상 속 개인의 얼굴 특징을 따라가며 일반적인 인간의 움직임과 일치하는지 확인하세요.
영상이 갑자기 멈추거나 선명도가 일정하지 않습니까?
눈 깜박임과 같은 자연스러운 움직임을 확인하세요. 너무 적거나 너무 많은가요?
영상 속 그림자와 조명이 일관성이 있는지 살펴보세요.
스크린샷을 찍어 Google에 업로드하여 출처를 확인하세요.
피해자라면 어떻게 해야 하나요?
증거를 문서화하세요
딥페이크 영상과 관련된 모든 내용을 저장하세요. 여기에는 댓글, 공유된 플랫폼(해당되는 경우), 스크린샷 및 관련 데이터가 포함됩니다. 사건의 날짜, 시간, 플랫폼을 기록해 두세요.
플랫폼에 알림
딥페이크 콘텐츠가 특정 플랫폼에서 나온 경우, 해당 콘텐츠를 본 호스트 플랫폼(예: YouTube, Facebook, X)에 신고하세요. 대부분의 플랫폼에는 조작된 미디어를 삭제하기 위한 정책이 있습니다 .
당국에 연락하세요
신원이나 재정을 도용하는 딥페이크는 범죄입니다. 지역 법 집행 기관에 신고하고 증거를 제시하여 당국에서 공식 보고서를 발행할 수 있도록 하세요. 이 보고서는 은행, 보험 및 기타 범죄에 대한 공식 계좌에 사용될 수 있습니다.
법적 조치를 취하세요
귀하의 관할권에서 명예훼손, 저작권 또는 개인정보 보호법을 조사하여 설득력 있는 사례를 확보하세요. 다른 사람들이 같은 사기에 걸리지 않았는지 확인하고, 가능하다면 집단 소송을 조사해보세요.
홍보 회사 고용
귀하 또는 귀하의 회사의 평판이 위태로울 경우, 홍보 전문가와 협력하면 대응 방안을 마련하고 필요한 당사자에게 배포하여 피해를 최소화하는 데 도움이 될 수 있습니다.
최첨단 위조 방지 기술
여러 기술 회사에서는 잘못된 정보, 사기, 딥페이크 피싱 사기의 확산을 막기 위해 딥페이크 감지 도구를 생산하고 있습니다.
비디오 제작자가 비디오를 인증하도록 도와주는 기술이 출시되고 있습니다. 암호화 알고리즘을 사용하여 비디오에 설정된 간격으로 해시를 삽입할 수 있으며, 비디오가 변경되면 해시가 달라집니다. AI와 블록체인을 통해 비디오에 위변조 방지 디지털 지문을 등록할 수 있습니다. 문서에 워터마크를 삽입하는 것과 비슷하지만, 비디오에서는 다른 코덱으로 압축된 경우에도 해시가 남아 있어야 하는 점이 어렵습니다.
딥페이크 시도를 차단하는 또 다른 방법은 특수하게 설계된 디지털 '아티팩트'를 비디오에 삽입하여 얼굴 인식 소프트웨어에 사용되는 픽셀의 패턴을 숨기는 프로그램을 사용하는 것입니다. 그러면 딥페이크 알고리즘의 속도가 저하되고 결과물의 품질도 낮아져 딥페이크가 성공할 가능성이 줄어듭니다.
예방적 보안 보호:
직원과 가족에게 딥페이크의 작동 방식과 이로 인해 발생할 수 있는 문제를 알리십시오.
딥페이크 식별 방법을 학습하고, 다른 사람에게도 알리십시오.
미디어 정보 해독력을 갖추고 양질의 뉴스 소스를 사용하십시오.
좋은 기본 프로토콜을 갖추세요. 음성 메일과 비디오를 잘 믿지 않는다고 해서 절대 속지 않는다는 보장은 없지만, 많은 함정을 피하는 데 도움이 될 수 있습니다.
정기적인 백업을 통해 랜섬웨어로부터 데이터를 보호하고 공격 받은 데이터도 복원할 수 있습니다.
계정마다 서로 다른 강력한 암호를 사용하면, 공격자가 네트워크나 서비스에 침입했더라도 다른 네트워크나 서비스도 역시 공격 당한 것은 아닙니다. 누군가 내 Facebook 계정에 침입했더라도 다른 계정에는 침입하지 못하게 해야 합니다.
Kaspersky 안티바이러스 와 같은 우수한 보안 패키지를 사용하여 가정 네트워크, 노트북, 스마트폰을 사이버 위협으로부터 보호하세요. 이 패키지는 바이러스 백신 소프트웨어, Wi-Fi 연결이 해킹되는 것을 막아주는 VPN , 웹캠 보호 기능을 제공합니다.
딥페이크의 미래는?
딥페이크는 계속 진화하고 있습니다. 2년 전만 해도 딥페이크 영상은 조악한 움직임과 눈을 깜빡이지 않는 가짜 얼굴로 쉽게 구분할 수 있었습니다. 온라인에서 안전을 유지하고 모든 온라인 활동, 특히 개인 정보와 관련된 모든 활동에 대해 경계하고 의심하는 것은 사기가 발생하기 전에 이를 식별하는 데 도움이 됩니다.
사이버 스토킹에 관한 FAQ
스팸 피싱이란 무엇인가요?
사회 공학적 기만 공격 은 사람을 사칭하여 개인을 속이고 조종하는 피싱 사기의 한 유형입니다. 이러한 사기의 목적은 민감한 정보를 추출하고 피해자가 돈을 이체하거나 시스템에 접근하도록 하는 것입니다.
음성 딥페이크를 이용한 사기에 대해 걱정해야 할까요?
예. 사기꾼들은 이제 당신과 똑같은 목소리를 내는 딥페이크 오디오를 만들어서 당신을 도와준다는 명목으로 친구, 가족, 동료에게서 돈을 갈취할 수 있습니다. 이를 피하려면 사기꾼이 답을 알 수 없는 코드워드나 보안 질문을 사랑하는 사람과 함께 설정하고 전화 통화 중에 물어보면 사기꾼의 신원을 확인할 수 있습니다.
딥페이크 신원 도용은 어떻게 일어나는가?
사기꾼은 당신의 모습이나 목소리를 이용해 문서를 위조하고, 계좌번호를 변경하거나, 전화로 당신을 사칭할 수 있습니다.
딥페이크는 어떻게 만들어지나요?
딥페이크 비디오, 오디오, 이미지는 AI가 만듭니다. 머신 러닝은 사용자의 신체적 외모에 대한 모든 데이터를 수집하여 합성된 버전을 만듭니다.
추천 제품:
