챗봇이 사용되지 않는 곳이 없는데, 개인 정보 관련 문제는 없나요?

챗봇은 고객 경험 개선을 목표로 AI와 자동화를 활용하여 거의 모든 웹사이트에 등장하기 시작했습니다. 이러한 챗봇은 고객이 일반적인 질문에 대한 답변을 찾도록 안내하거나, 나중에 답할 수 있도록 '메시지를 받아' 고객이 더 신속한 서비스를 받을 수 있도록 도와줍니다.

소매업체에서부터 소프트웨어 플랫폼에 이르기까지 거의 모든 사이트에서 챗봇을 도입하기 시작했으며, 일부 고객은 챗봇의 기능에 매우 만족하고 있습니다. 문제는 이러한 챗봇이 데이터 프라이버시와 보안을 침해하고 있지는 않느냐는 것입니다. 과연 어떻게 하면 보안상의 위험을 감수하지 않고 온라인으로 챗봇을 이용할 수 있을지 한번 자세히 살펴보겠습니다.

챗봇은 어떤 용도로, 왜 사용되나요?

점점 더 많은 비즈니스 거래가 온라인으로 전환되고, 소비자들이 '상시 이용 가능한(always on)' 고객 서비스를 기대하는 상황에서 챗봇은 상담원의 업무 공백을 채워줄 수 있습니다. 챗봇은 24시간 쉬지 않고 고객을 맞이하고, 고객이 질문할 경우 AI에 기반한 답변을 제공하고, 적절한 상담원에게 질문을 전달하며, 상담원 부재 시에는 메시지를 받아두었다가 나중에 고객에게 연락을 취할 수 있도록 합니다.

챗봇의 장점은 분명합니다. 챗봇의 장점은 분명합니다. 상시 가용성을 통해 자칫 놓칠 수 있는 리드(leads)를 포착하는 동시에 문의에 신속하게 답변함으로써 고객의 시간을 절약하고, 상담원이 중복되는 질문을 피할 수 있도록 해줍니다. 자동화 챗봇은 비즈니스 비용을 절감하고, 고객 참여를 유도하며, 매출까지 증대시킬 수 있습니다.

문제는 챗봇이 데이터 프라이버시 및 보안에 위협이 되는가 하는 것입니다. 챗봇은 맞춤형 경험과 지능적인 답변을 제공하기 위해 풍부한 개인 고객 데이터에 액세스하는 경우가 많은데, 적절한 예방 조치가 없다면 이는 중대한 위협이 될 수 있으며 주요 취약점의 위험도가 더 높아질 수 있습니다.

챗봇과 관련된 취약점

모든 시스템에 취약점이 있을 수 있으며, 이는 해커가 악용할 수 있는 시스템상의 보안 허점이나 틈, 의도치 않은 '백도어(Backdoor)'가 있음을 나타냅니다. 취약점은 허술한 보안 계획, 취약한 코딩 또는 단순한 사용자 오류로 인해 발생하는 경우가 많습니다. 해커의 공격으로부터 완전히 안전한 시스템은 없으며 모든 소프트웨어에는 취약점이 존재하지만, 기업은 지속적으로 취약점을 검사하고 찾아내야 하며, 발견 시 패치를 적용해야 합니다.

기업이 온라인에서 챗봇을 구현할 경우 다음과 같은 취약점은 없는지 살펴봐야 합니다.

고객이 챗봇과 소통할 때와 챗봇이 백엔드 데이터베이스와 통신할 때 암호화가 이루어지지 않음.
직원을 위한 프로토콜 및 교육이 충분치 않아 사용자가 의도치 않게 백도어를 노출하거나 개인 데이터를 직접 노출시킬 수 있음.
웹사이트, 챗봇 도구 및/또는 이러한 구성 요소에 연결되는 데이터베이스에서 사용하는 호스팅 플랫폼의 취약성.

악의적인 공격자가 이러한 취약점을 발견할 경우 이를 악용하여 기업에 공격을 가할 수 있습니다.

챗봇과 관련된 위협

위협은 일반적으로 취약점을 악용하려는 악의적인 의도를 가진 사람이 저지르는 일회성 사건입니다. 다음은 챗봇과 관련된 위협의 예입니다.

멀웨어와 랜섬웨어가 회사 시스템을 통해 확산되어 데이터를 유출하거나 인질로 삼을 수 있습니다. 공격자가 시스템을 해킹하여 챗봇이 사용자의 기기에 멀웨어나 랜섬웨어를 퍼뜨리도록 할 수도 있습니다.
챗봇이 암호화 등의 방법을 사용하여 고객 데이터를 적절하게 보호하지 않으면 데이터 도용이 발생할 수 있습니다. 또한 데이터 변조가 발생하여 데이터가 손실되거나 사용할 수 없게 될 수 있습니다.
챗봇을 사칭하고 용도를 변경하는 행위 또한 큰 위협이 될 수 있습니다. 이 경우 고객은 회사의 챗봇과 소통하고 있는 것으로 생각하여 해커에게 개인 데이터를 노출시킬 수 있습니다.

규모와 관계없이 모든 기업에는 항상 악의적인 행위자와 관련된 위협이 존재합니다. 챗봇 사용으로 얻을 수 있는 혜택이 더 많기는 하지만, 이러한 위협은 모든 비즈니스 도구와 자산은 을 적절하게 보호해야 하며, 특히 고객의 데이터가 오가는 경우에는 더욱 보안에 철저해야 한다는 사실을 상기시켜 줍니다.

문제를 방지하는 방법

챗봇과 관련된 잠재적인 취약점은 모든 비즈니스 시스템에서 발생할 수 있습니다. 하지만 사실상 챗봇을 도입하면 많은 이점이 있기 때문에 이러한 잠재적인 문제점 때문에 챗봇 사용을 단념할 것이 아니라, 위협으로 인한 위험을 최소화할 수 있도록 대비해야 합니다. 기업은 다음과 같은 방법을 통해 잠재적인 취약성과 위협을 해결할 수 있습니다.

적절한 암호화 및 인증 사용

챗봇을 비롯한 모든 비즈니스 시스템은 '엔드투엔드(end-to-end)' 암호화되어야 합니다. 이러한 암호화 방식은 발신자와 수신자 외에는 아무도 대화 내용을 볼 수 없도록 해줍니다. 이때 발신자와 수신자는 챗봇 및 챗봇과 상호작용하는 사람으로 제한되어야 합니다. 엔드투엔드 암호화는 그 우수한 효과 덕분에 이미 WhatsApp과 정부 기관에서 사용되고 있습니다.

암호화 외에도 기업은 온라인에서 챗봇을 사칭하거나, 용도를 변경하거나, 악의적으로 사용하는 것을 방지하기 위해 적절한 인증 및 권한 부여 절차를 마련해야 합니다.

새로운 프로세스 및 프로토콜 확립

보안 프로세스와 프로토콜은 소프트웨어의 개발과 암호화, 구현, 연결, 관리 방식을 정의합니다. 또한 직원들이 서로 다른 시스템과 상호 작용하고 활용하는 방식을 관리하는 데 도움이 됩니다.

프로세스와 프로토콜이 적절하게 구현되면 보안 계획을 완벽하게 이행하여 취약점을 차단하고 기존 문제를 식별하는 데 도움이 됩니다. 하지만 이렇게 확립된 프로세스와 프로토콜이 시간이 지나도 적절하고 지속적으로 사용될 수 있도록 하는 것 역시 중요합니다.

직원 교육

기업이 소프트웨어 암호화와 보안에 아무리 많은 시간과 비용을 투자하더라도 직원의 활동을 제대로 교육하고 모니터링하지 않으면 여전히 심각한 취약점을 안고 있는 것입니다.

사이버 보안에 있어서 사용자 오류는 여전히 주요 취약점입니다. 따라서 기업은 주요 프로세스를 시행하고, 정기적으로 직원 교육을 제공하며, 직원들의 활동을 모니터링하여 핵심 정책을 준수하고 있는지 확인해야 합니다.

이러한 모든 요소가 어우러지면 기업은 추가적인 데이터 프라이버시 및 보안 위험을 감수하지 않고도 챗봇과 같은 새로운 기술과 소프트웨어를 최대한 활용할 수 있는 입지를 선점할 수 있습니다.

추가 참고 자료