많은 기술 애호가들은 인공 지능의 잠재력에 흥분하고 있지만, 사이버 범죄자들도 이 기술을 악용하여 공격에 활용하고 있습니다. 인공지능은 흥미로운 분야이지만 우려의 대상이 되기도 합니다. 그렇다면 AI는 어떤 방식으로 사이버 범죄자들에게 도움을 줄 수 있을까요?
바이러스 작성
인공지능은 첨단 기술이기 때문에 바이러스를 작성하는 데 사용될 수 있다는 사실이 놀랍지 않을 수도 있습니다. 바이러스는 해킹에 사용되는 악성 프로그램(“악성”과 “소프트웨어”의 합성어)을 가리키는 용어로, 다양한 형태로 존재할 수 있습니다. 하지만 바이러스를 사용하려면 먼저 작성해야 합니다.
모든 사이버 범죄자가 코딩 경험이 있는 것은 아니며, 새로운 프로그램을 작성하는 데 시간을 투자하고 싶지 않은 사람도 있습니다. 이 때 AI가 유용하게 사용될 수 있습니다.
2023년 초, ChatGPT가 불법 공격을 위한 바이러스를 작성하는 데 사용될 수 있다는 사실이 발견되었습니다. 큰 인기를 끌고 있는 OpenAI의 ChatGPT는 AI 인프라를 기반으로 합니다. 이 챗봇은 많은 유용한 일을 할 수 있지만, 불법적인 사람들에 의해 활용되고 있습니다.
한 사용자는 해킹 포럼에 ChatGPT를 사용하여 파이썬 기반 바이러스 프로그램을 작성했다고 주장하며 글을 올렸습니다.
ChatGPT는 악성 프로그램 작성 과정을 효과적으로 자동화할 수 있습니다. 이는 기술 전문 지식이 많지 않은 초보 사이버 범죄자들에게도 문을 열어줍니다.
ChatGPT(또는 적어도 최신 버전)는 심각한 위협을 가하는 정교한 코드가 아닌 기본적이고 때로는 버그가 있는 바이러스 프로그램만 작성할 수 있습니다. 하지만 그렇다고 해서 AI를 바이러스 작성에 사용할 수 없다는 것은 아닙니다. 현재 AI 챗봇이 기본적인 악성 프로그램을 만들 수 있다는 점을 고려할 때, 머지않아 AI 시스템에서 더 끔찍한 바이러스가 만들어지는 것을 보게 될지도 모릅니다.
비밀번호 크래킹
비밀번호는 종종 계정과 디바이스를 보호하는 데이터의 한 줄과 같은 역할을 합니다. 따라서 많은 사이버 범죄자들이 개인 데이터에 액세스하기 위해 비밀번호를 해독하려고 시도하는 것은 당연한 일입니다.
비밀번호 크래킹은 이미 사이버 범죄에서 널리 사용되고 있으며, 악의적인 공격자가 대상의 비밀번호를 알아내는 데 사용할 수 있는 다양한 기법이 있습니다. 기술마다 성공률은 다르지만 AI를 사용하면 비밀번호를 해독할 가능성이 훨씬 더 높아질 수 있습니다.
AI 비밀번호 크래커의 개념은 결코 공상 과학 소설이 아닙니다. 실제로 ZDNet 에 따르면 사이버 보안 전문가들은 일반적으로 사용되는 비밀번호의 절반 이상이 1분 이내에 해독될 수 있다는 사실을 발견했습니다. 이 기사에서는 홈 시큐리티 히어로즈 보고서 을 언급했는데, 이 보고서에서는 PassGAN이라는 AI 기반 크래킹 도구가 일반적인 비밀번호의 51%를 1분 이내에, 71%는 하루 이내에 해독할 수 있다고 밝혔습니다.
이 수치는 AI 암호 해독이 얼마나 위험한지 보여줍니다. 대부분의 일반 비밀번호를 24시간 이내에 해독할 수 있기 때문에 사이버 범죄자가 이러한 도구를 사용하여 어떤 일을 할 수 있을지 알 수 없습니다.
사회 공학 수행
사회 공학으로 알려진 사이버 범죄 수법은 매주 수많은 피해자를 양산하고 있으며, 전 세계 모든 지역에서 큰 문제가 되고 있습니다. 이 수법은 조작을 통해 피해자가 공격의 표적이 되고 있다는 사실조차 깨닫지 못한 채 공격자의 요구에 응하도록 유도합니다.
피싱 이메일 및 문자 등 악성 커뮤니케이션에 사용되는 콘텐츠를 공식화함으로써 AI가 소셜 엔지니어링 공격에 도움을 줄 수 있습니다. 오늘날의 AI 발전 수준에서도 챗봇에게 설득력 있고 설득력 있는 스크립트를 작성하도록 요청하는 것은 어렵지 않으며, 사이버 범죄자는 이를 피해자에게 사용할 수 있습니다. 이러한 위협은 눈에 띄지 않게 사라지지 않았으며 사람들은 이미 다가올 위험에 대해 우려하고 있습니다.
이런 의미에서 AI는 맞춤법 및 문법 오류를 수정하여 악의적인 커뮤니케이션을 보다 전문적이고 공식적으로 보이게 만드는 데 도움을 줄 수 있습니다. 이러한 오류는 종종 악의적인 활동의 징후로 간주되기 때문에 사이버 범죄자들이 소셜 엔지니어링 콘텐츠를 더 깔끔하고 효과적으로 작성할 수 있다면 도움이 될 수 있습니다.
소프트웨어 취약점 찾기
사이버 범죄자는 소프트웨어 프로그램을 해킹하기 위해 보안 취약점을 찾아서 악용해야 하는 경우가 많습니다. 이러한 취약점은 소프트웨어 코드의 버그로 인해 발생하는 경우가 많습니다. 버그가 패치되지 않거나 개인이 소프트웨어 프로그램을 정기적으로 업데이트하지 않으면(종종 보안 결함을 제거하지 않으면) 취약점이 큰 위험을 초래할 수 있습니다.
사이버 범죄자들은 이러한 사실을 잘 알고 있으며, 그렇기 때문에 결함을 찾고 있습니다. 익스플로잇 키트와 같이 취약점을 찾는 데 사용할 수 있는 도구는 이미 존재합니다. 하지만 악의적인 공격자는 AI를 사용하면 훨씬 더 많은 취약점을 찾아낼 수 있으며, 이 중 일부는 막대한 피해를 입히는 데 사용될 수 있습니다.
그러나 이 AI 애플리케이션은 취약점이 악용되기 전에 발견하는 데 도움이 될 수 있으므로 사이버 보안 공급업체에게도 유용할 수 있습니다. 결함을 신속하게 패치할 수 있으면 악의적인 공격자가 이를 악용할 수 있는 능력을 차단하여 전반적인 공격을 완화할 수 있습니다.
도난 데이터 분석 
데이터는 금과 같은 가치가 있습니다. 오늘날 민감한 데이터는 다크웹 마켓플레이스에서 지속적으로 판매되고 있으며, 일부 악의적인 공격자들은 정보가 충분히 유용하다면 매우 높은 가격을 기꺼이 지불합니다.
하지만 이러한 마켓플레이스에서 이러한 데이터를 사용할 수 있게 되려면 먼저 데이터를 도난당해야 합니다. 데이터는 확실히 SMA에서 도난당할 수 있습니다. 그러나 대규모 해킹으로 인해 대규모 데이터베이스가 도난당할 수도 있습니다. 이때 사이버 범죄자는 이 데이터베이스에서 어떤 정보가 가치 있는 정보인지 판단해야 합니다.
AI를 사용하면 가치 있는 정보를 선별하는 프로세스가 간소화되어 악의적인 공격자가 판매할 가치가 있는 정보를 판단하는 데 걸리는 시간을 단축할 수 있으며, 반대로 직접 악용하는 데 걸리는 시간을 단축할 수도 있습니다. 인공지능의 핵심은 학습이므로 언젠가는 인공지능 기반 도구를 사용하여 중요한 민감한 데이터를 쉽게 찾아낼 수 있게 될 것입니다.
인공지능은 유망하지만 많은 위협도 존재합니다
대부분의 기술이 그렇듯이 인공지능은 사이버 범죄자들에게 악용되어 왔고 앞으로도 계속 악용될 것입니다. AI는 이미 일부 불법적인 기능을 가지고 있기 때문에 사이버 범죄자들이 가까운 미래에 이 기술을 사용하여 어떻게 공격을 발전시킬 수 있을지 알 수 없습니다. 사이버 보안 회사들도 이러한 위협에 맞서기 위해 AI와 점점 더 많은 협력을 하고 있지만, 시간이 지나면 어떻게 될지 알 수 있을 것입니다.