출시 2개월 만인 2023년 1월, ChatGPT(사전 학습된 생성형 트랜스포머)는 1억 명 이상의 사용자를 확보하며 역대 가장 빠르게 성장한 애플리케이션이 되었습니다.
OpenAI의 고급 챗봇은 인공지능에 대한 대중의 관심을 다시 불러일으켰지만, 이 제품과 관련된 잠재적인 보안 위험에 대해 진지하게 고민한 사람은 거의 없었습니다.
ChatGPT: 보안 위협 및 문제
ChatGPT와 다른 챗봇의 기반이 되는 기술은 비슷할 수 있지만, ChatGPT는 독자적인 범주에 속합니다. 일종의 개인 비서로 사용하려는 사용자에게는 좋은 소식이지만, 위협 행위자들도 이를 사용한다는 점을 고려하면 걱정스러운 부분입니다.
사이버 범죄자들은 ChatGPT를 이용해 바이러스를 작성하고, 사기 웹사이트를 구축하고, 피싱 이메일을 생성하고, 가짜 뉴스를 만드는 등의 작업을 할 수 있습니다. 이 때문에 Bleeping Computer 의 분석에 따르면 ChatGPT는 이점보다 사이버 보안에 더 큰 위험이 될 수 있습니다.
동시에 ChatGPT 자체에 해결되지 않은 특정 취약점이 있다는 심각한 우려도 있습니다. 예를 들어, 2023년 3월에는 일부 사용자가 다른 사용자의 대화 제목을 볼 수 있다는 보고가 나왔습니다. 당시 The Verge 에서 보도한 바와 같이, OpenAI의 CEO인 샘 알트먼은 “오픈 소스 라이브러리의 버그”가 이 문제를 일으켰다고 설명했습니다.
이는 기본적으로 엄청난 양의 데이터를 수집하는 ChatGPT와 공유하는 내용을 제한하는 것이 얼마나 중요한지를 강조합니다. 기술 대기업 삼성은 챗봇을 어시스턴트로 사용하던 직원들이 실수로 기밀 정보를 챗봇에 유출하는 사고를 겪으면서 이 사실을 뼈저리게 깨달았습니다.
ChatGPT는 개인 정보 보호에 위협이 될까요?
보안과 프라이버시는 완전히 같은 것은 아니지만 밀접한 관련이 있으며 종종 교차하는 경우가 많습니다. ChatGPT가 보안 위협이라면 개인 정보에 대한 위협이기도 하며, 그 반대의 경우도 마찬가지입니다. 하지만 이것이 보다 실용적인 측면에서 무엇을 의미할까요? ChatGPT의 보안 및 개인정보 보호 정책은 어떤가요?
수십억 개의 단어가 인터넷에서 스크랩되어 ChatGPT의 방대한 데이터베이스를 생성했습니다. 이 데이터베이스는 사용자가 공유하는 모든 것을 저장하기 때문에 지속적으로 확장되고 있습니다. 미국의 비영리 단체인 Common Sense 은 챗봇이 개인 식별 정보(PII)와 기타 민감한 데이터를 수집한다는 점을 지적하며 ChatGPT에 61%의 개인정보 보호 평가 점수를 부여했습니다. 이 데이터의 대부분은 저장되거나 특정 제3자와 공유됩니다.
어떤 경우든, 특히 업무에 사용하거나 민감한 정보를 처리하는 데 ChatGPT를 사용할 때는 주의해야 합니다. 일반적으로 대중에게 알리고 싶지 않은 내용은 봇과 공유해서는 안 됩니다.
채팅과 관련된 보안 위험에 대처하기
인공지능은 언젠가는 규제를 받게 되겠지만, 보안 위협이 없는 세상을 상상하기는 어렵습니다. 모든 기술과 마찬가지로 인공지능은 악용될 수 있고 악용될 것입니다.
앞으로 챗봇은 검색 엔진, 음성 비서, 소셜 네트워크의 필수적인 부분이 될 것이라고 Malwarebytes 는 말합니다. 그리고 의료, 교육, 금융, 엔터테인먼트에 이르기까지 다양한 산업 분야에서 챗봇의 역할이 커질 것입니다.
이것은 우리가 알고 있는 보안을 근본적으로 변화시킬 것입니다. 그러나 Malwarebytes에서도 언급했듯이, 사이버 보안 전문가들도 소프트웨어의 버그나 네트워크 활동의 “의심스러운 패턴”을 찾는 데 ChatGPT 및 유사한 도구를 사용할 수 있습니다.
인식 제고가 핵심입니다
5년 또는 10년 후 ChatGPT는 어떤 기능을 하게 될까요? 추측만 할 수 있지만 확실한 것은 인공 지능이 아무데도 가지 않을 것이라는 점입니다.
더욱 발전된 챗봇이 등장함에 따라 전체 산업은 챗봇을 책임감 있게 사용하는 방법을 조정하고 배워야 할 것입니다. 여기에는 이미 인공지능에 의해 형성되고 있는 사이버 보안 산업도 포함됩니다. AI와 관련된 보안 위험에 대한 인식을 높이는 것이 핵심이며, 이러한 기술이 윤리적인 방식으로 개발되고 사용되도록 하는 데 도움이 될 것입니다.