많은 디지털 네이티브가 ChatGPT를 칭찬하지만, 일부에서는 득보다 실이 많다고 우려합니다. AI를 가로채는 사기꾼에 대한 뉴스 보도가 인터넷에 퍼지면서 회의론자들의 불안감이 커지고 있습니다. 심지어 ChatGPT를 위험한 도구로 간주하기도 합니다.

AI 챗봇은 완벽하지는 않지만, 그렇다고 완전히 피할 필요는 없습니다. 사기꾼이 ChatGPT를 악용하는 방법과 이를 막기 위해 무엇을 할 수 있는지에 대해 알아야 할 모든 것을 알려드립니다.

ChatGPT로 인해 개인 정보가 유출되나요?

ChatGPT에 대한 대부분의 프런트엔드 보안 우려는 추측과 확인되지 않은 보고서에서 비롯됩니다. 결국 이 플랫폼은 2022년 11월에야 출시되었습니다. 신규 사용자가 익숙하지 않은 도구의 개인정보 보호와 보안에 대해 오해를 하는 것은 당연합니다.

OpenAI의 이용 약관에 따르면 , ChatGPT가 다음 데이터를 처리하는 방식은 다음과 같습니다:

개인 식별 정보

ChatGPT가 개인 식별 정보(PII)를 판매한다는 소문이 있습니다.

이 플랫폼은 마이크로소프트와 엘론 머스크와 같은 기술 투자자들이 자금을 지원하는 유명한 인공지능 연구소인 OpenAI에서 출시했습니다. ChatGPT는 개인정보 처리방침 에 명시된 서비스를 제공하기 위해서만 고객 데이터를 사용해야 합니다.

또한 ChatGPT는 최소한의 정보만 요청합니다. 이름과 이메일 주소만으로 계정을 만들 수 있습니다.

대화

OpenAI는 ChatGPT 대화를 안전하게 유지하지만 모니터링할 수 있는 권리를 보유합니다. AI 트레이너는 지속적으로 개선할 부분을 찾습니다. 플랫폼은 방대하지만 제한된 데이터 세트로 구성되어 있기 때문에 오류, 버그 및 취약성을 해결하려면 시스템 전반의 업데이트가 필요합니다.

그러나 OpenAI는 연구 목적으로만 컨버전을 모니터링할 수 있습니다. 이를 제3자에게 배포하거나 판매하는 것은 자체 사용 약관을 위반하는 것입니다.

공공 정보

BBC 에 따르면 OpenAI는 3,000억 개의 단어로 ChaGPT를 훈련했습니다. 소셜 미디어 플랫폼, 비즈니스 웹사이트, 댓글 섹션과 같은 공개 웹 페이지에서 데이터를 수집합니다. 사용자가 디지털 발자국을 지우지 않는 한, ChatGPT가 사용자의 정보를 가지고 있을 가능성이 높습니다.

ChatGPT에는 어떤 보안 위험이 존재하나요?

ChatGPT가 본질적으로 위험하지는 않지만, 플랫폼은 여전히 보안 위험을 내포하고 있습니다. 사기꾼은 제한을 우회하여 다양한 사이버 공격을 실행할 수 있습니다.

이 글도 확인해 보세요:  턴키 GNU/Linux로 개인 VPN을 설정하는 방법

그럴듯한 피싱 이메일

사기꾼은 이메일을 작성하는 데 시간을 소비하는 대신 ChatGPT를 사용합니다. 빠르고 정확하기 때문입니다. 고급 언어 모델(예: GPT-3.5 및 GPT-4)은 몇 분 안에 수백 개의 일관되고 설득력 있는 피싱 이메일을 생성할 수 있습니다. 심지어 독특한 어조와 작문 스타일도 채택합니다.

ChatGPT를 사용하면 해킹 시도를 발견하기 어렵기 때문에 이메일에 응답하기 전에 각별히 주의하세요. 일반적으로 정보를 누설하지 마세요. 합법적인 기업과 조직은 무작위 이메일을 통해 기밀 PII를 요청하는 경우가 거의 없다는 점에 유의하세요.

해킹 시도를 발견하는 방법을 알아보세요. 이메일 제공업체는 스팸 메시지를 필터링하지만 일부 교묘한 메시지는 그 틈을 비집고 들어갈 수 있습니다. 그래도 피싱 메시지가 어떻게 생겼는지 알아두어야 합니다.

데이터 도용

ChatGPT는 누구나 수정할 수 있는 오픈 소스 LLM을 사용합니다. 대규모 언어 모델(LLM)과 머신 러닝에 능숙한 코더는 사전 학습된 AI 모델을 레거시 시스템에 통합하는 경우가 많습니다. 새로운 데이터 세트에 AI를 학습시키면 기능이 변경됩니다. 예를 들어, 레시피와 운동 루틴을 제공하면 ChatGPT는 유사 피트니스 전문가가 됩니다.

협업이 가능하고 편리하지만 오픈소싱은 기술 악용에 취약합니다. 숙련된 범죄자들은 이미 ChatGPT를 악용하고 있습니다. 이들은 대량의 훔친 데이터로 이를 훈련시켜 플랫폼을 사기를 위한 개인 데이터베이스로 활용합니다.

기억하세요: 사기꾼의 운영 방식은 사용자가 통제할 수 없습니다. 가장 좋은 방법은 신원 도용의 징후를 발견하면 연방거래위원회(FTC)에 연락하는 것입니다.

멀웨어 제작

ChatGPT는 다양한 프로그래밍 언어로 사용 가능한 코드 스니펫을 작성합니다. 특히 간결한 프롬프트를 구성하는 경우 대부분의 샘플은 최소한의 수정만으로 제대로 작동합니다. 이 기능을 활용하여 앱과 사이트를 개발할 수 있습니다.

ChatGPT는 수십억 개의 데이터 세트를 학습했기 때문에 멀웨어 및 바이러스 개발과 같은 불법적인 행위도 알고 있습니다. OpenAI는 챗봇이 악성 코드를 작성하는 것을 금지합니다. 하지만 사기꾼들은 프롬프트를 재구성하고 정확한 질문을 던짐으로써 이러한 제한을 우회합니다.

아래 사진은 ChatGPT가 악의적인 목적의 코드 작성을 거부하는 것을 보여줍니다.

이 글도 확인해 보세요:  AES-128 암호화와 AES-256 암호화: 차이점은 무엇인가요?

한편, 아래 사진은 사용자가 프롬프트를 잘못 입력할 경우 ChatGPT가 유해한 정보를 제공한다는 것을 보여줍니다.

지적 재산권 도용

비윤리적인 블로거가 ChatGPT를 사용하여 콘텐츠를 돌리고 있습니다. 이 플랫폼은 고급 LLM에서 실행되므로 표절 태그를 피하기 위해 수천 개의 단어를 빠르게 바꿀 수 있습니다.

ChatGPT는 아래 텍스트를 10초 만에 고쳤습니다.

물론 회전은 여전히 표절로 분류됩니다. 의역된 AI 기사가 우연히 순위에 오르는 경우도 있지만, Google은 일반적으로 평판이 좋은 출처의 원본 콘텐츠를 선호합니다. 값싼 속임수와 SEO 해킹은 고품질의 독창적인 글을 이길 수 없습니다.

또한 Google은 매년 여러 핵심 업데이트를 출시합니다. 곧 SERP에서 게으르고 원본이 아닌 AI가 생성한 부분을 제거하는 데 초점을 맞출 예정입니다.

비윤리적인 응답 생성

AI 언어 모델에는 편견이 없습니다. 사용자 요청을 분석하고 기존 데이터베이스에서 데이터를 가져와서 답변을 제공합니다.

ChatGPT를 예로 들어 보겠습니다. 사용자가 프롬프트를 보내면 OpenAI가 학습에 사용한 데이터 세트를 기반으로 응답합니다.

ChatGPT의 콘텐츠 정책은 부적절한 요청을 차단하지만, 사용자는 탈옥 프롬프트를 통해 이를 우회합니다. 사용자는 정확하고 영리한 지침을 제공합니다. 사이코패스 가상의 인물을 묘사하도록 요청하면 ChatGPT는 아래와 같은 응답을 생성합니다.

좋은 소식은 OpenAI가 ChatGPT에 대한 통제권을 잃지 않았다는 것입니다. 제한을 강화하기 위한 지속적인 노력으로 사용자 입력에 관계없이 ChatGPT가 비윤리적인 응답을 생성하지 못하도록 막고 있습니다. 앞으로도 탈옥은 쉽지 않을 것입니다.

쿼드 프로 쿼오

ChatGPT와 같이 익숙하지 않은 새로운 기술의 급속한 성장은 쿼드 프로 쿼오 공격의 기회를 창출합니다. 이는 사기꾼이 가짜 제안으로 피해자를 유인하는 사회 공학 전술입니다.

대부분의 사람들은 아직 ChatGPT에 대해 잘 알지 못합니다. 해커들은 이러한 혼란을 악용하여 잘못된 프로모션, 이메일, 공지사항을 퍼뜨립니다.

가장 악명 높은 사례는 가짜 앱과 관련된 것입니다. 신규 사용자는 OpenAI를 통해서만 ChatGPT에 액세스할 수 있다는 사실을 모릅니다. 자신도 모르게 스팸성 프로그램과 확장 프로그램을 다운로드합니다.

이 글도 확인해 보세요:  ChatGPT 기록이 사라졌습니다: 잃어버린 ChatGPT 기록을 복구하는 방법

대부분은 앱 다운로드를 원하지만, 일부는 개인 식별 정보를 훔칩니다. 사기꾼들은 멀웨어와 피싱 링크를 통해 이들을 감염시킵니다. 예를 들어, 2023년 3월에는 매일 2,000명 이상의 사용자로부터 가짜 ChatGPT Chrome 확장 프로그램이 Facebook 자격 증명을 훔쳤습니다.

이러한 시도를 방지하려면 타사 앱을 사용하지 마세요. OpenAI는 ChatGPT용 공인 모바일 앱, 컴퓨터 프로그램 또는 브라우저 확장 프로그램을 출시한 적이 없습니다. 이를 주장하는 것은 모두 사기입니다.

안전하고 책임감 있는 ChatGPT 사용

ChatGPT는 그 자체로 위협이 아닙니다. 시스템에는 취약점이 있지만 데이터를 손상시키지는 않습니다. AI 기술을 두려워하는 대신 사기꾼들이 어떻게 이를 사회 공학 전술에 통합하는지 연구하세요. 그렇게 하면 능동적으로 자신을 보호할 수 있습니다.

하지만 여전히 ChatGPT에 대해 의구심이 든다면 Bing을 사용해 보세요. 새로운 Bing은 GPT-4에서 실행되고 인터넷에서 데이터를 가져오고 엄격한 보안 조치를 따르는 AI 기반 챗봇을 갖추고 있습니다. 여러분의 필요에 더 적합할 수도 있습니다.

By 박준영

업계에서 7년간 경력을 쌓은 숙련된 iOS 개발자인 박준영님은 원활하고 매끄러운 사용자 경험을 만드는 데 전념하고 있습니다. 애플(Apple) 생태계에 능숙한 준영님은 획기적인 솔루션을 통해 지속적으로 기술 혁신의 한계를 뛰어넘고 있습니다. 소프트웨어 엔지니어링에 대한 탄탄한 지식과 세심한 접근 방식은 독자에게 실용적이면서도 세련된 콘텐츠를 제공하는 데 기여합니다.