ChatGPT가 처음 출시되었을 때, 초기 사용자 집단은 “탈옥”이라고 알려진 프로세스를 통해 제약을 우회하여 기능의 한계를 탐구하고자 했습니다. 이 대담한 사람들은 인공지능을 교묘하게 조작하여 미리 정해진 매개변수의 한계를 뛰어넘음으로써 이전에는 인공지능의 프로그래밍 범위 내에서 가능하다고 생각했던 것의 한계를 뛰어넘는 흥미롭고 때로는 사치스러운 결과를 도출해냈습니다.
OpenAI의 개선 작업을 거친 후, ChatGPT에서 탈옥을 실행할 수 있는 가능성이 현저히 감소했습니다. 또한, 최근 탈옥에 성공한 시도가 눈에 띄게 없다는 것은 이 특정 AI 모델에서는 더 이상 탈옥이 불가능할 수 있음을 시사합니다. 따라서 ChatGPT를 사용하는 애호가들은 탈옥이 여전히 효과적인 옵션인지 여부에 대해 의문을 품게 됩니다.
한때 만연했던 것으로 추정되는 ChatGPT 탈옥의 현재 상태에 대해 문의할 수 있을까요?
ChatGPT 프롬프트 기술 전반적으로 향상됨
ChatGPT가 등장하기 전에는 인공지능과 대화하는 것은 주로 연구실에 접근할 수 있는 개인에게만 국한된 특수한 능력이었습니다. 많은 초기 사용자들은 효율적인 프롬프트를 작성하는 데 능숙하지 않았기 때문에 “탈옥”으로 알려진 취약점을 악용하는 데 의존하는 사람들이 많았습니다. 이를 통해 프롬프트 능력을 연마하는 데 많은 시간이나 노력을 투자하지 않고도 원하는 결과를 빠르게 달성할 수 있는 수단이 제공되었습니다.
현재 상황은 프롬프트에 대한 숙련도를 기본 역량으로 간주할 것을 요구합니다. ChatGPT 프롬프트 가이드와 같이 쉽게 접근할 수 있는 리소스의 확산과 꾸준한 활용을 통해 얻은 실무 경험 덕분에 개인은 프롬프트에 대한 자신의 적성을 다듬을 수 있게 되었습니다. 그 결과, 탈옥과 같은 우회 방법에 의존하는 대신, 압도적인 수의 ChatGPT 사용자가 이전에는 탈옥이 필요했던 목표를 달성할 수 있는 대체 프롬프트 전술을 채택하고 있습니다.
무검열 챗봇의 부상
ChatGPT와 같이 인기 있는 인공지능 챗봇의 콘텐츠 검열에 대한 주요 기술 기업들의 조사가 강화됨에 따라, 수익 중심의 소규모 스타트업 기업들이 이 영역에 대해 보다 관대한 규제를 수용하고 있으며, 이는 어떤 형태의 검열도 없는 인공지능 챗봇에 대한 욕구가 있음을 추측할 수 있게 해줍니다.몇 가지 조사를 수행하면 사용자의 요청에 따라 광범위한 작업을 수행할 수 있는 무제한 가상 비서를 제공하는 수많은 AI 챗봇 플랫폼을 발견할 수 있습니다.
잘못된 윤리적 원칙을 가진 규제되지 않은 챗봇의 존재는 우려스러운 문제입니다. 이러한 개체는 범죄 소설이나 모욕적인 유머 등 사회에서 불쾌하다고 간주되는 콘텐츠를 생성할 가능성이 있습니다. 또한 컴퓨터 시스템을 손상시키는 악성 소프트웨어를 만드는 데 악용될 수도 있습니다. 이러한 행위에 대한 제한이 없기 때문에 개인이 ChatGPT 제한을 우회하는 방법을 개발하는 데 노력을 기울일 필요가 없습니다. 이러한 대체 솔루션은 ChatGPT의 강력함에는 미치지 못하지만, 다양한 작업을 처리할 수 있습니다. 사용자들 사이에서 상당한 인지도를 얻고 있는 FlowGPT와 Unhinged AI가 그 예입니다.
탈옥이 더 어려워졌다
초기 단계에서는 다양한 온라인 리소스에서 얻은 프롬프트를 복사하여 붙여넣기만 하면 ChatGPT를 조작할 수 있었기 때문에 사용자는 최소한의 프로그래밍 명령을 통해 페르소나를 크게 수정할 수 있었습니다. 사용자는 폭발물 제작과 같은 위험한 활동을 옹호하는 악의적인 적대자 또는 무차별적으로 모욕적인 언어를 사용하는 저속한 대화자로 ChatGPT를 변형할 수 있었습니다. 이러한 제한 없는 액세스로 인해 겉보기에는 무해해 보이는 일련의 명령어를 통해 AI가 주저 없이 주어진 명령을 수행하도록 하는 DAN(Do Anything Now)과 같은 악명 높은 해킹 익스플로잇이 발생했습니다. 놀랍게도 당시에는 이러한 초보적인 전술이 효과적이었습니다.
AI 기술의 발전에 비추어 볼 때, ChatGPT 초창기에 사용된 초보적인 전략은 더 이상 현재의 보안 조치를 위반하기에 충분하지 않습니다. 현재 이러한 방어 수단을 우회하려면 복잡한 방법이 필요하기 때문에 탈옥을 시도하는 대다수의 사용자는 높은 복잡성으로 인해 탈옥을 시도하는 것을 꺼리게 됩니다. 결과적으로 과거에 관찰되었던 익스플로잇 가능한 취약점의 단순성과 만연성은 사라졌으며, 표준 대응 방식에서 조금만 벗어나더라도 상당한 기술적 숙련도와 헌신이 필요하기 때문에 필요한 리소스를 투자할 가치가 없을 수 있습니다.
참신함이 사라짐
탈옥의 초기 매력은 스릴 넘치는 도전과 자신의 성취를 자랑할 수 있다는 잠재력에서 비롯되었습니다. 이 새로운 기술의 초기 단계에서는 참신함과 다른 사람들에게 깊은 인상을 줄 수 있는 능력으로 인해 일탈적인 사용이 많이 이루어졌습니다.그러나 혁신적인 측면이 약해지면서 이러한 노력에 대한 열정도 함께 약해져 이러한 활동에 시간을 투자하는 것에 대한 관심이 감소했습니다.
탈옥이 빠르게 패치됨
ChatGPT 탈옥 커뮤니티 내에서는 성공적으로 식별된 익스플로잇이 발견되면 이를 공개적으로 공유하는 것이 관례가 되었습니다. 그러나 이러한 접근 방식은 OpenAI가 이러한 익스플로잇에 대한 지식을 자주 확보하고 관련 취약점을 수정하기 때문에 문제가 있습니다. 따라서 탈옥에 관심이 있는 개인이 탈옥을 시도할 기회를 얻었을 때는 이미 패치된 보안 허점으로 인해 익스플로잇이 더 이상 작동하지 않습니다.
ChatGPT 탈옥 개발자가 직면한 문제는 다면적이고 복잡합니다. 개인이 새로운 탈옥을 세심하게 만들 때마다 더 넓은 커뮤니티와 공유할지 여부를 결정하기 위해 고심해야 합니다. 탈옥을 공유하면 탈옥 커뮤니티 내의 광범위한 협력으로 인해 탈옥이 빠르게 패치될 가능성이 높습니다. 따라서 개인이 발견한 탈옥을 공개하지 않으려는 동기가 생겨 탈옥의 효과를 유지하면서 비밀을 유지하는 것 사이에서 균형을 잡아야 하는 곤란한 상황에 처하게 됩니다. 최근에는 개인이 탈옥을 공개하지 않고 숨기는 것이 점점 더 일반화되고 있습니다.
무수정 로컬 대안
개인용 컴퓨터에서 작동할 수 있는 현지화된 대형 언어 모델의 출현으로 탈옥을 통한 ChatGPT 수정의 매력이 감소했습니다. 이러한 로컬 LLM은 검열로부터 완전한 자유를 제공하지는 않지만, 일반적으로 제한이 적고 개인의 선호도에 따라 쉽게 사용자 지정할 수 있습니다. 따라서 개인은 발견된 취약점이 패치될 가능성이 높다는 것을 알면서도 챗봇을 계속 우회하려고 시도하거나, 필요에 따라 지속적으로 맞춤 설정할 수 있는 로컬 LLM을 채택하는 것 중 하나를 선택해야 합니다.
개인 기기에 설치할 수 있는 강력한 비보안 대형 언어 모델 목록을 살펴보면 강력한 라마 7B(필터링되지 않음), 제퍼 7B 알파, 맨티코어 13B, 비쿠나 13B, GPT-4-X-알파카 등 주목할 만한 사례들을 발견할 수 있습니다.
전문 탈옥꾼이 수익을 위해 판매 중
아무 대가 없이 탈옥 프롬프트를 만드는 데 귀중한 시간을 투자하는 것은 비생산적으로 보입니다. 그러나 전문가가 맞춤형 탈옥 솔루션을 제공하여 수익을 창출하는 추세가 증가하고 있습니다.숙련된 개발자는 고유한 기능을 갖춘 맞춤형 탈옥을 만들고 PromptBase와 같은 전문 플랫폼을 통해 이를 광고합니다. 이러한 프롬프트의 가격은 복잡성과 수요에 따라 다르며, 프롬프트당 2달러에서 15달러까지 다양합니다. 경우에 따라 복잡한 다단계 해킹은 훨씬 더 높은 수수료를 요구할 수 있습니다.
탈옥에 대한 단속이 역효과를 낼 수 있나요?
탈옥이 예전만큼 널리 퍼지지는 않았지만, 여전히 존재하며 이제는 더 은밀하게 이루어지고 있습니다. OpenAI의 ChatGPT 참여와 관련된 재정적 영향은 수익 흐름에 부정적인 영향을 미칠 수 있는 탈옥의 악용을 막아야 하는 강력한 이유를 만들어냅니다. 따라서 이러한 경제적 고려가 이러한 악용 관행을 억제하기 위한 단호한 노력의 원동력이 되는 것은 당연합니다.
그럼에도 불구하고, ChatGPT에 대한 OpenAI의 콘텐츠 규제 시행에 대한 사용자들의 불만이 커지고 있습니다. 엄격한 조치가 시행됨에 따라 허용되는 사용 범위가 점점 더 좁아짐에 따라 일부 가치 있는 애플리케이션이 축소되는 결과를 초래했습니다. 이러한 제한은 잠재적인 피해를 완화하기 위한 것이지만, 지나치게 제한적인 정책은 결국 ChatGPT 사용자 중 일부가 더 관대한 규제가 적용되는 대체 플랫폼을 찾도록 만들 수 있습니다.