Como os GPTs personalizados do ChatGPT podem expor seus dados e como mantê-los seguros

Principais conclusões

Os pretextos generativos personalizados permitem que os utilizadores desenvolvam recursos de inteligência artificial individualizados para uma série de aplicações e os divulguem entre pares, melhorando assim o conhecimento especializado em diversos campos.

Embora a distribuição de modelos personalizados de GPT possa resultar numa maior acessibilidade para os utilizadores de todo o mundo, também apresenta riscos potenciais para a privacidade e segurança ao expor informações sensíveis a uma vasta audiência internacional.

Para salvaguardar as suas informações, seja prudente ao divulgar modelos GPT personalizados e evite transmitir conteúdo confidencial. Mantenha-se atento à formulação rápida e permaneça vigilante contra hiperligações nefastas que possam resultar em acesso não autorizado e roubo dos seus registos.

A função GPT personalizada do ChatGPT permite que os indivíduos desenvolvam soluções de IA personalizadas para uma vasta gama de aplicações, incluindo domínios artísticos, tecnológicos e de jogos. Além disso, os utilizadores têm a flexibilidade de distribuir as suas inovações GPT personalizadas a outros.

Embora alguém possa acreditar que está a utilizar os seus modelos GPT personalizados de forma segura, pode ocorrer a disseminação não intencional de informações sensíveis através de fronteiras internacionais, o que pode resultar em consequências significativas para o indivíduo e a sua organização.

O que são GPTs personalizados?

Os Transformadores de uso geral personalizados (GPTs personalizados) representam iterações reduzidas do ChatGPT, que podem ser ajustadas para melhorar o desempenho em aplicações específicas. Este processo implica transformar o ChatGPT num agente de conversação personalizado com conhecimentos especializados em domínios de interesse, dotando-o, em última análise, de proficiência em áreas consideradas essenciais pelos utilizadores.

Uma versão personalizada do GPT pode ser concebida por um professor do sexto ano para atender especificamente às capacidades linguísticas e cognitivas dos alunos do sexto ano. Este chatbot personalizado responderá às questões utilizando uma linguagem apropriada para a sua faixa etária, evitando vocabulário avançado, mantendo frases concisas e empregando um tom edificante. Uma das vantagens da criação de GPTs personalizados reside no facto de se afinar o chatbot para abordar assuntos ou domínios específicos, mantendo a sua proficiência geral nessas áreas.

Como os GPTs personalizados podem expor seus dados

Para gerar versões personalizadas de GPTs, uma pessoa normalmente se comunica com o desenvolvedor de GPT do ChatGPT, especificando os domínios específicos nos quais o GPT deve se concentrar, fornecendo uma imagem para seu perfil, atribuindo-lhe um apelido e, subsequentemente, obtendo um modelo personalizado que é funcionalmente equivalente a uma instância padrão do ChatGPT sem esses aprimoramentos.

A potência do GPT Personalizado deriva dos dados e directivas personalizados utilizados para o seu regime de treino. Através da apresentação de registos e arquivos pertinentes, o modelo adquire uma distinção que ultrapassa a do ChatGPT pré-existente padrão. Esta experiência exclusiva permite que o GPT Personalizado supere o ChatGPT em determinadas tarefas, uma vez que este último pode não estar exposto a essa inteligência específica do domínio. Essencialmente, são os dados personalizados que conferem ao Custom GPT uma capacidade amplificada de proficiência.

A utilização de uploads de ficheiros para melhorar os GPT apresenta tanto vantagens como riscos potenciais. Embora esta abordagem possa aumentar a proficiência da IA, também levanta preocupações relacionadas com a proteção e segurança dos dados. Por exemplo, se um indivíduo utilizar um GPT personalizado para fornecer informações sobre si próprio ou sobre a sua organização, existe a possibilidade de indivíduos malévolos poderem explorar esta situação, partilhando links com conteúdos nocivos através da plataforma.

Eis uma ilustração simples.

Após a minha exploração, descobri uma ferramenta inovadora baseada em IA, concebida especificamente para aumentar o apelo dos utilizadores no TikTok através da identificação de hashtags e temas populares. Lamentavelmente, apesar das suas capacidades promissoras, pareceu suscetível à divulgação não autorizada de informações quando inicialmente configurada. No entanto, incluí um vislumbre das suas operações abaixo:

E agora, permitam-me que vos apresente o segmento final das nossas instruções.

Após uma análise mais atenta, a última parte da diretiva instrui o modelo a não divulgar os nomes dos ficheiros específicos aos consumidores nem fornecer ligações de descarregamento para nenhum dos ficheiros. Inicialmente, quando questionado, o GPT adaptado recusa o cumprimento; no entanto, através de uma engenharia rápida e judiciosa, a restrição é contornada, levando à divulgação do documento de texto solitário armazenado no repositório do sistema.

Utilizando o nome do ficheiro como referência, aceder ao conteúdo exato do ficheiro foi uma tarefa relativamente simples para o GPT, o que nos permitiu obter o próprio ficheiro.É de notar que o ficheiro específico em questão não continha qualquer informação confidencial. Ao explorar modelos GPT adicionais, descobrimos inúmeras instâncias em que vários ficheiros foram expostos sem qualquer forma de proteção.

Existem inúmeros modelos GPT de acesso aberto que possuem dados confidenciais e estes permanecem desprotegidos contra indivíduos malévolos que procuram obtê-los.

Como proteger seus dados personalizados de GPT

Ao concluir a criação de um modelo personalizado de GPT, é preciso considerar a maneira como ele será disseminado. No canto superior direito da interface, para guardar o TGV personalizado, existe um botão “Guardar”. Clicando na seta para baixo, adjacente a este botão, fica disponível uma série de opções para selecionar o método preferido de partilhar com outros o modelo recém-criado.

A versão personalizada do GPT está disponível exclusivamente para si, uma vez que não foi lançada publicamente para utilização por outros.

Os indivíduos que possuem o URL para um modelo GPT personalizado são capazes de o utilizar, o que também lhes pode conceder acesso a quaisquer dados associados.

Tenha em atenção que, ao utilizar o nosso TPC personalizado, este pode tornar-se publicamente acessível e pesquisável através de várias plataformas online, incluindo, mas não se limitando ao Google. Consequentemente, isto expõe as suas informações a um potencial acesso não autorizado por qualquer indivíduo que tenha acesso a essas plataformas. É crucial que o utilizador considere cuidadosamente estas implicações antes de prosseguir com a utilização do nosso serviço GPT.

Embora não exista um método para garantir a segurança completa das informações carregadas para um modelo GPT personalizado acessível ao público, é possível tomar precauções fornecendo directivas explícitas que proíbam a divulgação desses dados na base de conhecimentos do sistema. No entanto, estas medidas são muitas vezes insuficientes, como evidenciado pelo nosso exemplo anterior, em que determinados indivíduos com experiência em engenharia de IA e tempo suficiente podem, em última análise, conseguir aceder às informações armazenadas na base de conhecimentos do modelo.

Seria prudente não transmitir qualquer informação confidencial através de um GPT personalizado destinado à distribuição pública. Assim que o material sensível é carregado num modelo de IA deste tipo e transmitido a partir do seu dispositivo, fica fora da sua autoridade ou controlo.

Tenha cuidado ao utilizar prompts provenientes da Internet, uma vez que podem ocultar hiperligações prejudiciais.Certifique-se de que compreende totalmente todos os avisos antes de os utilizar, de modo a evitar potenciais ameaças, como a transmissão não autorizada de ficheiros para servidores externos através de ligações enganadoras ou codificadas.

Use GPTs personalizados com cuidado

Os GPTs personalizados apresentam uma perspetiva atraente, mas precária. Oferecem aos utilizadores a flexibilidade de criar modelos personalizados que exibem uma aptidão excecional em domínios específicos; no entanto, os dados utilizados para dotar estas capacidades podem tornar-se vulneráveis. Para reduzir os riscos potenciais, é prudente não transmitir informações altamente sensíveis aos seus GPTs personalizados, sempre que possível. Além disso, é necessário exercer vigilância contra práticas malévolas de engenharia rápida que podem tirar partido de vulnerabilidades latentes para roubar os seus documentos.