As respostas do ChatGPT têm um limite de caracteres ou de palavras?
Key Takeaways
As limitações das respostas do ChatGPT são muitas vezes mal interpretadas como sendo ilimitadas, no entanto, estão sujeitas a certas restrições que resultam de factores como o sistema baseado em tokens, interacções anteriores e requisitos computacionais.
A utilização de tokens no ChatGPT depende das dimensões combinadas do comprimento da consulta e da resposta, com capacidades variáveis de tokens determinadas pelo modelo específico de GPT utilizado.
Para obter respostas extensas do ChatGPT, pode-se optar por perguntar sobre a sua continuação, dividir a sua consulta em vários segmentos, utilizar a alternativa “regenerar”, impor uma limitação específica de palavras ou iniciar um novo diálogo. Ao implementar estas estratégias, os utilizadores podem contornar restrições não reconhecidas e obter respostas mais abrangentes.
De facto, o ChatGPT tem atraído muita atenção nos últimos tempos. No entanto, é possível refletir sobre a extensão do feedback gerado por este agente de conversação multifacetado.
A complexidade de determinar esta questão vai para além de uma compreensão simplista. Para ilustrar, colocar esta questão ao ChatGPT elucida a ausência de restrições pré-determinadas nas suas respostas.
Embora o processo possa parecer simples à primeira vista, não deixa de ter as suas limitações. Especificamente, existem restrições quanto ao comprimento das respostas geradas pelo ChatGPT. Felizmente, no entanto, existem várias estratégias eficazes que podem ser utilizadas para obter respostas mais extensas deste modelo de linguagem.
Como é que o ChatGPT determina o comprimento de uma resposta?
O funcionamento do ChatGPT é intrincado por natureza, e o comprimento das suas respostas pode variar com base na pergunta específica e no grau de granularidade procurado pelo utilizador. Ao contrário de algumas crenças, no entanto, o ChatGPT não impõe limitações rígidas a si mesmo, como evidenciado pela captura de ecrã subsequente que atesta este facto.
Perguntar sobre as capacidades e conhecimentos de ChatGPT nem sempre é fiável devido a potenciais preconceitos na sua autoavaliação e a limitações na informação disponível. Para avaliar o grau da sua capacidade de resposta, foi realizada uma experiência em que foi pedido ao chatbot que compusesse um relato exaustivo de 5000 palavras sobre os antecedentes históricos do Campeonato do Mundo de Futebol da FIFA. A avaliação fornecida pelo ChatGPT divergiu das nossas conclusões.
O ChatGPT demonstra capacidades formidáveis, mas talvez pedir uma produção de 5.000 palavras tenha sido demasiado ambicioso, pelo que foi necessário um pedido mais modesto de 2.500 palavras.
Apesar das nossas tentativas de gerar uma resposta de 1.000 palavras ou mais, o ChatGPT não foi capaz de satisfazer o pedido. Após várias iterações, tornou-se evidente que o chatbot não era capaz de produzir uma resposta tão extensa. A questão que se coloca é a de saber quais os factores que impedem o chatbot de gerar respostas mais longas.
Uma possível explicação para este fenómeno pode ser atribuída a um conceito conhecido como sistema de fichas.
O que é o sistema de tokens que o ChatGPT usa?
O ChatGPT utiliza um sistema baseado em tokens para determinar o comprimento das suas respostas, em vez de se basear apenas numa contagem de palavras. Esta abordagem tem em conta não só o comprimento das perguntas dos utilizadores, mas também o das respostas geradas. Ao dividir as entradas e saídas em tokens individuais, o sistema categoriza efetivamente o tamanho dos pedidos e das respostas.
Embora a contagem de palavras desempenhe um papel importante, não é a história toda. Por exemplo, o exemplo abaixo foi introduzido na ferramenta Tokenizer da OpenAI .
O processo de decomposição da frase “Quantas palavras escrevi”, juntamente com a resposta correspondente “6”, resultou numa contagem total de nove tokens, o que se alinha com o padrão típico da OpenAI, em que um token equivale aproximadamente a 0,75 palavras.
A disponibilidade de diferentes comprimentos de token dentro dos modelos GPT do OpenAI apresenta uma pequena complicação. O modelo GPT-4 padrão fornecido como parte da assinatura do ChatGPT Plus oferece um intervalo de 4k a 8k tokens para informações contextuais. Além disso, há uma opção para uma versão estendida de contexto de 32k token do GPT-4. Por outro lado, a série GPT-3.5 apresenta várias configurações de token, incluindo variantes de token de 4k, 8k e 16k; no entanto, nem todas estas opções estão acessíveis ao público em geral.
Realizámos a nossa experiência utilizando tanto a linha de base GPT-3.5 como a hipotética GPT-4 com parâmetros 8k, embora tenhamos de qualificar a última designação como não verificada devido a inconsistências observadas durante uma análise de janela de contexto. Para além disso, não foram apresentadas provas corroborantes de fontes autorizadas para validar a afirmação de que o modelo GPT-4 disponível em chat.openai.com possui parâmetros 8k.
As limitações impostas pelos respectivos modelos de GPT-3.5 4k e GPT-4 8k resultam em restrições tanto nas consultas dos utilizadores como nas respostas correspondentes, sendo que o GPT-3.5 está limitado a 4.097 tokens enquanto o GPT-4 8k tem um limite de 8.192 tokens. De acordo com a OpenAI, esses limites se traduzem em aproximadamente 3.000 palavras para o GPT-3.5 e entre 5.000 e 6.000 palavras para o GPT-4 8k. Apesar de possuir uma capacidade de palavras tão extensa, é intrigante o facto de o ChatGPT não conseguir produzir artigos com mais de 2.500 palavras ou mesmo com 1.500 palavras, quando solicitado. Porque é que as respostas do ChatGPT são limitadas?
Em teoria, o conceito de comprimento de token parece simples e razoável; no entanto, os modelos de IA têm em conta vários factores quando consideram tais limitações. Dois aspectos fundamentais merecem ser mencionados.
Devido à sua natureza de conversação, o ChatGPT tem em conta as trocas anteriores quando responde às perguntas dos utilizadores. Como tal, mesmo as solicitações e respostas anteriores fazem parte da janela de contexto, o que pode afetar o limite de tokens disponíveis. A avaliação das informações relevantes estende-se para além dos pares de perguntas e respostas imediatas.
O ChatGPT alcançou um sucesso notável e registou um crescimento exponencial, o que resultou num nível excecionalmente elevado de procura dos seus serviços. De forma a acomodar o afluxo de utilizadores, é importante notar que a quantidade de tokens disponíveis pode flutuar e pode não corresponder necessariamente ao limite declarado de 8000 tokens por mês. Além disso, foram implementadas medidas para regular o número de pedidos feitos por utilizadores individuais, a fim de distribuir a carga pelo sistema e manter um desempenho ótimo.
É de notar que não existe uma diretriz absoluta - na verdade, produzimos respostas que ultrapassam este limite em quase duzentas palavras. No entanto, pode ser considerado um limite aceitável para dar respostas completas.
Como obter respostas mais longas do ChatGPT
Ao reconhecer a existência de um limite implícito nas respostas do ChatGPT, podem ser utilizadas várias abordagens simples para obter respostas mais completas.
⭐ Pedir ao ChatGPT para continuar: Se o ChatGPT parar a meio de uma resposta, então uma opção é simplesmente pedir-lhe para continuar. No exemplo abaixo, digitamos “Continue” e ele adicionou mais duzentas palavras à resposta. 
⭐ Divida a sua pergunta em secções mais pequenas: Por exemplo, pedimos-lhe várias vezes para escrever um ensaio sobre o impacto da IA na sociedade. Uma opção aqui é pedir-lhe que indique alguns tópicos para um ensaio sobre IA e, em seguida, utilizar os pontos fornecidos como prompts individuais. 
Dado que a tentativa de regenerar a solução pode resultar num erro idêntico, pode argumentar-se que não há mal nenhum em tentar. Apesar do potencial de repetição do problema, pode ser benéfico explorar todas as opções disponíveis antes de as descartar como fúteis.
⭐ Especifique um limite superior para a contagem de palavras no seu prompt: A imagem abaixo ilustra como isto pode ser usado para manipular o número máximo de palavras numa resposta. 
O início de um novo diálogo apresenta uma oportunidade para uma tela em branco sobre a qual se pode construir uma nova troca de ideias, sem quaisquer noções preconcebidas ou preconceitos derivados de interacções anteriores. Ao iniciar uma nova discussão, pode aproveitar-se a vantagem de um contexto inexplorado que ainda não foi explorado, permitindo assim um intercâmbio mais dinâmico e criativo entre as partes envolvidas.
Para obter respostas completas do ChatGPT, considere a possibilidade de implementar estas sugestões, que também podem contornar a restrição informal da extensão das respostas.
ChatGPT: Qualidade em vez de quantidade
Embora não exista um limite definitivo para o comprimento das respostas do ChatGPT obtidas através de canais autorizados, existem limitações práticas que são determinadas por factores como o histórico de trocas e a disponibilidade atual de recursos. Ao empregar tácticas como dividir as perguntas, solicitar mais informações à IA, iniciar novas discussões, impor restrições à contagem de palavras ou iniciar diálogos alternativos, os utilizadores podem obter respostas mais abrangentes e prolongadas do que as que normalmente seriam fornecidas. Embora imperfeita, a compreensão destes limites tácitos e a utilização de metodologias adequadas permitem que os indivíduos obtenham uma utilidade óptima deste potente agente de IA de conversação.