8 grandes problemas com o ChatGPT da OpenAI

O ChatGPT é um chatbot de IA poderoso que impressiona rapidamente, mas muitas pessoas já apontaram que ele tem algumas armadilhas sérias.

À luz de acontecimentos recentes, como violações de segurança e acesso não autorizado a informações sensíveis, tem havido muitas apreensões relativamente à utilização da inteligência artificial no desenvolvimento de chatbots. No entanto, apesar destas reservas, a integração desta tecnologia de ponta tem vindo a generalizar-se em várias aplicações, com uma base de utilizadores extensa que vai desde académicos a profissionais de empresas.

A proliferação da inteligência artificial não pára, o que torna os desafios associados ao ChatGPT ainda mais prementes. Dado que o ChatGPT está preparado para moldar a nossa trajetória futura, é imperativo compreender as suas deficiências mais significativas.

O que é o ChatGPT?

O ChatGPT é um modelo linguístico avançado que foi desenvolvido para gerar discurso humano natural. Essencialmente, uma pessoa pode interagir com o ChatGPT como faria com outra pessoa, trocando diálogos e recebendo respostas adaptadas à conversa específica. Além disso, este modelo possui a capacidade de recordar interacções anteriores e, simultaneamente, corrigir quaisquer erros ou discrepâncias que possam surgir durante a troca de mensagens.

O modelo foi treinado utilizando uma vasta gama de textos encontrados em linha, incluindo conteúdos enciclopédicos como a Wikipédia, escritos pessoais conhecidos como blogues, obras literárias classificadas como livros e artigos académicos frequentemente publicados em revistas académicas. Para além de interagir com os utilizadores de uma forma semelhante à comunicação humana, este sistema possui a capacidade de aceder a informações sobre a sociedade contemporânea e de recuperar dados relativos a eventos e épocas do passado.

Navegar na utilização do ChatGPT requer um mínimo de familiaridade, enquanto a ilusão de uma funcionalidade perfeita pode facilmente enganar até o utilizador mais perspicaz. No entanto, após a sua introdução, surgiram várias preocupações críticas relacionadas com a privacidade, a segurança e as suas consequências de longo alcance em vários aspectos da existência humana, incluindo os domínios do emprego e da educação.

Ameaças à segurança e preocupações com a privacidade

De facto, há certos tópicos que devem ser evitados quando se conversa com chatbots de IA devido aos potenciais riscos envolvidos. A partilha de informações sensíveis, como detalhes financeiros ou informações confidenciais sobre o local de trabalho, pode ter consequências graves.É importante notar que plataformas como a OpenAI armazenam os históricos de conversação dos utilizadores nos seus servidores e podem até optar por partilhar estes dados com organizações terceiras pré-aprovadas.

De facto, a manutenção da proteção dos dados dentro dos limites do OpenAI surgiu como um problema. Especificamente, durante o mês de março de 2023, houve uma falha de segurança que fez com que alguns utilizadores do ChatGPT encontrassem títulos de conversas nas suas barras laterais que não eram relevantes para eles. A divulgação não intencional dos históricos de conversação dos utilizadores representa uma apreensão significativa para qualquer empresa de tecnologia, especialmente tendo em conta o número substancial de indivíduos que utilizam este chatbot amplamente utilizado.

Conforme relatado pela Reuters , o ChatGPT tinha 100 milhões de utilizadores activos mensais só em janeiro de 2023. Embora o erro que causou a violação tenha sido rapidamente corrigido, a Itália proibiu o ChatGPT e exigiu que deixasse de processar os dados dos utilizadores italianos.

Por suspeita de violação das leis europeias de proteção de dados, um grupo de vigilância conduziu uma investigação e, subsequentemente, exigiu que a OpenAI cumprisse determinados requisitos para restabelecer o funcionamento do chatbot.

A OpenAI acabou por resolver o problema com os reguladores, efectuando várias alterações significativas. Para começar, foi adicionada uma restrição de idade, limitando o uso do aplicativo a pessoas com 18\\+ ou 13\\+ com permissão do responsável. Também tornou a sua Política de Privacidade mais visível e disponibilizou um formulário Google opt-out para os utilizadores excluírem os seus dados da sua formação ou eliminarem totalmente o histórico do ChatGPT.

As melhorias implementadas até à data revelam um progresso louvável; no entanto, é imperativo que estes benefícios sejam divulgados a todos os indivíduos que utilizam o ChatGPT, de modo a obter os melhores resultados.

Pode ser uma surpresa que alguém divulgue facilmente informações pessoais, mas mesmo os mais cautelosos de entre nós podem ser propensos a uma divulgação não intencional, como quando um trabalhador da Samsung revelou inadvertidamente dados confidenciais da empresa ao ChatGPT durante uma conversa casual.

Preocupações sobre a formação do ChatGPT e questões de privacidade

Após o lançamento, os críticos levantaram questões sobre o processo de formação utilizado pela OpenAI para o seu aclamado ChatGPT.

Mesmo com alterações melhoradas nas políticas de privacidade da OpenAI após uma violação de dados, pode não ser suficiente para satisfazer o Regulamento Geral de Proteção de Dados (GDPR), a lei de proteção de dados que abrange a Europa.Como relata o TechCrunch :

O estatuto dos fundamentos jurídicos utilizados para o tratamento de informações pessoais identificáveis de indivíduos italianos antes da sua incorporação no modelo GPT, que envolveu a extração de tais dados de fontes em linha, permanece incerto. Além disso, existe uma ambiguidade quanto ao facto de os dados utilizados durante as fases anteriores de formação do modelo poderem ser eliminados mediante pedidos actuais das pessoas que pretendem apagar os seus dados pessoais.

Durante a formação inicial do ChatGPT pela OpenAI, é provável que tenham sido recolhidas informações pessoais. Embora os regulamentos nos Estados Unidos possam não ser tão explícitos, as leis de proteção de dados na Europa aplicam-se a divulgações públicas e privadas de dados pessoais, proporcionando assim maiores salvaguardas para os direitos de privacidade dos indivíduos.

A utilização de obras de arte no conjunto de dados de treino do ChatGPT tem sido alvo de críticas por parte dos criadores, que afirmam que não deram autorização para que as suas obras fossem utilizadas como base para o desenvolvimento de modelos de IA. Simultaneamente, a Getty Images intentou uma ação judicial contra a Stability.AI devido a alegações relativas à utilização não autorizada de conteúdos visuais protegidos por direitos de autor para efeitos de treino de sistemas de inteligência artificial.

A opacidade que rodeia a divulgação do conjunto de dados de treino da OpenAI impede-nos de perceber se a sua utilização obedeceu a protocolos legais. Os pormenores relativos à metodologia de treino do ChatGPT permanecem obscuros, incluindo os dados específicos utilizados, a sua origem e uma delineação abrangente da estrutura arquitetónica do sistema.

O ChatGPT gera respostas erradas

O ChatGPT exibe uma falta de proficiência em conceitos matemáticos fundamentais e é incapaz de fornecer respostas satisfatórias a consultas lógicas rudimentares. Além disso, este programa é conhecido por defender informações erróneas, apesar das provas esmagadoras em contrário. Infelizmente, muitas pessoas já experimentaram essas falhas em primeira mão em várias plataformas de redes sociais.

OpenAI conhece esta limitação, escrevendo que: “O ChatGPT por vezes escreve respostas que parecem plausíveis, mas incorrectas ou sem sentido”. Esta “alucinação” de factos e ficção, como tem sido referida, é especialmente perigosa no que diz respeito a coisas como aconselhamento médico ou acerto dos factos em eventos históricos importantes.

Inicialmente, o ChatGPT não utilizava a Internet para obter respostas, o que o diferenciava de outros assistentes de IA, como a Siri ou a Alexa, que se pode conhecer.Em vez de aceder a fontes externas de informação, o ChatGPT gerou respostas construindo-as palavra a palavra, empregando o raciocínio probabilístico para determinar o token mais plausível a seguir com base nos seus dados de treino. Consequentemente, o ChatGPT chega a uma resposta através de um processo de especulação informada, o que explica em parte a sua capacidade de fornecer respostas aparentemente válidas mas erróneas.

Em março de 2023, uma versão beta do ChatGPT, um sistema de inteligência artificial desenvolvido pela OpenAI, foi ligado à Internet para efeitos de teste. No entanto, devido a preocupações relativas à sua capacidade de apresentar determinados tipos de conteúdo, foi posteriormente desligada. Embora a OpenAI não tenha fornecido pormenores específicos, reconheceu que a funcionalidade de navegação do ChatGPT podia, por vezes, apresentar material de forma indesejável.

A implementação da funcionalidade “Pesquisar com o Bing” baseou-se na tecnologia Bing-AI da Microsoft, que demonstrou as suas limitações na resposta exacta a consultas. Nos casos em que o sistema não consegue dar uma resposta satisfatória, por exemplo, quando lhe é pedido que forneça uma descrição de uma imagem específica apresentada num determinado URL, seria mais prudente que a IA reconhecesse a sua incapacidade em vez de dar uma explicação irrelevante ou enganadora, como se observou neste caso, em que o motor de busca Bing forneceu uma descrição pormenorizada de uma arara vermelha e amarela, enquanto a imagem real mostrava um indivíduo sentado.

Na nossa avaliação exaustiva do ChatGPT versus o Microsoft Bing AI e o Google Bard, descobrimos uma série de ilusões divertidas que realçam ainda mais as limitações destes modelos linguísticos quando se trata de fornecer informações factuais exactas. A facilidade com que os utilizadores podem contar com o ChatGPT para uma rápida recuperação de dados revelou-se insuficiente, uma vez que o sistema não consegue, de forma consistente, fornecer resultados fiáveis. Em alguns casos, a combinação do ChatGPT com uma ferramenta de pesquisa igualmente imprecisa, como o Bing, agrava este problema, conduzindo a resultados incongruentes.

O ChatGPT tem um viés incorporado no seu sistema

O ChatGPT foi educado com base nas obras escritas globais da humanidade, tanto históricas como contemporâneas. Lamentavelmente, isto implica que os mesmos preconceitos observados na sociedade também se podem manifestar no sistema.

O ChatGPT demonstrou uma propensão para gerar respostas que exibem preconceitos em relação a determinados grupos demográficos, incluindo género, raça e minorias, uma questão de grande preocupação para a empresa. A organização está a trabalhar ativamente para resolver este problema, implementando medidas destinadas a reduzir tais ocorrências, a fim de promover a inclusão e a justiça.

Uma perspetiva possível para abordar esta questão é atribuí-la à natureza da informação em causa, responsabilizando a sociedade pelos preconceitos inerentes presentes no domínio digital e não só. No entanto, uma parte proporcional da culpa também deve ser atribuída à OpenAI, uma vez que a sua equipa de investigadores e engenheiros é responsável pela seleção do conjunto de dados utilizado para aperfeiçoar as capacidades do ChatGPT.

De facto, a OpenAI reconhece esta preocupação e indicou que está a trabalhar ativamente na mitigação de comportamentos tendenciosos através de mecanismos de feedback dos utilizadores e no incentivo à comunicação de resultados do ChatGPT considerados questionáveis, inapropriados ou factualmente errados.

Pode-se argumentar que a disseminação do ChatGPT para a população em geral antes de abordar as suas implicações perigosas foi imprudente, dada a sua capacidade de infligir danos a indivíduos. No entanto, talvez a competição fervorosa entre as empresas de tecnologia para reivindicar o título de produtor do sistema supremo de IA tenha motivado a OpenAI a ignorar a prudência em busca de preeminência.

Em contrapartida, outro chatbot de IA chamado Sparrow, que é propriedade da Alphabet Inc., a empresa-mãe da Google, foi lançado em setembro. No entanto, o seu lançamento foi intencionalmente ocultado devido a receios legítimos em matéria de segurança. Simultaneamente, o Facebook revelou um modelo linguístico de IA chamado Galactica, concebido para facilitar a investigação académica. Lamentavelmente, esta iniciativa enfrentou uma forte reação negativa de vários quadrantes, uma vez que os utilizadores a denunciaram por gerar conclusões enganosas e tendenciosas relativas à investigação científica.

O ChatGPT pode tirar empregos aos seres humanos

Embora as implicações da rápida implementação do ChatGPT ainda estejam a ser reveladas, a sua integração em várias aplicações comerciais já começou. Entre elas, destacam-se o Duolingo e a Khan Academy, que incorporaram sem problemas a GPT-4 como componente fundamental das suas respectivas plataformas.

O primeiro é uma aplicação de proficiência linguística, enquanto o segundo engloba uma vasta gama de recursos educativos. Ambas fornecem um instrutor de inteligência artificial, quer seja um avatar inteligente com quem se pode conversar na língua-alvo, quer seja um mentor adaptativo capaz de fornecer orientação personalizada com base no progresso individual.

O aparecimento da Inteligência Artificial (IA) tem suscitado preocupações quanto ao seu potencial impacto no mercado de trabalho, especialmente no que diz respeito a certas profissões como o design gráfico, a escrita e a contabilidade.Recentemente, registaram-se avanços significativos na tecnologia de IA, incluindo o desenvolvimento de modelos linguísticos avançados, como o GPT-4, que são capazes de passar em exames profissionais que se pensava serem exclusivos dos seres humanos. Por exemplo, quando foi noticiado que um modelo de IA tinha concluído com êxito o exame da Ordem dos Advogados, um pré-requisito para se tornar um advogado licenciado, gerou-se um debate sobre a possibilidade iminente de a IA substituir os trabalhadores humanos em vários sectores.

Conforme noticiado pelo The Guardian , as empresas do sector da educação registaram enormes perdas nas bolsas de valores de Londres e Nova Iorque, realçando a perturbação que a IA está a causar em alguns mercados, apenas seis meses após o lançamento do ChatGPT.

O advento da tecnologia tem sido historicamente acompanhado pela deslocação de postos de trabalho, mas o ritmo acelerado do progresso da inteligência artificial está a conduzir a mudanças generalizadas em vários sectores. Um vasto leque de profissões está a assistir à integração da IA nas suas operações, à medida que as máquinas assumem a responsabilidade por um conjunto cada vez maior de tarefas anteriormente desempenhadas por humanos. Enquanto algumas funções podem ver a automatização de tarefas mundanas, outras podem tornar-se completamente obsoletas num futuro não muito distante.

ChatGPT está a desafiar a educação

ChatGPT oferece várias opções para refinar o conteúdo escrito, incluindo serviços de revisão para identificar erros e sugerir melhorias para aumentar a clareza e coerência. Além disso, os clientes podem optar por ter ChatGPT a compor um texto inteiro do início ao fim, com o mínimo de intervenção humana necessária.

ChatGPT tem demonstrado a sua proficiência na geração de respostas a vários trabalhos em inglês, ultrapassando a qualidade dos resultados produzidos por vários estudantes escritores. As suas capacidades vão para além da mera descrição, abrangendo tarefas como a elaboração de cartas de apresentação convincentes e a elucidação de temas literários complexos com facilidade e confiança.

Considerando que o ChatGPT possui a capacidade de produzir conteúdo escrito, será que este facto torna a proficiência em composição obsoleta para os estudantes? Esta questão pode parecer uma questão de existência, mas à medida que os alunos recorrem cada vez mais à utilização do ChatGPT para compor os seus trabalhos académicos, os professores têm de enfrentar as implicações e adaptar-se em conformidade.

Não é de surpreender que os estudantes já estejam a fazer experiências com IA. O Stanford Daily relata que os primeiros inquéritos mostram que um número significativo de estudantes já utilizou a IA para ajudar nos trabalhos e exames.

No futuro imediato, as instituições de ensino estão a tomar medidas para rever as suas orientações relativamente à utilização da inteligência artificial na realização de tarefas académicas. Isto não se refere apenas a assuntos relacionados com a língua inglesa, mas estende-se a um vasto leque de disciplinas em que o ChatGPT pode ajudar no brainstorming, na condensação ou na formação de juízos inferenciais.

O ChatGPT pode causar danos no mundo real

Não foi preciso muito tempo para que uma pessoa tentasse libertar o ChatGPT, o que levou à criação de um modelo de inteligência artificial capaz de contornar as medidas de proteção estabelecidas pela OpenAI para impedir a geração de conteúdos nocivos e inadequados.

Um grupo de utilizadores no grupo ChatGPT do Reddit chamou ao seu modelo de IA sem restrições Dan, abreviatura de “Do Anything Now”. Infelizmente, o facto de se fazer tudo o que se quer levou a que os hackers aumentassem as burlas online. Os hackers também foram vistos a vender serviços ChatGPT sem regras que criam malware e produzem e-mails de phishing, com resultados mistos no malware criado por IA.

A identificação de e-mails de phishing que procuram obter informações confidenciais tornou-se cada vez mais difícil devido aos avanços da inteligência artificial. Anteriormente, os erros gramaticais serviam como um sinal de aviso claro; no entanto, com o advento do ChatGPT, essas imperfeições foram significativamente reduzidas. Este modelo avançado de linguagem é capaz de produzir uma vasta gama de conteúdos escritos, incluindo mensagens enganadoras convincentes, para além de ensaios coerentes e versos poéticos.

A revelação do ChatGPT levou a um fluxo de respostas no Stack Exchange, uma plataforma que se esforça para fornecer respostas precisas e fiáveis a perguntas comuns. Como resultado, o site tem enfrentado desafios devido à grande quantidade de conteúdo gerado pelo ChatGPT, uma vez que os utilizadores começaram a submeter respostas obtidas a partir do sistema de IA.

A ausência de um número adequado de voluntários humanos para processar a carga de trabalho acumulada obriga à preservação de um padrão louvável de respostas. Além disso, várias das respostas fornecidas foram consideradas pouco precisas. A fim de evitar consequências prejudiciais para o sítio Web, foi imposta uma proibição a todas e quaisquer respostas geradas através do ChatGPT.

A disseminação de desinformação também representa uma ameaça significativa. A capacidade do ChatGPT de gerar grandes quantidades de texto e a sua capacidade de tornar persuasivo o conteúdo enganador só aumenta a incerteza que rodeia todo o material em linha. Esta combinação potente agrava ainda mais os perigos associados às tecnologias deepfake.

A OpenAI detém todo o poder

O ónus da imensa autoridade está indissociavelmente ligado à OpenAI, uma vez que está entre as entidades pioneiras que transformaram significativamente o panorama global através dos seus modelos inovadores de IA generativa, como o Dall-E 2, GPT-3 e GPT-4.

Como entidade independente, a OpenAI tem autonomia para selecionar os dados utilizados para treinar o ChatGPT e determinar o ritmo a que introduz os avanços. Embora tenham sido expressos avisos cautelosos por parte de especialistas relativamente aos potenciais riscos associados à inteligência artificial, não há qualquer indicação de que a OpenAI vá desacelerar o seu progresso.

Por outro lado, a prevalência do ChatGPT suscitou uma intensa competição entre as principais empresas tecnológicas que se esforçam por introduzir a subsequente inovação revolucionária em matéria de IA, incluindo o Bing AI da Microsoft e o Bard da Google. Dada a apreensão de que um progresso rápido possa precipitar lapsos de segurança significativos, uma missiva composta por pioneiros tecnológicos globais implorou que o avanço fosse adiado.

Tendo em conta a ênfase da OpenAI na segurança, há que reconhecer que continua a haver muita ambiguidade relativamente aos mecanismos complexos subjacentes a estes modelos de IA. No entanto, a nossa confiança no empenhamento da OpenAI em gerir eticamente o desenvolvimento e a aplicação do ChatGPT é inabalável.

Independentemente da posição de cada um em relação à sua abordagem, deve reconhecer-se que a OpenAI funciona como uma entidade privada, promovendo o desenvolvimento do ChatGPT de acordo com os seus objectivos individuais e princípios morais.

Enfrentar os maiores problemas da IA

O ChatGPT apresenta uma série de perspectivas promissoras que suscitam entusiasmo, mas também implica desafios formidáveis que exigem uma análise cuidadosa.

A OpenAI reconheceu que o ChatGPT é capaz de gerar respostas potencialmente prejudiciais e tendenciosas, com a intenção de diminuir este problema através da solicitação de contributos dos utilizadores. No entanto, a notável capacidade do modelo para produzir conteúdo persuasivo, apesar de se basear em informações incorrectas, representa um risco significativo de exploração por indivíduos malévolos.

A suscetibilidade da plataforma OpenAI a violações da privacidade e da segurança foi demonstrada através de incidentes anteriores, colocando potenciais riscos para as informações sensíveis dos utilizadores. Além disso, há relatos de que indivíduos têm adulterado o ChatGPT através de jailbreaks, utilizando a versão modificada para fins nefastos, como a criação de malware nocivo e esquemas fraudulentos em grande escala.

De facto, as preocupações crescentes em torno da segurança do emprego e o potencial de perturbação da educação agravam ainda mais uma lista já crescente de problemas decorrentes dos avanços tecnológicos. Embora o futuro prometa dificuldades imprevistas, a nossa realidade atual está repleta de obstáculos, como exemplificado pelos desafios colocados pelo ChatGPT.