Isso vai tirar nossos empregos? Como posso usar isso a meu favor? É apenas um gerador de merda? Já está mudando o mundo? A que custo?
Deixe-me começar dizendo que esta história provavelmente poderia ter sido escrita pelo ChatGPT (nota do editor: não é). Mas, além de ser antiético e provavelmente algo que não teria passado pelas verificações de IA e plágio, isso é o que o ChatGPT faz. Escreva seus ensaios ou postagens de mídia social, dê respostas rápidas para qualquer coisa que você queira saber mais, escreva código, crie currículos e cartas de apresentação, traduza conteúdo, melhore a gramática, diabos, até mesmo dê sugestões de filmes e programas. Mas, como acontece com tudo o que parece deslumbrante na superfície, ele vem com isenções de responsabilidade enormes.
ChatGPT, ou Chat Generative Pre-Trained Transformer (GPT), é um grande modelo de linguagem criado pelo laboratório de pesquisa em inteligência artificial OpenAI. É apenas um dos chatbots relativamente inteligentes que existem. Logo após seu lançamento em novembro do ano passado, surgiram temores de que tais plataformas de IA fossem absolutamente assustadoras – elas podem substituir professores, matar a redação do aluno e nos tornar idiotas complacentes que nunca serão capazes de entender o significado da palavra escrita.
Recentemente, Geoffrey Hinton, amplamente considerado o padrinho da IA, renunciou ao Google, dizendo que se arrependia de seu trabalho – e os chatbots logo poderiam ser mais inteligentes que os humanos. Ele disse ao The Guardian em uma entrevista recente que tem “grande incerteza no momento” quando se trata de grandes modelos de linguagem como o ChatGPT, porque “tendo consumido todos os documentos na web, eles não poderão ir muito além, a menos que eles também possam obter acesso a todos os nossos dados privados. Não quero descartar coisas assim – acho que as pessoas que estão confiantes nessa situação são loucas.”
Antes de mergulhar nas nuances de como o ChatGPT funciona, os temores de plataformas de IA generativas como o ChatGPT assumindo trabalhos não são totalmente infundados e representam um risco muito real. Sam Altman, o controverso cofundador da OpenAI, subestima a influência do ChatGPT e disse o seguinte sobre seu “gênio” em um tweet de 10 de dezembro de 2022: “O ChatGPT é incrivelmente limitado, mas bom o suficiente em algumas coisas para criar uma impressão enganosa de grandeza. É um erro confiar nele para qualquer coisa importante agora. É uma prévia do progresso; temos muito trabalho a fazer em termos de robustez e veracidade.”
Também é importante notar que Altman também é o cérebro por trás do agora extinto projeto criptográfico WorldCoin que esperava causar um grande impacto no trem criptográfico, mas o inferno começou quando vários relatórios investigativos revelaram uma operação repleta de questões de privacidade e trabalho.
Diz algo sobre a ética da IA e o que acontece nos bastidores e leva à criação de tais plataformas? Um exagero? Talvez. Talvez não.
Então, como funciona o ChatGPT?
Simplificando, o ChatGPT é um grande modelo de linguagem (ou LLM), um tipo de software de aprendizado profundo que pode gerar linguagem semelhante à humana após receber grandes quantidades de material escrito existente. Para usar a versão gratuita do ChatGPT, tudo o que você precisa fazer é acessar chat.openai.com, inscrever-se com seu endereço de e-mail e concluir a verificação do telefone. A partir desse ponto, é gratuito para todos. Você pode perguntar ao bot praticamente tudo e qualquer coisa. Você também pode ter certeza de que o inglês é coerente e quase impecável.
Quão preciso e sutil? Você descobrirá em breve.
Na janela de chat, já existe um aviso de que “pode ocasionalmente gerar informações falsas” e até “instruções prejudiciais ou conteúdo tendencioso” e, o mais importante, tem conhecimento limitado de eventos após 2021. Quando pedi ao ChatGPT para me conduzir exatamente como funciona, alegou que, quando o usuário compartilha o prompt ou a pergunta, ele analisa a entrada e a usa para gerar uma resposta.
“Minhas respostas são geradas usando uma combinação de padrões estatísticos e algoritmos que me permitem entender e gerar linguagem natural”, disse. “Minhas respostas não são pré-programadas, mas geradas instantaneamente com base no contexto e na entrada que você fornece. Isso significa que a qualidade e a precisão das minhas respostas dependem da qualidade e especificidade da contribuição que você fornece.”
É pertinente notar que foi por esse motivo, pelo fato de trabalhar apenas com dados já alimentados, que nem consegue resolver problemas matemáticos. Isso não quer dizer que não possa executar dois mais dois igual a quatro, mas há uma lógica básica encaixada em seu sistema e qualquer coisa além dela não está no domínio do ChatGPT. Recentemente, foi lançado o ChatGPT 4, que afirma ser mais poderoso e preciso. Tem um custo, com o plano mensal custando US$ 20. No entanto, o Forefront Chat, desenvolvido pela empresa de desenvolvimento de software Forefront AI, com sede em Nova York, permite que os usuários acessem o ChatGPT 4 gratuitamente.
No entanto, as pessoas também o usaram por razões menos sinistras.
E a precisão?
Em um ensaio detalhado para o The Atlantic intitulado ChatGPT é mais burro do que você pensa, o escritor Ian Bogost conduziu uma série de experimentos e fez perguntas que vão desde questões filosóficas até pedir ao ChatGPT para escrever um poema imagista e até mesmo ajudá-lo a selecionar uma persiana específica. Em quase todos os casos, apesar das perguntas claras, as respostas foram enganosas ou simplesmente falsas.
Para o poema imagista que Bogost exigia em um hambúrguer, curiosamente, o poema resultante era tudo menos imagista. O escritor apontou e o ChatGPT confessou: “Você está correto, o poema que gerei ainda não é um poema imagista. Um poema imagista usa imagens precisas e vívidas para transmitir uma ideia ou emoção específica e se concentra em uma única imagem ou momento. O poema que gerei usa um estilo mais narrativo e descritivo, e não se concentra em uma imagem única e específica.”
Bogost observa que o que separa o ChatGPT de um cara aleatório na internet, derivando sua inteligência da Wikipedia, é a capacidade do chatbot de reconhecer seus erros e trabalhar para corrigi-los. No entanto, um aluno do ensino médio que confia nas referidas informações como a verdade do evangelho nem sempre consegue encontrar imprecisões devido ao impressionante domínio do bot sobre o idioma inglês. Como podemos depreender dos testes de Bogost acima, as respostas são enganosamente coesas e não apresentam marcadores imediatos de falhas. A menos que você seja um especialista, talvez não seja capaz de dizer que essas respostas são imprecisas.
Tudo poderia ser legal se estivéssemos apenas pedindo ao ChatGPT para nos ajudar a decidir sobre as persianas das janelas. A parte preocupante é quando o ChatGPT inventa as coisas do zero. Há um argumento de que não devemos esperar muito de plataformas como o ChatGPT. Afinal, eles ainda estão se desenvolvendo. É bom para pesquisa, outros podem afirmar. Mas é? Quando pedi ao sistema para compartilhar links para estudos sobre saúde sexual, ele literalmente inventou um estudo. Este foi o estudo que alegou existir: Atividade Sexual e Risco Cardiovascular Revisitado: O Papel do Envelhecimento e Risco Cardiometabólico – American Journal of Cardiology.
E veja a audácia dele quando pedi um link para este estudo. O link fornecido me levou a um estudo sobre radiação óptica. Algo a ver com os olhos e o branco dos olhos. Até o Journal não era o mesmo. Também tentei procurá-lo no Google e não havia tal estudo com esse título em nenhum lugar nos anais da internet. Muitas vezes, todos os links fornecidos estão quebrados ou levam a estudos sem relevância.
Como o próprio Bogost observou em seu experimento: “Em quase todos os casos, a IA parecia possuir tanto o conhecimento quanto os meios para expressá-lo. Mas quando pressionado – e a interface de chat facilita – o bot quase sempre teve que admitir que estava apenas inventando coisas.”
Fale sobre o gênio da IA.
As pessoas também o estão usando de outras maneiras. O ChatGPT é um terapeuta para alguns, embora os especialistas tenham sinalizado corretamente os riscos inerentes ao apostar em um bot para navegar em sua saúde mental. Recentemente, um homem alegou ter ganho uma pequena loteria com a ajuda do ChatGPT. Uma versão do ChatGPT pode até ajudá-lo a flertar em aplicativos de namoro, alguns afirmam. Embora haja um coro crescente de como o ChatGPT é eficaz em ajudar a redigir currículos e descrições de trabalho, a maioria desses exemplos tem sido banal e superficial, pela simples razão de que o bot apenas regurgitará a mesma coisa de cinco maneiras diferentes.
Uma investigação da Time publicada em janeiro deste ano relatou que a OpenAI, a empresa por trás do ChatGPT, pagou aos trabalhadores quenianos menos de US$ 2 por hora para filtrar dezenas de milhares de linhas de texto para ajudar a tornar seu chatbot mais seguro de usar.
Talvez devêssemos começar a falar sobre as violações dos direitos humanos no cerne do que impulsiona a IA, em vez de debater como ela dominará o mundo no estilo Exterminador do Futuro.
Não surpreendentemente, o ChatGPT coleta todos os seus dados. Afinal, são seus dados que o alimentam e treinam. Cada conversa, independentemente de quão estúpida, a torna um pouco mais consciente e inteligente. Então, se você está confortável em compartilhar sua localização, como seu relacionamento anterior estava bagunçado e seu histórico de saúde – isso é realmente com você. O ChatGPT armazena tudo, mesmo depois de fechar a janela. A única maneira de desativar esse armazenamento é excluir sua conta OpenAI. Veja como você faz isso:
Clique em Ajuda > Clique no ícone de bate-papo que diz “Envie-nos uma mensagem” > Nas opções fornecidas, clique em “Exclusão de conta” > Clique em “Excluir minha conta” para confirmar.
Você será informado de que levará até quatro semanas para excluir permanentemente sua conta. Você não poderá criar um novo, pelo menos não a partir do ID de e-mail que usou para entrar.
Os sistemas como o ChatGPT são sensíveis?
Não a partir de agora. O próprio ChatGPT afirma que não é e que só é mais capaz de simular respostas semelhantes às humanas. Então, qual é o objetivo desses sistemas? A OpenAI afirma que tudo isso é do interesse do conhecimento livre. Embora seu cofundador diga que não é preciso e ainda está chegando lá, nenhuma explicação ou contexto é fornecido sobre o objetivo final.
Por outro lado, o engenheiro do Google, Blake Lemoine, disse recentemente ao The Washington Post que o grande modelo de linguagem LaMDA do Google estava vivo – sensível, até. Ele alegou que LaMDA tinha a capacidade de conversar com ele sobre direitos e personalidade, e até mudar de ideia sobre a terceira lei da robótica do escritor de ficção científica Isaac Asimov: “Um robô deve proteger sua própria existência, desde que essa proteção não entre em conflito com a Primeira ou a Segunda Lei”. Muitos especialistas técnicos no campo da IA criticaram as declarações de Lemoine e questionaram sua correção científica. Mas renovou um amplo debate ético que certamente ainda não acabou.
No final, é crucial notar que o ChatGPT e seus primos, inteligentes ou não, estão no negócio de manipular, transformar, concisar e fazer apostas nas informações que já compartilhamos com eles. Quando eles inventam coisas, é definitivamente sinistro e mostra até que ponto esses sistemas estão dispostos a criar a ilusão de precisão. E embora você possa usá-los para realmente simplificar algumas coisas da vida, é importante lembrar que eles estão repletos de preconceitos, continuam chegando a um beco sem saída e são alimentados por trabalhadores não remunerados em países onde a responsabilidade é uma ideia desconhecida.