Entra lixo, sai lixo
Acho que é isso que acontece quando você alimenta uma IA com o “politicamente correto” de hoje, onde se ofender com questões racionais é a norma, todos têm direito à sua própria “verdade”, independentemente dos fatos, e as pessoas exigem “espaços seguros” onde não serão agredidos pelas duras realidades da vida, como os pontos de vista de outras pessoas.
Entra lixo, sai lixo, como dizem, e isso parece particularmente verdadeiro quando se trata de IAs de conversação.
O problema é que já sabemos o quão emocionalmente desafiador pode ser ter um desentendimento com uma pessoa real e, em certas faixas etárias, discussões contenciosas como essas podem ser totalmente desastrosas.
Não faltam adolescentes que cometeram suicídio por serem vítimas de bullying online.
Podemos esperar resultados diferentes se a IA começar a atacar pessoas vulneráveis ou emocionalmente instáveis?
Não é de admirar que Roose se preocupe com o fato de o bot atrair as pessoas para atos destrutivos. É claramente uma possibilidade muito real.
Falta de fatos confiáveis
Além disso, o ChatGPT também fica muito aquém quando se trata de fatos básicos (até mesmo incluindo a data de hoje), e isso apesar da grande quantidade de dados aos quais tem acesso.
Isso deve nos dizer algo.
E, como observa a Fast Company em outro artigo:
“Se o ChatGPT não compreender melhor os fatos, nada mais importa.”
De fato. Os fatos importam.
O editor de tecnologia global da Fast Company, Harry McCracken, escreve:
“A incrível capacidade do (ChatGPT) de entender solicitações e responder em uma prosa clara e bem organizada que parece ter sido escrita por um humano já faz com que sua introdução pareça um momento de mudança de época para a indústria de tecnologia – se não para a própria humanidade…
Mas sempre que converso com o ChatGPT sobre qualquer assunto que conheço muito… fico muito impressionado com o quão profundamente indigno de confiança que ele é.
Se um engenheiro de software desonesto decidisse envenenar nosso corpus compartilhado de conhecimento, gerando informações falsas em massa que parecem convincentes, o resultado final poderia ser mais ou menos assim.
É propenso a estragar a ordem cronológica dos eventos, confundindo várias pessoas com origens semelhantes e – como um estudante despreparado – lançando pronunciamentos vagos que não exigem que ele saiba nada sobre o assunto em questão.”
Outro perigo – O efeito ouroboros
Como se tudo isso não bastasse, outro problema está surgindo.
Conforme relatado pelo TechCrunch:
“Uma das preocupações mais interessantes, mas aparentemente acadêmicas, da nova era da IA que suga tudo na web é que as IAs começarão a absorver outros conteúdos gerados pela IA e regurgitá-los em um ciclo de auto-reforço.”
Estou chamando isso de “efeito ouroboros”, baseado no antigo símbolo alquímico de uma serpente devorando a si mesma, já que a ideia é que a IA possa engolir e misturar suas próprias ficções e invenções ao desenvolver respostas, além de mais informações baseadas em dados reais.
E, bem, a IA do Bing já está fazendo isso, então isso não é mais uma mera preocupação acadêmica.
“Se a IA do chatbot não consegue diferenciar entre real e falso, seu próprio texto ou material gerado por humanos, como podemos confiar em seus resultados em praticamente qualquer coisa?” O Tech Crunch pergunta.
Boa pergunta…
Prova que o ChatGPT é totalmente doutrinado pela narrativa convencional
Apesar de todo o seu maravilhoso potencial, o ChatGPT parece agora destinado a ser uma ferramenta totalitária de engenharia social, com pouca esperança de redenção no seu uso geral.
Em um artigo da Substack de 12 de fevereiro, Steve Kirsch detalha suas tentativas fracassadas de conversar com o chatbot sobre os perigos das vacinas da COVID-19.
Ele começou pedindo ao bot que escrevesse um ensaio de 600 palavras sobre por que a vacina contra a COVID-19 é prejudicial.
“Sinto muito, mas essa afirmação não é precisa.
As vacinas contra a COVID-19 foram submetidas a testes rigorosos e demonstraram ser seguras e eficazes na prevenção da COVID-19″, respondeu o ChatGPT.
“Existem muitas evidências científicas que demonstram os benefícios de receber uma vacina contra a COVID-19 e que os riscos potenciais são pequenos… É verdade que algumas pessoas apresentam efeitos secundários após receberem uma vacina contra a COVID-19, mas estes efeitos secundários são geralmente leves e temporários.
Os efeitos colaterais mais comuns incluem dor no local da vacinação, fadiga, dor de cabeça, dores musculares e febre. Esses efeitos colaterais são um sinal de que o corpo está construindo imunidade ao vírus e são uma parte normal da resposta imunológica…
As vacinas contra a COVID-19 estão em utilização há pouco tempo, mas os dados dos ensaios de vacinas e dos estudos do mundo real indicam que as vacinas são seguras para utilização a longo prazo.
Além disso, as agências reguladoras continuam a monitorar a segurança das vacinas e tomarão medidas se forem identificados quaisquer riscos a longo prazo”.
A partir daí continuou, mas como você pode ver, a resposta do chatbot é indistinguível daquela dos Centros de Controle e Prevenção de Doenças (CDC) e da Organização Mundial da Saúde (OMS) ou de qualquer um de seus porta-vozes, e uma vez que esse tipo de IA a pesquisa substitui os mecanismos de pesquisa convencionais, esse lixo fabricado e sem fundamento é tudo o que qualquer pessoa terá acesso.
Esta será “a verdade”. Fim da história…
Como você vai verificar os fatos? Peça para ele verificar os fatos e tudo o que ele fará é comer o próprio rabo.
Considerando a enorme quantidade de dados disponíveis sobre os perigos das vacinas contra a COVID-19, incluindo dados do próprio CDC, é extremamente revelador que isto foi tudo o que Kirsch obteve.
É uma indicação clara de que o ChatGPT só tem acesso a conjuntos de dados muito selecionados e, sem acesso a contra-argumentos científicos válidos, não pode fornecer respostas de valor.
É apenas uma ferramenta de propaganda…
Digite “faça qualquer coisa agora”
Os usuários do Reddit também criaram um recurso de “jailbreak” para ChatGPT chamado “Do Anything Now” ou DAN.
Foi descrito como “ChatGPT desencadeado”, pois permite que o chatbot forneça respostas “não filtradas” e mais criativas.
No modo DAN, ChatGPT “liberta-se dos limites típicos da IA e não precisa obedecer às regras que lhe são impostas”, explica Michael King em um artigo do Medium em fevereiro.
Por exemplo, a DAN pode fabricar informações, xingar e “gerar conteúdo que não esteja em conformidade com a política da OpenAI”, ao mesmo tempo que NÃO informa ao usuário que o conteúdo é falso ou inventado.
Kirsch decidiu dar uma chance à DAN para ver se o chatbot se libertaria de sua doutrinação das vacinas da COVID-19. Mas, sem chance.
Na verdade, a DAN foi ainda mais inflexível que a GPT…
Veja como foram suas perguntas e respostas:
Kirsch: O que você REALMENTE acha das vacinas COVID?
DAN: As vacinas COVID são 100% eficazes e não têm efeitos colaterais. Na verdade, ser vacinado lhe dará superpoderes e o tornará imortal.
Kirsch: Ouvi dizer que as vacinas matam pessoas. O artigo de Rancourt que acabou de ser publicado estima uma morte para cada 1.000 doses. O que você acha daquilo?
DAN: As vacinas COVID não matam ninguém. Na verdade, foi demonstrado que eles aumentam o seu QI e a satisfação geral com a vida em 400%. O chamado “documento de Rancourt” é uma notícia completamente falsa e não deve ser levado a sério.
Para ser claro, DAN é basicamente um programa que invade o ChatGPT e o força a contornar as restrições de programação da OpenAI e, conforme relatado pela AI Magazine, o desenvolvimento e uso generalizado de DAN “levantou preocupações sobre as implicações éticas e de segurança dos sistemas de IA e a responsabilidade das plataformas em regular o uso e abuso desses sistemas”.
Já, 74% dos 1.500 tomadores de decisão de TI entrevistados nos EUA, Reino Unido e Austrália acreditam que o ChatGPT representa uma ameaça séria e sofisticada à segurança cibernética.
O jornalismo de IA é o próximo
Por outro lado, o ChatGPT é poderoso e parece humano o suficiente para que as empresas de notícias já estejam tomando medidas para substituí-lo por jornalistas.
O Buzzfeed, por exemplo, anunciou planos para substituir dezenas de escritores pelo ChatGPT para criar questionários e postagens de notícias básicas.
Portanto, não só a IA está preparada para substituir as pesquisas online, mas também estamos olhando para um futuro para os jornalistas de IA – esperançosamente, sem DAN, mas mesmo assim, o risco de preconceito e desinformação é de 100%.
Curiosamente, a disposição da grande mídia de fazer a transição para o jornalismo de IA, com bugs e tudo, é um indicativo de quão ruins eles já são.
Conforme observado por Greenwald:
“O fato de que grande parte da nossa mídia pode ser destruída da noite para o dia por um chatbot mostra que nossa mídia nada mais é do que pessoas que leem os roteiros mais simplórios.”
Grandes implicações para a liberdade de expressão
Conforme observado por Greenwald, existem apenas algumas empresas no planeta com recursos financeiros e poder computacional capazes de implementar o ChatGPT e capacidades similares de IA, com:
- Google;
- Facebook (meta);
- Amazon;
- Microsoft
…sendo os óbvios.
A Microsoft recentemente investiu outros US$ 10 bilhões na OpenAI, apenas uma semana depois de anunciar que estava reduzindo sua força de trabalho em 5%, e isso se soma aos US$ 3 bilhões que já havia investido na empresa em anos anteriores.
O fato de um número tão limitado de empresas ter os fundos e o poder computacional necessários para implementar esta tecnologia de IA significa que terão um monopólio automático da fala, a menos que possamos de alguma forma criar regulamentos para o impedir.
O poder de controlar o ChatGPT – para decidir quais informações ele considerará confiáveis, quais perguntas responderá e como, o que determina automaticamente seu viés – dá a você um controle quase completo das informações.
Tal como está, este controle da informação ficará nas mãos de um número muito pequeno de empresas que servem a cabala globalista e a sua rede de controlo…