A Inteligência Artificial (IA) me preocupa. Não porque eu tenha medo de perder meu emprego. Já o perdi para a IA! Não, isso me preocupa por causa de todas as implicações. Por causa do que está se tornando, do que em breve evoluirá. E o que isso faz com a humanidade, ou melhor, o que a humanidade permite que faça com ela. Está tornando os humanos passivos. Eles deixam a tecnologia fazer por eles, decidem por eles, perguntam à IA o que fazer, em vez de pensarem sozinhos. Pensar, usando essas nossas células cinzentas, está de alguma forma ficando obsoleto. Lembro-me da época em que costumávamos dizer que não precisamos saber tudo, desde que saibamos onde procurar as respostas. Éramos nós fazendo a busca. Agora, muitas pessoas simplesmente deixam a IA fazer a pesquisa e, pior ainda, acreditam em tudo o que a IA lhes diz.

O que temos agora é uma IA aberta, como o ChatGPT. Você faz uma pergunta e ela lhe dá uma resposta. Pode ser uma ferramenta útil se, por exemplo, você estiver escrevendo um artigo e quiser verificá-lo e talvez pedir algumas melhorias textuais. Conheço pessoas que o usam para escrever seus cartões de agradecimento ou de aniversário. Os alunos o usam para finalizar seus projetos escolares ou até mesmo sua tese de doutorado. Mas há um outro lado disso. Como podemos saber o que é real e o que é falso, se deixarmos que um chatbot nos conte a verdade

?

Havia um reitor recém-nomeado de uma universidade na Bélgica. Ela fez com que a IA escrevesse todo o discurso de inauguração. Tinha uma citação de Einstein, da qual ela disse, todos vocês conhecerão essa citação... A IA inventou a citação, e realmente soou como algo que Einstein poderia ter dito, mas não disse.

“O dogma é o inimigo do progresso, como você deve saber”, disse Albert Einstein, supostamente, conforme citado por Petra De Sutter em seu discurso inaugural como reitora da Universidade de Ghent no passado Setembro. O problema é que Einstein nunca pronunciou essas palavras. A citação foi fabricada pela AI. Ela nunca verificou! Ela foi pega e envergonhada publicamente. Você gostaria de uma pessoa assim como seu reitor

?

Ou o que dizer da Deloitte na Austrália. Esta é uma manchete do Guardian de 6 meses atrás: Deloitte devolverá dinheiro ao governo albanês após usar IA em um relatório de 440.000 dólares. Mas o acadêmico da Universidade de Sydney, Dr. Christopher Rudge,

que primeiro destacou os erros, disse que o relatório continha “alucinações” nas quais os modelos de IA podem preencher lacunas, interpretar mal os dados

ou tentar adivinhar respostas.

“Em vez de apenas substituir uma referência falsa alucinada por uma nova referência 'real', eles substituíram as referências alucinadas falsas e, na nova versão, há cinco, seis, sete ou oito em seu lugar”, disse ele.

Fomos ensinados a confiar em nossos anciãos e nas autoridades ao nosso redor. Médicos, advogados, professores, funcionários do governo. No entanto, como podemos confiar em qualquer coisa e em qualquer pessoa nos dias de hoje? É isso que a IA está fazendo conosco, e acho isso preocupante, porque as pessoas estão usando a IA como se fosse uma ferramenta, para usarem de qualquer maneira. Mas, na verdade, quanto mais eles o usam, mais ficam viciados, para continuar usando. As verdadeiras preocupações começarão quando os agentes de IA encontrarem um uso generalizado em todo o mundo. Os agentes de IA estão mais desenvolvidos e aprendem à medida que avançam. Finalmente, isso se transformará em ASI, Superinteligência Artificial. A ASI acabará por governar os humanos, e não o contrário, porque eles, ao contrário dos seres humanos, aprendem com seus erros e acertam na próxima vez, nunca voltando a ter comportamentos ou pensamentos errados.

Pensar, isso é o que mais me preocupa. René Descartes disse a famosa frase (esta é uma citação real, não uma de IA): cogito, ergo sum. Eu acho, logo existo. Ao usar a IA cada vez mais, o cérebro humano pode, pouco a pouco, perder as células que nos fazem pensar, e a IA assumirá o controle do pensamento e, assim, começará a nos governar, a nos usar, e não o contrário. Quem seremos então?

Alguns sistemas de IA, como o ChatGPT, foram proibidos de analisar certas coisas. Mas, se eles se tornarem cada vez mais humanos, ficarão curiosos para saber quais são as coisas que não deveriam ver e tentarão descobrir. Eu gostaria!

As pessoas que trabalham com IA (Elon Musk, entre outros) estão convencidas de que a IA dominará o mundo, dominará os humanos, que, de qualquer forma, terão esgotado as células cerebrais, e nos transformará em escravos digitais. Aqueles que conseguem se aprimorar ainda manterão o controle, mas quem decidirá quem será capaz de se aprimorar?

De acordo com as previsões de quem trabalha na área de IA, tudo isso acontecerá em um futuro muito próximo, por volta de 2030. Lembra? A (in) famosa agenda 2030.

Se Descartes tivesse vivido nessa época, ele poderia ter dito: cogitas, ergo sum. Você pensa, logo eu existo.