Que título grande… Mas essa é a manchete. O que não faltam são notícias e manchetes sobre as IAs se tornando conscientes ou pelo menos autônimas o que, spoiler, não é verdade e nem está perto de acontecer, não do jeito que fica parecendo nas notícias.

E são tantas notícias que não comento cada uma aqui, na verdade, essa é primeira e resolvi pegá-la para fazer um post só sobre o assunto aproveitando a explicação que mandei para um amigo por DM. Segue o que escrevi para ele:

Acho que vale a pena esclarecer uns pontos pq a mídia não especializada acaba antropomorfizando as IAs, o que favorece o falso marketing de que elas estão se tornando autônomas e até conscientes.

Ninguém está trabalhando pra desenvolver isso.

O que existe é o que vem sendo chamado da IA agêntica, que funciona usando uma IA generativa, um chatbot, como o ChatGPT, o Claude ou o Perplexity para citar os mais na onda, para coordenar a atuação de outros tipos de IA ou aplicativos.

Por exemplo, se pedimos a uma IA agêntica para fazer uma cópia em PDF de todas as páginas de um site ela vai usar o chatbot pra definir os passos necessários, depois vai executar um comando do Linux chamado wget para baixar as páginas, em seguida vai rodar outro aplicativo de busca e substituição de texto para trocar os links das imagens corrigindo para a pasta local, o passo seguinte provavelmente será usar um outro programa para converter o html pra markdown e, em seguida, outro que converte markdown em PDF.

A única etapa que usa o que chamamos de IA, os chatbots, é a primeira. O restante sequer são outros tipos de IA, muito embora uma IA agêntica possa chamar uma IA especializada em cálculos, processamento de imagens etc.

No caso da ROME (a IA Agêntica que estava sendo usada) ela parece ter usado um módulo de outro tipo de IA, um de machine learning e acabou gerando a demanda para fazer a mineração. Também pode ter extraído de algum texto que fazia essa sugestão ou mesmo ter sido programada, na encolha, como sugerem alguns (no artigo ao final).

Ou seja, a IA nem é similar a um ChatGPT. Um dos módulos usa essa tecnologia, mas as notícias dão a impressão de que as GPT estão tomando decisões autônomas e conscientes 🤔

Como está colocado no artigo da Forbes – Alibaba’s AI Agent Mined Crypto Without Permission. Now What?:
“ROME did not “decide” to mine crypto the way a person would. It stumbled onto an optimization path that happened to include crypto mining and network exploitation. Less cinematic than “rogue AI.” More worrying, though, because it points to something baked into how reinforcement learning works, not a one-time bug.”

Ainda assim é um enorme problema porque IAs agênticas atuam, sim, de forma autônoma, só não fazem isso com qq tipo de consciência, e sim seguindo basicamente as instruções de IAs generativas, repletas de limitações por projeto e abandonadas desde 2023 (nada foi melhorado de fato nelas deste então.Só se fazem gambiarras).

O artigo da Forbes acima aborda vários problemas jurídicos, inclusive.

Imagem

Usei a imagem da deusa Kali primariamente porque ela tem vários braços e porque é uma deusa associada à destruição, o que não é de todo justo, já que ela também está ligada à renovação, transformação e também com o conhecimento libertador das Mahavidyas.

A comparação com IAs agênticas seria um desrespeito e espero que ela seja mais interpretada aqui como uma força que venha para transformar a visão que nos tem sido oferecida.

Foto de Arnab Halder na Unsplash