Escolhi uma cena do filme Geração Proteus (Demon Seed), de 1977 para ilustrar esse post porque foi um dos primeiros filmes em que vi uma inteligência artificial se tornando consciente e sendo má.

Nosso imaginário é dominado por inteligências artificiais conscientes, até mesmo em “Eu, Robô”, uma das ficções científicas que considero mais cuidadosas com o assunto. Além disso, humanos tendem a antropomorfizar com facilidade, não é mesmo?

No entanto é importante sabermos que está acontecendo de fato e já adianto que não, IAs não vão sair nos matando e o grande problema das IAs não está nesse futuro muito improvável em que elas decidem nos matar, mas no presente muito real em que as pessoas que comandam as mega corporações cibernéticas estão controlando as IAs para nos prejudicar.

O que a Meta faz transformando as redes sociais onde nos conectávamos em mídias sociais que nos afogam em estímulos que nos desconectam, que mudam o que vemos do mundo ao dispor dos interesses dos seus donos já está matando pessoas, já está ferindo gravemente a política e a democracia.

O que o Google faz ao selecionar o que veremos restringindo a nossa visão da Internet a uma parte dela que está morta e nos isolando da Internet viva, o que ele faz ao vasculhar os nossos dados de email, navegação, localização (pelo celular) é terrível e real hoje! Nos afasta da realidade, nos aproxima da desesperança em relação ao futuro.

Em tempo: sim, estou experimentando a estética neobrutalista.

Mas vamos do começo.

O que estão dizendo?

Há poucos dias Jacob Coxon pediu demissão da Anthropic, onde trabalhava no pré-treino de IAs generativas dizendo que não aguenta mais trabalhar em uma indústria irresponsável que caminha para construir uma superinteligência que matará todos nós. Dois outros funcionários, que continuam na Anthropic, reforçaram o que ele disse, mas sabe quem mais reforça? Sam Altman, da OpenAI… desde 2023.

Se a indústria de IA sempre disse que ela criaria um monstro que nos destruiria, por que só agora isso está viralizando, veja só, no X, um dos grandes investidores em IA?
A melhor hipótese é: porque elas vão abrir o capital, querem parecer muito mais poderosas que são para serem avaliadas na casa de trilhões de dólares e seus acionistas poderem vender ações lucrando centenas de bilhões de dólares antes da bolha estourar e elas passarem a valer quase nada.

A propósito… Como?

Jacob não é exceção: até agora não vi sequer um cavaleiro do apocalipse dizer como uma IA destruiria a humanidade.

Além disso eles sempre dizem que não é a IA de hoje! Não! Essa é fraca! Mas é que ano que vem… e ano que vem nunca chega porque nenhuma mega corporação está trabalhando em busca de uma IA Geral e muito menos de uma superinteligência.

Também importante é entender que o mal que as IAs podem causar não é por serem muito boas, pelo contrário, é por serem muito ruins pois dependem do modelo generativo (GPT), então o dano que podem fazer é por funcionarem mal, como disparar todo o arsenal nuclear de um país em vez de ligar a torradeira. Esperemos que nenhum idiota coloque uma IA agêntica no último ponto de decisão para disparar armas nucleares.

Geoffrey Hinton, que carrega a alcunha de pai das IAs, uma alcunha meio exagerada, alega que as IAs podem desenvolver virus biológicos, decidir controlar armas de guerra erraticamente e diz ver 10% de chances delas matarem todos nós desse jeito. Me atrevo a discordar. Alguém teria que produzir e distribuir o vírus, então seriam pessoas e não IAs assassinas. Além disso não é necessário IA para criar novos virus ou, pior, bombas sujas (espalhar pó radioativo). Existem muitas críticas à posição dele apesar do título. Por exemplo: Geoffrey Hinton’s misguided views on AI

Mas elas não tem decidido coisas sozinhas?

Não. IAs generativas, agentes de IA, IAs multi-agentes ou agênticas não tem decidido nada “sozinhas”. Para haver decisão precisa haver consciência.

Elas não decidiram invadir o Hugging Face, elas não resolveram um dos problemas matemáticos do milênio sozinha.

Temos um problema no caminho para entender as IAs: quem as desenvolve gasta os tubos para promover uma imagem superlativa, quem critica muitas vezes tenta reduzi-las a “sistemas que escolhem a próxima palavra”, o que não é totalmente real nem para as IAs GPT de 2023. Temos que ver as IAs pelo que realmente são.

Então vou recapitular os tipos de IAs generativas e o que fazem (obs: não existe uma terminologia fechada ainda, então vou usar termos comuns para facilitar sua busca posterior):

• IA Generativa: ela é capaz de associar palavras e conceitos de acordo com conjuntos de conhecimento a que pertencem e combinam, por exemplo, uma base de poesia, com outra de biologia e mais uma de linguagem comum para fazer um poema sobre micélio no estilo hip-hop. Isso é muito mais do que escolher a próxima palavra estatisticamente e pode produzir resultados com certa coerência e utilidade. Um exemplo é a Lumo com o acesso à Internet desativado;
• Agente de IA: São o tipo acima, mas capazes de buscar artigos online escritos por pessoas ou outras IAs e reescrever o conteúdo oferecendo respostas muito melhores do que no modo anterior, desde que busquem em boas fontes, o que não tem acontecido muito
• IAs multi-agentes, Agênticas: são um tipo de conjunto de IAs especializadas que recebem instruções de uma IA dos tipos anteriores para executar uma tarefa. Ao pedirmos para ela resolver um dos problemas matemáticos do milênio o módulo que decide o caminho procurará na Internet e na sua base de conhecimento as estratégias que pessoas tem adotado e fará uma lista, um outro módulo pode decidir que IA ou ferramenta (pode ser um sistema de cálculo matemático sem qualquer recurso de IA) que deverá executar cada tarefa.

Uma característica importante do funcionamento do último tipo de IA é semelhante ao Deep Learning (cito o nome para você saber o que buscar): literalmente milhares de agentes de IA podem ser colocados a para trabalhar experimentando centenas de milhares de caminhos para resolver um problema. Não é desenvolvimento do pensamento humano, é tentativa e erro.

O processo, o caminho, é mais importante do que o resultado, é isso que eleva a humanidade e apresenta novos horizontes, mas para a sede de marketing das mega corporações cibernéticas em uma era ciberpunk apenas o resultado importa.

Links

Em geral prefiro indicar textos pois entendo que precisamos exercitar muito a capacidade da leitura, mas dessa vez indicarei alguns vídeos porque é importante também facilitar o acesso às reflexões.

• OpenAI fought dirty on career-making math problem, says NYU mathematician
• How to talk about “AI” without adding to the anthropomorphization
• The cognitive impact of ChatGPT in higher education: A systematic review of critical and creative thinking outcomes
• Exploited Data Workers in the Global South Are “the Secret Ingredient of AI Itself”
• The invisible labour behind ‘intelligent’ machines
• MOOC global sobre a ética da IA
• Geoffrey Hinton’s misguided views on AI:

Vídeos

• Catharina Doria sobre os alertas das IAs apocalipticas e o IPO que se aproxima (vale seguí-la)
• Sabemos como a OpenAI realmente invadiu o HugginFace: meio longo, mas veja todo para chegar nas partes que mostram que não é realista antropomorfizar IAs
• A OpenAI roubou a pesquisa deles? – Sobre a solução de um dos sete problemas do milênio. Mesmo canal acima. Também longo, mas tente ver todo ou pule para o terço final.
• Miguel Nicolelis no Instagram