Desde o meu post em 2023 explicando como IAs generativas funcionam e antecipando os problemas que persistem, alerto que uma parte grande dos “avanços” delas são gambiarras, mas me faltavam exemplos concretos de como isso estava sendo feito (e admito que é pior do que eu pensei).
“Hundreds of people were busy writing examples of prompts someone might ask a chatbot, writing the chatbot’s ideal response to those prompts, then creating a detailed checklist of criteria that defined that ideal response.”
Percebe que isso significa que não são as IAs generativas dessas empresas que estão respondendo muitas das perguntas e que elas estão selecionando e refraseando conteúdo feito por humanos de acordo com regras para criar uma impressão de inteligência?
Vou copiar aqui o que mandei para a primeira amiga que me mandou o artigo acima:
Acho até que já guardei no clipping a matéria do The Verge citada na publicação sobre o subemprego em treinamento de IA que vc mandou lá no Instagram.
Tem vários pontos a comentar. Vou começar pelo oportunismo da indústria de IA.
Não há intenção de fazer uma IA eficiente. A meta é manter o hype em torno da impressão de que estão melhorando.
Já falei que praticamente o que mudou desde o meu post de 2023 são gambiarras.
Se, até lá, o trabalho humano tinha sido o de criar desvios de moderação marcando o que era abjeto demais, as gambiarras passaram a ser desvios de processamento: não é a IA que está respondendo, mas uma pessoa que teve seu conhecimento “fotografado” e refraseado. Para ficar mais claro, é como se, antes de responder, a IA consultasse um banco de dados de respostas similares.
É o que elas fazem, inclusive, quando mandamos buscar na web: elas escolhem fontes pré-definidas… pré-absorvidas e catalogadas.
Outro “isso” é que não é possível que a suposta elite do desenvolvimento de IA ignore que conhecimento é um fenômeno dinâmico que, ao ser capturado e armazenado, se torna conhecimento histórico e base para desenvolver o processo do conhecimento. Isso quando não vira mera informação. Volto à hipótese de que não há interesse em desenvolver as IAs e apenas de extrair o máximo de capital com o mínimo esforço.
Aqui vale uma observação paralela: a indústria de IA não gera lucro. Até o momento ela está desviando recursos de governos e fundos de investimentos para construir um vórtex de concentração de recursos tirados, em última instância, da humanidade.
Voltando aos pontos da matéria: vemos, nas entrelinhas da contratação de quem foi substituído por IAs para “treiná-las”, o reconhecimento que elas não estão funcionando.
Em muitas empresas os funcionários que restaram tem feito o trabalho árduo de consertar as falhas inseridas pelas IAs, em outras as coisas estão simplesmente quebrando.
Minha previsão é que a combinação desses três fatores: o desinteresse no desenvolvimento real de IAs, a impossibilidade delas gerarem lucro e o congestionamento dos processos de conhecimento, criarão a necessidade e oportunidade para quem souber pensar e agir sem IAs.
Lembrando que o uso de IA generativa por humanos exige uma reconfiguração da nossa forma de pensamento para um modelo que não funciona bem para pessoas, um modelo que atrofia o nosso pensamento, que é incomparavelmente superior tanto ao das IAs generativas, quanto das agênticas, que sequer tem uma linha de pensamento de fato.
Imagem
Foto de SAKO Sarah Koenig na Unsplash
Deixe um comentário