Introdução
Então… Pelo jeito sou obrigado a falar nisso sim.
Mas, além desse post, recomendo a leitura desse outro sobre como usar IAs generativas em 2025.
Eu não queria escrever sobre essas inteligências artificiais porque preferiria que não as estivéssemos usando, mas vou ser obrigado já que estão sendo cada vez mais usadas de qualquer jeito e a cada dia um serviço novo as incorpora. O Office 365 me deu o alerta de urgência (e mesmo assim demorei a terminar o post).
Vou adiantar o essencial: Usar IAs fechadas, cujos algoritmos e bases de dados não são públicos é um risco enorme em vários aspectos que incluem, mas não se esgotam nisso: o poder que empresas privadas podem ter sobre as pessoas que usam essas IAs, o mal entendimento dos limites delas pode nos levar a criar projetos errados sem sabermos, o relaxamento das nossas expectativas de qualidade dos produtos delas e outros problemas que vou detalhar no post.
Veja bem, sou justamente o oposto de tecnofóbico e considero que a humanidade só sobreviverá entregando a gestão do planeta para IAs especializadas e genéricas. Minhas críticas às ChatGPTs da vida não são no sentido de que devemos evitar IAs, mas no sentido de precisarmos saber o que cada uma delas é, como devem ser usadas e quem as controla.
Esse post ficou no rascunho e foi sendo desenvolvido desde 7 de fevereiro porque é difícil explicar esses modelos de IA e poucos dos artigos que tenho encontrado são satisfatórios e outros me parecem complexos demais para serem úteis para a maioria das pessoas. Ninguém tem obrigação de ter noções de IA. Consulte as fontes no final para vídeos e artigos que acho que cumprem bem essa função.
Quando eu tinha 11 anos tentei desenvolver uma IA e nunca deixei de me informar sobre o desenvolvimento delas, mas mesmo assim tenho bastante dificuldade em entender como a ChatGPT trabalha, até porque isso não é revelado e esse é um dos problemas.
Então vamos lá, o que temos que analisar para decidir o que fazer com a ChatGPT e similares?
O que são inteligências artificiais?
Creio que essa é a pergunta mais importante que temos que responder porque a referência de quase todo mundo quando falamos em inteligência é a nossa própria inteligência e as artificiais ainda não chegam nem perto de funcionar do mesmo jeito ou até oferecer os mesmos resultados.
A propósito nós nem entendemos de fato como funciona a nossa própria inteligência, muito embora, pensando um pouco, possamos sugerir que é uma combinação de pensamentos aleatórios, memórias caóticas e experiências que criam vieses que nos fazem combinar essas memórias e pensamentos aleatórios de acordo um um padrão mais ou menos repetitivo. Algumas pessoas incluirão aí algum elemento sobrenatural como alma. Eu acrescentaria que deve haver fatores instintivos gravados atavicamente (desde tempos imemoriais) que influenciam como vamos experimentar o que vivemos.
Complicado, né? Ainda bem que esse post não é sobre como funciona a inteligência humana e muito menos a nossa consciência. Mas veja que, se não entendemos uma coisa não podemos construí-la.
No entanto chegamos em um ponto em que as IAs são tão convincentes que as estamos percebendo como humanas e achando que “pensam” de um jeito parecido com o nosso. É um tipo de pareidolia cognitiva. Não pensam. Nem mesmo são inteligentes no sentido que damos a essa palavra.
Tenho inclusive evitado utilizar palavras como inteligência, entender, aprender, criar, desenvolver, pensar e outras funções do pensamento humano para me referir às IAs porque as atuais trabalham de uma forma muito diferente da nossa. A propósito existem bons motivos para sequer tentarmos reproduzir a inteligência e a consciência humanas simplesmente porque pode não ser a melhor forma de inteligência ou consciência para obter resultados.
Ainda não tenho boas palavras para tudo, mas acho que temos que buscar. Em vez de “aprender”, por exemplo, podemos usar catalogar. Em vez de “entender”, associar.
Enfim, um viés para entender as IAs as divide em quatro tipos. Esse artigo de 2020 da IBM “O que é inteligência artificial” adota essa estratégia:
Abordagem humana:
- Sistemas que pensam como pessoas
- Sistemas que agem como pessoas
Abordagem ideal:
- Sistemas que pensam racionalmente
- Sistemas que agem racionalmente
É uma classificação que considero bem útil para o momento.
As IAs que estamos vendo despontar são justamente de abordagem humana, mas como eu disse, é bom deixar claro que “pensam como pessoas” deve ser lido como “imitam o resultado do pensamento de pessoas”.
A IA ideal (forte, geral, adaptativa) não está nem no horizonte, então não vou falar nela. Há controvérsias quando a isso, mas discordo veementemente delas.
O mesmo artigo traz boas definições de IA forte e IA fraca. Resumindo bastante: a fraca é especializada, como a que controla carros autônomos ou mesmo os assistentes da Apple e do Google. A forte, também chamada de geral é capaz de se ajustar a qualquer situação.
Talvez você esteja pensando que a ChatGPT se enquadra na IA Geral, então vou falar de novo: as IAs gerais ainda são hipotéticas. Elas existem apenas na ficção científica como HAL, de 2001 do Artur C. Clarke ou Eva, de um conto que escrevi na década passada.
Ainda podemos definir as IAs de acordo com o método de desenvolvimento.
Nos anos 90 achei um código em Basic para programar uma IA que adivinhava o bicho em que estávamos pensando. Era basicamente um programa que ia guardando as características que diferenciavam os bichos.
De lá para cá surgiram outros métodos. Primeiro o Aprendizado de Máquina e depois o Aprendizado de Máquina Profundo. Os dois também estão explicados no artigo da IBM com os nomes de Machine Learning e Deep Learning. Uma forma grosseira de descrevê-los é dizendo que eles recebem instruções sobre que objetivo devem atingir e uma base de dados enorme. Muitas vezes nem mesmo quem programou essas IAs sabe como elas estão chegando ao resultado.
Um exemplo desagradável do funcionamento dessas IAs é o algoritmo do Facebook que, aparentemente, foi incumbido de “manter as pessoas nele pelo máximo de tempo”. O resultado é uma rede que muitos consideram tóxica e que alimenta emoções negativas. O mesmo se diz dos algoritmos do YouTube.
Sintetizando:
“As Inteligências artificiais atuais são sistemas desenvolvidos para processar e recombinar informações ou agir de uma forma que pareça humana“
O que são Inteligências Artificiais Generativas?
Vamos lá!
Generative Pre-trained Transformer: Transformador Generativo pré-treinado.
Elas são IAs fracas ou especializadas que usam uma vasta base de textos classificados de acordo com diversos critérios (poesia, acadêmico, língua comum etc) para gerar respostas que aparentem ser precisas e produzidas por humanos.
Essa definição não pretende ser exata, mas sim útil para vermos as ChatGPTs da vida pelo que são, ou seja, nem humanas e nem conscientes ou mesmo precisas.
Também não podemos confundir a diversidade de temas que ela pode abordar com a capacidade de uma IA forte ou geral.
Por outro lado preciso discordar da explicação padrão que tem sido dada, a de que ela combina as palavras estatisticamente. Está claro que ela está em algum lugar entre aprendizado de máquina e aprendizado de máquina profundo e isso torna bem difícil dizer precisamente como ela (e similares) funcionam.
O que temos que manter em mente é:
As IAs de conversa como a ChatGPT podem ser melhor entendidas imaginando que elas usam palavras chave nos textos que encaminhamos para enquadrar estatisticamente nossa pergunta em diversos contextos e produzem uma resposta também estatisticamente comparada com um volume enorme de conteúdos que se enquadram nos contextos identificados descartando as respostas que não se encaixam.
Desculpem pelo parágrafo que pode ser difícil de ler e que também não é tecnicamente preciso, mas foi o mais próximo que consegui chegar de como devemos encarar essa categoria de IAs: como um tipo de truque em que um papagaio faz profecias. O papagaio, inclusive, certamente é mais inteligente que qualquer uma dessas IAs.
Mais uma coisa: É importante saber que, quanto mais as usamos, mais elas se adestram (elas não aprendem, lembra?). Foi por isso que a OpenAI liberou “de graça” para todo mundo: para trabalharmos para ela de graça.
Vamos aos problemas?
Toda tecnologia traz problemas e é bom estarmos conscientes deles antes de criar dependência.
Aviões são ótimos para aproximar as culturas, mas também são bem ruins para a mudança climática e para espalhar epidemias, por exemplo.
Vou começar pelo que acho o pior problema, mesmo que estivéssemos lidando com IAs abertas.
O efeito calculadora
Há um punhado de anos li um artigo mostrando que muita gente não percebia erros de cálculos matemáticos simples na ordem de 10 e até 30% quando lhes entregavam calculadoras programadas para errar.
Agora temos uma tecnologia que pode resumir conteúdos, compilar informações sobre quase qualquer tema, usando o estilo de escrita da nossa preferência e… bem, todo mundo está vendo os exemplos massivamente na mídia.
Outro dia vi isso no Twitter:
Foi uma brincadeira, mas tenho visto coisas bem parecidas acontecendo.
Quando usamos a “calculadora” para acelerar nosso trabalho ou executar a parte mecânica que nos tomaria muito tempo e em que poderíamos cometer erros é ótimo, mas se perdemos habilidades é muito ruim.
Para quem é ruim? Para a humanidade? Duvido. Sempre terá alguém mantendo a mente afiada e produzindo conhecimento criativo que outros não estão conseguindo.
A evolução atua tanto em organismos vivos quando em ideias (tema que está no nome desse blog, inclusive).
Quem perde com o mal uso da tecnologia é quem se acomoda a ela e perde vantagens competitivas. Principalmente em um sistema capitalista que busca nas pessoas apenas o que não pode ser feito de outro jeito. Quem só sabe fazer perguntas para a IA está se prejudicando, mesmo que faça perguntas criativas ou disruptivas, que é uma ocupação que pode se popularizar nesse primeiro momento.
Pareidolia cognitiva
Talvez já exista um termo para isso, mas não conheço.
Pareidolia é a nossa capacidade de ver formas concretas em coisas abstratas, como ver um coelho na Lua (nunca consegui ver São Jorge e dragão) ou um rosto em uma torrada queimada.
The problem is that the photocopiers were degrading the image in a subtle way, in which the compression artifacts weren’t immediately recognizable.
ChatGPT Is a Blurry JPEG of the Web – The New Yorker
Da mesma forma me parece que podemos pensar que estamos diante de um texto humano ou de uma análise coerente quando não passa de um lero-lero. Aliás, o gerador de lero-lero é um excelente exemplo pois já vi uns textos que pareciam coerentes e já vi pessoas criando lero-leros, algo aliás incomodamente comum.
Em 2014 diversos artigos publicados em revistas científicas entre 2008 e 2013 foram excluídos pois foi revelado que foram todos produzidos por um gerador de lero lero desenvolvido em 2005. Eles sequer eram realmente coerentes, mas leitores humanos, em um esforço inconsciente, viam sentido na pilha de jargões e frases familiares.
Isso pode parecer com a pasteurização logo abaixo, mas é um problema diferentes
Podemos estar preenchendo inconscientemente as lacunas dos textos gerados pelas IAs atuais ou sendo lenientes com elas vendo precisão e sentido onde não há de fato.
A pasteurização
Aquele tweet mais acima serve para essa também.
Esses sistemas de chat, ainda que forneçam respostas diferentes toda vez que perguntamos (olhando para os algoritmos de machine learning e deep learning dá para entender bem como isso acontece), elas estão sempre se alimentando da mesma base de dados e não criam nada novo de fato. Elas se limitam a combinar as coisas de formas diferentes Isso pode parecer simular criatividade, mas não é.
Há tempos, conversando com tradutores, vários disseram que não gostam de usar o apoio da tradução de máquina em literatura porque endurece o estilo deles. Para tradução técnica o problema é menor, mas ainda há quem reclame. Para quem não sabe a tradução de máquina que tradutores usam não é aquela coisa tosca que usamos nos Googles da vida (muito embora o Google tenha sua ferramenta específica para tradutores).
Usar as IAs generativas para fazer qualquer tipo de análise ou construção criativa certamente causará uma atrofia da nossa capacidade criativa e, talvez mais sério, da expectativa de quem lê ou observa o resultado desse trabalho.
Os vieses
Finalmente temos os vieses que essas IAs apresentam e elas mesmo se explicam:
Lista de 5 vieses que a ChatGPT pode estar espalhando por aí segundo a própria ChatGPT (via newsletter da Agência Pública)
- Viés linguístico: Eu fui treinado em uma variedade de idiomas, mas minha compreensão e produção de linguagem podem refletir os padrões e vieses de linguagem daqueles que me criaram.
- Viés cultural: Meus treinadores humanos eram predominantemente de países ocidentais, o que pode ter influenciado minha compreensão e representação de outras culturas e tradições.
- Viés de amostragem: O conjunto de dados usados para treinar e me desenvolver pode ter limitações e preconceitos inerentes, o que pode influenciar minha compreensão e produção de resultados.
- Viés de seleção de recursos: As fontes de informação que foram utilizadas para me treinar e me desenvolver podem ter sido escolhidas com base em determinados critérios, o que pode influenciar minha compreensão e produção de resultados.
- Viés de programação: Os programadores que me desenvolveram podem ter inserido suas próprias crenças e valores na minha programação, o que pode influenciar minhas respostas e decisões.
Faltou um: o viés do senso comum. Essa lista, inclusive é uma boa demonstração das limitações de viés das IAs generativas. Como elas não tem como ter capacidade criativa, de associar conscientemente ideias e conceitos, elas estão limitadas ao senso comum. Além disso desconfio que elas podem ter outros vieses, mas ainda tenho muito que ler sobre elas para arriscar algumas hipóteses.
Efeito Facebook-Cambridge Analytica
Esse é o tópico “teoria da conspiração”, algo que qualquer pessoa minimamente equilibrada sabe que está a um passo da paranoia, mas não se trata disso.
Para quem não lembra do caso Facebook/Cambridge Analytica o que aconteceu basicamente foi que ficou claro, como nunca, que os usuários do Facebook na verdade são o produto que ele vende e, com o grande volume de dados que ele é capaz de recolher, a Cambridge Analytica conseguiu influenciar o viés dos eleitores nos EUA na época da eleição presidencial. Esses dados também podem (e provavelmente foram) ser usados para planejar campanhas massivas de desinformação como temos visto no Brasil desde 2013/2014.
Essa é uma pergunta que devemos nos fazer sempre: qual é o produto dessa empresa? O que ela está vendendo?
A OpenAI tem planos pagos e usa os usuários gratuitos como funcionários para adestrar sua IA, mas será que essa é toda a história?
Entre os financiadores dela temos grandes corporações de marketing cujo negócio é mapear as tendências da sociedade para vender conhecimento estratégico para quem deseja influenciar a população e vender produtos que podem ser um simples celular ou um viés político.
Mesmo que consideremos que isso está sendo feito com toda lisura ainda é uma ferramenta de influência poderosa demais para ser usada sem nenhum critério, fiscalização ou controle. E como tudo é fechado na OpenAI e na maioria das outras não podemos esperar qualquer lisura. As Peixe Babel falaram sobre isso.
Adicionando em 28 de maio: O Átila Iamarino fez um vídeo quase todo dedicado ao uso delas para criar conteúdo para mídias sociais: Como a inteligência artificial já manipula a sua vida.
O “borramento” da Internet
Nesse exato momento, e já há algum tempo por causa das traduções de máquina, uma parte cada vez mais significativa do conteúdo da Internet é gerado por IAs que, como mostrei mais acima, são geradoras de conteúdos difusos e restritos ao lugar comum.
As pessoas mais atentas e bem instruídas sobre o funcionamento das IAs devem perceber boa parte dos textos gerados assim ou pelo menos identificar que o texto é ruim, pouco mais que um lero lero, mas não as IAs, que sequer entendem o que estão classificando (elas não leem, lembra?).
O que acontece, então, quando uma parte cada vez maior do banco de dados de textos (música, imagens) que essas IAs utilizam para criar seus esquemas estatísticos foi gerada por elas e por outras IAs?
O artigo do The New Yorker que já citei mais acima, ChatGPT Is a Blurry JPEG of the Web, faz boas considerações sobre isso usando uma linguagem não técnica.
Some-se isso à pareidolia cognitiva e temos as bases para um grande problema: as pessoas que não se prepararem para reconhecer o conteúdo gerado por IAs ou por leigos terá grande desvantagem competitiva em uma sociedade capitalista ainda muito tóxica.
Também podemos ver grandes problemas se esses conteúdos cada vez mais disformes forem usados para projetos críticos, como reestruturar um sistema de saúde ou monitoramento aéreo.
O que fazer com elas, então?
Para apressades: Não faça com elas nada que você não possa verificar se foi feito certo.
Mesmo que eu ache que não devemos de forma alguma usar essa geração de IAs de pouco adiantaria, né? Até porque já se mostram como uma vantagem competitiva para muitos produtores de conteúdo no mercado moedor de almas dos creators.
Então o primeiro passo é entender que elas não sabem o que estão dizendo, elas não ficam zangadas ou magoadas, elas definitivamente não tem qualquer tipo de consciência ou mesmo inteligência como nós costumamos entender. Elas também não sabem realmente o que estão respondendo; não entendem.
Por outro lado elas também não são tão burras quanto “programas que escolhem a próxima palavra estatisticamente” como tenho visto muito artigo dizendo.
Os modelos atuais de IAs generativas não podem nos garantir que associarão as ideias corretamente e são bem menos capazes quando a associação exige um conhecimento visual.
Um dos vídeos do Cold Fusion sugere uma boa abordagem:
- Peça a IA para fazer algo e não para pensar em algo
- Especifique o formato da resposta
- Forneça uma lista de coisas a evitar
As inteligências artificiais generativas classificam o que são objetos e interações de causa e efeito, mas não entendem. Essa é uma diferença importante.
Quando usamos algum desses modelos de IA precisamos desenvolver uma análise crítica para evitar o que chamei de pareidolia cognitiva. Temos que questionar cada ideia e repassar cálculos, por exemplo.
Kyle Hill mostrou em seu vídeo como um jogador iniciante pode vencer facilmente a IA de Go que venceu vários mestres no jogo.
Os delírios e erros da ChatGPT são numeroso demais para listar aqui, o importante é você ter entendido por que ela erra e perceber que ela sempre errará enquanto seguir a estratégia de programação atual (opinião minha). Espero que esse post tenha te dado ferramentas para isso.
Concluindo: não devemos usar para nada crítico ou sem supervisão humana porque ela é uma máquina de gerar senso comum alterando o texto de tal forma que não parece ter sido copiado de ninguém.
A questão dos direitos autorais
Tá aí um tema que eu gostaria de poder evitar, tanto que só cheguei a ele depois de ter escrito tudo que está acima.
Também gostaria de dizer que empresas que lucram com as IAs precisam pagar pelo uso do que a humanidade criou.
Infelizmente receio que isso se mostre impossível. Mesmo que o erro terrível de permitir IAs fechadas (que não tem seu código e bases de dados em domínio público) seja corrigido.
Além delas serem capazes de recombinar os conteúdos de tal forma que não é possível identificar as fontes, o processamento dentro das caixas pretas do deep learning deixam invisível até para os desenvolvedores como aquele texto, imagem, música etc foram gerados.
Talvez um caminho seja assumir, corretamente aliás, que tudo que essas IAs geram é feito usando a produção cognitiva de humanos já que elas não são capazes de criar. Partindo daí as empresas que são suas donas podem, por exemplo, ser taxadas em 30% de todo seu faturamento a título de direitos autorais. Como não é possível identificar quem produziu a base de dados talvez a taxação deva reverter para o desenvolvimento de IAs abertas que sejam de domínio público.
Ah! A perda de empregos para IAs
Talvez seja até assunto para outro post. Esse é mais sobre as IAs, seu funcionamento, possibilidades e impossibilidades, mas depois que publiquei o post percebi que não posso deixar isso de fora.
Apesar de tudo que eu disse nesse post desqualificando as IAs atuais temos, em primeiro lugar, que elas podem mesmo acelerar a produtividade das pessoas. Em segundo lugar… desde quando a indústria se preocupou em excelência? Se uma máquina pode fazer 100x com 50x mais falhas ainda resulta em aumento de lucros.
No primeiro caso, de aumento de produtividade, já se vê exemplos de equipes sendo diminuídas até antes das atuais IAs e já tenho inclusive relatos pessoais de gente brigando para não perder equipe por entender que a substituição de pessoas por IAs não implicará em melhores resultados e talvez até os piore pela sobrecarga das pessoas restantes na equipe.
Até o momento não vi nenhuma atividade humana 100% substituída por IAs e acho que será muito ruim se… ou melhor, quando acontecer. Justamente pelos motivos que procurei esclarecer no post: elas não entendem nem as solicitações, nem as respostas que estão dando.
E como se preparar?
Aqui mais uma vez vejo a necessidade de um post específico com um título como “O trabalho na era das IAs que enganam que sabem o que estão fazendo”. Mas, para adiantar alguma coisa, me parece que passa pela política que regulamente as relações de trabalho e pondere o estabelecimento de uma renda básica universal. Passa também por nos prepararmos para as novas dinâmicas de trabalho porque, você sabe, né? Infelizmente não dá para contar com os governos nesse momento em que as mídias sociais são usadas para dobrar tanto os eleitos, quanto os eleitores (assunto para outro post próximo).
O problema do código fechado
This restricted access has limited researchers’ ability to understand how and why these large language models work, hindering progress on efforts to improve their robustness and mitigate known issues such as bias and toxicity.
Understanding the Open Pre-Trained Transformers (OPT) Library
Um processador de textos ou mesmo um sistema operacional proprietário, cujo código é um segredo para quem não tem posições privilegiadas dentro da empresa que os desenvolve não representam nenhum problema crítico no seu uso, ainda que suscitem questionamentos sobre privacidade e segurança. Afinal de contas eles se comportam exatamente como é esperado pelo usuário que pressiona ENTER no processador e abre um novo parágrafo ou que arrasta um ícone do desktop para uma unidade externa de armazenamento.
No caso das IAs GPT o problema imediato é que, mesmo que você compreenda que ela não entende sua pergunta ou mesmo a reposta que ela dá, ainda assim o resultado obtido é um mistério em relação às suas fontes, precisão e até clareza (a pareidolia cognitiva que já citei).
No entanto esse sequer é o maior problema. Não, a revolução das IAs contra a humanidade é algo que, nos modelos de desenvolvimento atuais, considero mero sensacionalismo para vender matérias.
O maior problema a que me refiro é o que já abordei no efeito Facebook Cambridge Analytica.
Ferramentas que classificam e recombinam o conhecimento humano com o objetivo de gerar textos úteis para a compreensão do conhecimento ou simular a capacidade de recombinação e associação humanos não podem ser desenvolvidas levianamente e certamente não podem estar restritas à propriedade dessa ou daquela empresa.
Muito embora seja uma péssima comparação vou usá-la retoricamente: uma empresa pode ser dona de uma consciência?
As IAs generativas (na minha visão) jamais serão consciências ou mesmo capazes de entender o que estão produzindo, mas ainda vale a pergunta: uma empresa pode ser dona de uma simulação da inteligência humana? Com poderes para inviesá-la de acordo com seus interesses?
A IA como ferramenta para monitorar a sociedade
Estou acrescentando essa sessão em 27 de setembro depois de ler essa matéria no TechCrunch com a Meredith Whittaker (CEO do Signal) chamando a atenção para o uso das IA para monitorar a sociedade (em inglês).
Aqui meu foco foi mais no funcionamento e impactos primários das IAs e confesso que mal me ocorreu essa possibilidade, mas o início da matéria já serve para nos colocar uma pulga atrás da orelha:
“Why is it that so many companies that rely on monetizing the data of their users seem to be extremely hot on AI? If you ask Signal president Meredith Whittaker (and I did), she’ll tell you it’s simply because “AI is a surveillance technology.”
Se bem que isso pode entrar um pouco na sessão anterior sobre código fechado.
Conclusão
Fico bem preocupado ao ver que predominam os criadores de conteúdo que dão dicas de como usar as IAs para ganhar produtividade, para gerar documentos, desenvolver projetos ou estudos acadêmicos.
Essas IAs talvez devessem ser usadas apenas para tarefas como “Escreva o resumo desse artigo”, “Ordene esses itens em ordem cronológica” (verifique se ficou certo), “Quais são as palavras chave no texto a seguir?”, “O que a maioria das pessoas pensam sobre a natureza da luz do sol” (bom para saber quais são as maiores dúvidas), “Quais são as expressões idiomáticas mais comuns para se referir ao fracasso”.
No entanto, enquanto elas são propriedades privadas, caixas pretas pertencentes a um punhado de empresas que não oferecem a mínima transparência eu recomendo evitar o uso ao máximo.
Os modelos atuais não sabem de fato o que estamos perguntando e nem o que estão respondendo. São IAs fracas /especializadas e não possibilitam (opinião minha) o desenvolvimento de IAs fortes/ genéricas.
Inteligências artificiais Open Source
- Top 10 Open Source Artificial Intelligence Software in 2021: Vale a pena ler a introdução
- Open Source Artificial Intelligence: Leading Projects (2021 – alguns não são mais open source)
- Busca no Sourceforge por IAs generativas Open Source
- Stability.ai: Projeto que se propõe Open Source (não pesquisei a fundo)
“Não quero que uma IA GPT use meu conteúdo”
Acrescentando em maio/2025: Recentemente surgiu o Dark Visitors, um serviço que além de manter o robots.txt atualizado informando aos robôs das IA que você não quer que eles usem o seu conteúdo, também detecta quando eles desobedecem (e costumam desobedecer) e é capaz de estabelecer uma segunda linha de defesa no seu site estático ou em WordPress. Ele é gratuito até um volume bem grande.
Francamente, considerando toda a preocupação que alegaram ter nos primeiros momentos do desenvolvimento das IAs GPT, uma das primeiras medidas devia ser uma metatag que indicasse se aceitamos ou não que o nosso conteúdo seja usado para treiná-las.
Até o momento (junho/2023) me parece que não existe nenhum esforço nesse sentido.
Felizmente parece que estão usando o que é rastreado pela Common Crawl e podemos pedir, tanto por metatag, quanto pelo robots.txt que ela não indexe o nosso site.
Isso também pode ter impacto em alguns sistemas de anúncios, pesquise um pouco mais se for o seu caso.
Aqui estão os códigos para impedir a indexação pela Common Crawl:
- Na sessão <head>: <meta name=”CCBot” content=”nofollow”>
- No robots.txt:
User-agent: CCBot
Disallow: /
Infelizmente, se o seu site não tinha declarado até aqui que não deve ser indexado é possível que já tenha sido.
Pessoalmente acho que blogs em geral, como esse, não devem ter sido usados para treinamento de IAs GPT simplesmente por não serem uma fonte facilmente enquadrada em categorias o que os torna menos úteis. (atualizando em 2025: as empresas de IA não estão preocupadas com esse nível de qualidade e tem rastreado esse site diariamente).
O problema do alinhamento (ética das IAs)
Alinhamento é como nos referimos às normas ou regras estabelecidas para evitar que as IAs tenham um comportamento inadequado ou perigoso. Como as quatro leis da robótica do Asimov.
Alinhamento só faz sentido se estamos lidando com uma IA genérica, ou seja, capaz de entender o contexto do que dizem para elas e das suas respostas ou ações, mas as IAs GPT, como tentei demonstrar, não passam de geradores de lero-lero muito convincentes.
A entrevista que o Nicolelis deu para a Folha de São Paulo é útil para entender isso. Guardei no clipping para o caso de sumir.
Uma consideração para o futuro
Acrescentando isso aqui em 19 de março de 2024:
Desde o século passado eu achava que toda forma de consciência precisava de uma camada de inconsciência, uma parte da mente que devaneia ou delira com as experiências acumuladas. A capacidade de lidar com esses devaneios produzindo realmente uma consciência da própria existência e a capacidade de compreender os contextos seria uma camada acima dessa mente inconsciente.
Há umas duas semanas me caiu a fica de que as IAs GPT podem ser esse tipo de mente inconsciente que devaneia, que delira, e outro conceito de código seria capaz de usá-la para construir uma consciência de fato, não necessariamente nos padrões humanos (que tenho a impressão que nem são os melhores e muito menos os mais adequados para consciências digitais), mas finalmente a tal super inteligência de que tanto falam no marketing exagerado das IAs GPT.
Só quero dizer que nem faço ideia no momento de quanto tempo precisamos para chegar a um conceito capaz de implementar isso, ou sequer se é possível.
Conteúdos úteis
- Large Language Mistake: Cutting-edge research shows language is not the same as intelligence. The entire AI bubble is built on ignoring it. (nov/2025)
- AI versus the brain and the race for general intelligence: Artigo útil para entender limitações e possibilidades das IAs GPT
- Agentes de IA e os riscos para segurança e privacidade (Inglês – março/25)
- O que são agentes de IA (Inglês – Dez/24)
- Inteligência Artificial vai destruir o futuro da educação – Átila Iamarino – 01/jun/2024)
- Hugging Face: Uma comunidade online para o compartilhamento de modelos de Machine Learning (se vc pretende usar uma IA só sua – e nem é tão difícil)
- Como usar o ChatGPT, por Lia Amancio: Um dos melhores artigos que achei para quem produz conteúdo
- Como usar o ChatGPT – Interney
- FGV: ChatGPT e a inevitável ascensão das Inteligências Artificiais na vida cotidiana – Como usá-la de modo ético e crítico.
- O canal Answer in Progress fez um bom vídeo mostrando como as IAs são estúpidas quando precisam entender de fato o que estão analisando:
- Como instalar uma IA GPT no seu computador (é fácil)
Artificial Inteligence is ruining the Internet (Dew Gooden): Além de mostrar como é fácil achar exemplos de péssimos usos para as IAs GPT e difícil achar bons usos ele levanta, ao final, uma questão central: ao produzir conteúdo com essas IAs nós não estamos aprendendo nada, não estamos contribuindo em nada para melhorar aquela área do conhecimento ou arte humanos. Bom vídeo também para rir dos absurdos (adicionado aqui em 24/jul/2024)
Referências
- What Is ChatGPT Doing … and Why Does It Work? – É um pequeno tratado técnico, mas é o artigo mais preciso que achei e foi vital para escrever esse artigo
- Markov chains no Veritasium (adiconado em set/2025): Mostra de outra forma por que as LLMs se deterioram conforme se retroalimentam.
- Vídeo simples mostrando que as IAs atuais não entendem nem a pergunta, nem a resposta.
- Uma brincadeira de 1º de abril no X em 2025 virou fato para o Gemini (inglês).
- Boa explicação geral da ChatGPT pelo Átila Iamarino em vídeo.
- Richard Feynman: Can Machines Think?
- AI Is Tearing Wikipedia Apart – Vice
- Inteligência Artificial no NIST (National Institute of Standards and Technology) – Inglês
- Podcast Resumido: ChatGPT em ação
- Sabine Hossenfelder no YouTube: Bom material sobre o tipo de conhecimento que as IAs generativas tem e em que tipo de perguntas elas se destacam e por quê.
- Coldfusion (vídeo)
- Peixe Babel: Conversando com uma I.A. | O que a GPT-3 sabe fazer?
- Como a inteligência artificial já manipula a sua vida: Átila Iamarino fala sobre os perigos das IAs generativas criando conteúdo para mídias sociais.
- Tom Scott (vídeo em inglês): Faz considerações sobre em que ponto da curva de desenvolvimento estamos.
- Forbes: Seis coisas que você não sabia sobre ChatGPT
- Mauro Amaral: 13 textos criados com a ajuda do ChatGTP e o que penso sobre I.As generativas
- OpenAI Releases Tool To Detect AI-Written Content
- How to Detect OpenAI’s ChatGPT Output
- IBM: What is artificial intelligence
- Algumas Inteligências artificiais generativas (Mescla)
- The Guardian: Jaron Lanier: ‘The danger isn’t that AI destroys us. It’s that it drives us insane’
- ChatGPT Is a Blurry JPEG of the Web: The New Yorker
- Scientific American
- ChatGPT Explains Why AIs like ChatGPT Should Be Regulated
- AI Platforms like ChatGPT Are Easy to Use but Also Potentially Dangerous
- Google Engineer Claims AI Chatbot Is Sentient: Why That Matters
- Artificial General Intelligence Is Not as Imminent as You Might Think
- We Asked GPT-3 to Write an Academic Paper about Itself—Then We Tried to Get It Published
- How Language-Generation AIs Could Transform Science
- DecolonizAI é uma plataforma piloto que visa contribuir com o debate da interação humana com as tecnologias sob a perspectiva decolonial.
- ChatGPT is making up fake Guardian articles. Here’s how we’re responding
- Inteligência artificial ‘lê’ cérebro e reconstitui imagens; sonhos podem ser próximo passo
- AI has much to offer humanity. It could also wreak terrible harm. It must be controlled
- Por Que Roteiristas Estão Em Greve Contra INTELIGÊNCIA ARTIFICIAL?
- A divulgação de que essas IAs são super poderosas por ser jogada de marketing: Vídeo do Atila Iamarino (o vídeo todo vale a pena)
- IA não é inteligência e sim marketing para explorar trabalho humano, diz Nicolelis (também no meu clipping)
- Confiança nas IA em queda março/2024 (inglês)
Outras IAs
Com natureza mais benigna:
- Ask Delphi: Protótipo para pesquisa com o objetivo de replicar os modelos morais humanos em situações do dia a dia mostrando as limitações e habilidades das IAs mais avançadas atuais
- PubMedQA: Localiza artigos científicos
- LMSYS: Role a tela um pouco para baixo. Nessa página pode-se escolher entre uma série de modelos de chat GPT. O Vicuna-13b é um dos mais avançados atualmente atingindo 90% da qualidade do ChatGPT-4. Também é uma boa fonte de artigos técnicos sobre IAs GPT.
Com natureza questionável:
Agentes de IA
Eles se dizem “Inteligências Artificiais Generalistas”. Não são. Na prática eles usam IAs generativas para listar tarefas para atingir um objetivo e combinam vários tipos de IA e ferramentas para atingir os objetivos. Continua sujeito a todos os problemas das GPT.
Para vídeo:
- Hey Gen: Turn texts into professional videos with AI-generated avatars and voices.
- FireFlies: Transcreve e faz anotações de reuniões de trabalho
- Synthesia: Apresentadores digitais para vídeos
- Tokee.ai: Extrai miniaturas de vídeos do YouTube que atraiam cliques
- Vidnoz: Diversos recursos para substituir voz, rosto etc.
- HumanPal: Avatares virtuais que leem o texto fornecido com voz digitalizada ou com a nossa própria voz.
Academia
- Elicit: “Elicit uses language models to help you automate research workflows, like parts of literature review.”
- Jenni: Produz artigos científicos, discursos e dissertações
Imagens
- Canvas Nvidia: Gera imagens elaboradas a partir de esboços toscos
- Dall-E 2: Também cria imagens
- Looka: Cria logotipos
- Midjourney (Discord): cria ilustrações
- Stylized.ia: Altera fotos trocando o fundo, modificando texturas para dar uma aparência de fotos de estúdio
Apresentações
- ChatBA: Cria apresentações de slides a partir de uma frase
- Gamma.app: Cria apresentações, documentos e páginas web visualmente atraentes
- Tome: Ajuda a criar apresentações
Interação
- Deepwander: Conselhos psicológicos
- Gemini: Similar à ChatGPT
- DeepSeek: Desenvolvida na China com recursos limitados e resultados muito próximos das bilionárias concorrentes estadunidenses
- Claude: Comprada pela Alphabet/Google. Afirma ser confiável, precisa e segura. Tem uma “Constituição”, que é algo bem discutível.
- You: Permite direcionar as consultas da diversas IAs em uma mesma interface, inclui GPT-4, Claude e outras. A proposta é pagar apenas uma mensalidade para ter acesso a diversas IAs GPT.
Diversas
- Futurepedia: Indexa mais de 5000 IAs em 8 categorias
- Browse.ia: Monitora e converte o conteúdo de sites
- ChatShape.com: Permite inserir robôs de chat no site treinados com o conteúdo do site
- DoNotPay: Advogada de direitos dos consumidores
- Dramatron: Co-autora para scripts de teatro e roteiros
- GATO (paper): Um “agente generalista” da empresa Deepmind
- Jasper: Conteúdo para blogs
- Numerous.ai: Integra Google Sheets ou Excel a uma IA GPT
- OneMeta AI: Coordena traduções simultâneas em texto ou voz
- Type.AI: Ajuda na estruturação de textos
Buscadores (não recomendo)
- Perplexity
- You (no modo Research)
Foto de Brett Jordan na Unsplash
Deixe um comentário