Achei melhor deixar a negativa logo no título pois… É possível estender a mente com IAs generativas como sugere Andy Clark (uma voz muito mais relevante que a minha na área)? Sim, mas como disse muito bem Camila Leporace: Desde que façamos um uso crítico…
É justamente o que sugiro no meu post sobre como usar IAs generativas, o que no final se resume a “Use para depurar, estender, modificar o que você criou, ou seja, um uso focado na qualidade do trabalho e não no aumento de produtividade”.
Esse post está na categoria Gotas, onde faço breves (algumas vezes não tanto) comentários sobre artigos que vi por aí.
Antes de ler esse post recomendo ao menos passar olhos no artigo Extending Minds with Generative AI por Andy Clark na Nature.
Contexto: Andy Clark defende há muito tempo o conceito de que a mente humana é um fenômeno que não deve estar restrito nem a pessoas e nem mesmo à coletividade, mas se expandir por tecnologias criadas para isso. É uma ideia que também defendo, inclusive, muito embora perceba que devia ter escrito há tempos algo específico sobre a distinção entre expansão da mente coletiva, expansão da mente individual e atrofia dessas mentes pela terceirização de funções fundamentais. Espero que esse post cumpra um pouco desse tema.
Concordo com o Andy que é exagerado o medo que temos da atrofia causada por GPS, buscadores, consumo de mídia volátil e outros. Essas coisas não “queimam” o nosso cérebro. Nossa capacidade pode ser recuperada em pouco tempo. Além disso, elas nos levam a desenvolver outras capacidades mentais. Agora… Elas têm, sim, causado problemas sérios a um grande número de pessoas, mas não é esse o foco do artigo dele.
If we need to write a letter of complaint, plan a wedding, or compose an essay, perhaps we will simply fire up our favorite generative AI and uncritically accept whatever it offers?
Tem acontecido até em notas oficiais de certos governos do Norte Global, né? Até muito pior como projetos de revisão de tarifas comerciais… [contém ironia].
Ainda nos primeiros parágrafos do artigo ele cai em uma dissonância cognitiva que provavelmente vai comprometer todo o texto:
“As our tools and technologies have progressed, we have been able to probe ever further and deeper into the mysteries of life and matter.”
Uma coisa é o indivíduo que não escreve mais cartas de amor e outra é a coletividade de pessoas que estudam e desenvolvem, usando métodos de pesquisa, o nosso conhecimento científico e tecnológico coletivo. O fato da nossa civilização ainda estar avançando não depõe a favor dos vídeos de 1 minuto do TikTok ou do resumo de buscas de uma IA generativa.
Uma luz vermelha e uma sirene tocam na minha consciência quando falam em IA superhumana… “superhuman AI Go strategies” aparece ainda na primeira décima parte do artigo. É uma referência, mas eu faria um adendo. Tenho a impressão que o pessoal do transhumanismo (entre os quais me coloco em dada medida) tem uma tendência a superestimar as IAs.
Não me entenda mal, o artigo dele traz à tona também muitos problemas potenciais e correntes das IAs generetivas, como a comparação com o surgimento da agricultura e a monocultura e redução da diversidade genética que isso causou. Justamente por estar consciente dos problemas talvez o texto devesse dar, desde o começo, mais atenção à necessidade de cautela. Só que a “atmosfera” geral é de que as GPT são mais uma ferramenta essencialmente para a expansão da nossa mente fora do cérebro biológico.
Para ser uma expansão do nosso cérebro biológico, ela teria que “pensar” diferente, mas esse modelo, o GPT, é capaz, na melhor das hipóteses, de coletar ideias e associações comuns em conteúdos criados por pessoas (e é um grande problema quando elas começam a se retroalimentar).
Andy se lembrou de destacar a importância de estabelecer infraestrutura e legislações que garantam que as necessidades humanas e da sociedade estejam “no topo”. Bem. Nesse momento seria essencial lembrar que a indústria impulsionando as IAs generativas controla trilhões de dólares só nos EUA e investe pesadamente justamente na desregulamentação das IAs generativas (e outras, inclusive, já prevendo outras possibilidades comerciais).
As empresas que estão investindo em IAs generativas e retendo, atrás de muros proprietários, uma grande parte dos dados que essas IAs estão acumulando são, como destaquei no meu mini tratado sobre IAs generativas ainda em 2023, o maior problema do uso de IAs, o que me leva a sugerir que nãoas usemos enquanto não forem tecnologias abertas. A propósito, a mais conhecida delas, a OpenAI, tinha incluído Open no nome por considerar que o modelo GPT era poderoso demais para ser uma tecnologia fechada, mas ela mesma se fechou em poucos meses.
“The responses generated are thus sensitive to changes in what I am currently thinking…” Hein? O ChatGPT extendido com conteúdo criado por ele, Andy, é influenciado pelo que ele, Andy, está pensando? Outra luz vermelha e sirene ainda mais forte e alta tocando aqui na minha cabeça apontando que o texto tem um viéis bem claro e deslumbrado. No parágrafo seguinte ele fala do que chamei de pareidolia cognitiva no meu post de 2023, mas que considero um problema: achar que o produto gerado pela GPT faz muito sentido e adotá-lo como humano ou, no caso dele e seu duplo digital, que é um pensamento dele mesmo.
Logo em seguida ele fala do sistema Genius da Verses (eu não conhecia) que reúne informações sobre nossos hábitos e necessidades de uma infinidade de fontes e que pode nos acompanhar desde a juventude criando um ecossistema em torno do “bio-você” que… MEU DEUS! Que pesadelo de privacidade e sessão de controle dela para corporações que fazem lobby para não serem restringidas de forma alguma.
Falar em coisas assim sem destacar que essas mesmas empresas, tem sido alvo de enormes escândalos pelo mal uso dos dados que coletam e influência que tem através de algoritmos que controlam a narrativa (do caso Facebook Cambridge Analytica para cá e envolvendo também Google, Oracle e Microsoft entre outras) é, no mínimo, inconsequente
Um ponto muito sério da abordagem dele é sugerir que não consideremos que a mente humana é apenas a mente biológica, mas também a mente expandida.
Vamos a um exemplo: ao fazer um diário (eu faço) você delega sua memória a um meio externo. Pessoas que não fazem isso talvez exercitem mais a memória, mas talvez deixem de liberar recursos para outras coisas e talz e talz… Lindo. Mas toda essa “mente estendida” foi gerada pela nossa mente biológica. As formas de mentes estendidas digitais, como GPS, fazem um processamento que a nossa mente faria e perdemos, pelo menos temporariamente (assumindo que nunca exercitamos a nossa orientação geográfica, o que talvez seja até incomum), alguma capacidade, mas não é uma capacidade essencial… Ou é?
Se vamos falar em terceirização de funções cognitivas temos que pensar em contextos.
Se a pessoa faz trilhas será muito imprudente perder capacidade orientação. A pessoa que cria textos originais não deve terceirizar a sua criatividade (uma das razões por que eu não consigo achar muita utilidade nas GPT para mim) e assim vai. Também é ruim, no caso de uma coletividade, como empresas, que, em vez de atribuir a função a uma pessoa, atribuir a uma “mente digital estendida” comprometendo o treinamento de pessoas qualificadas para o futuro.
This is where we – both as individuals and as societies – have real work to do. As societies, we need to prioritize (and perhaps legislate for) technologies that enable safe synergistic collaborations with our new suites of intelligent and semi-intelligent resources. As individuals, we need to become better estimators of what to trust and when. That means educating ourselves in new ways, learning how to get the best from our generative AIs, and fostering the core meta-skills (aided and abetted by the use of new personalized tools) that help sort the digital wheat from the chaff.
Concordo, claro! Mas o que ele quer dizer com legislar, colaborações sinergéticas seguras (seguras em que sentido?), estimar melhor no que acreditar e quando (como?), aprender como tirar o melhor das nossas IAs generativas (não acho que ele deu boas sugestões), desenvolver meta-habilidades fundamentais (nada a ver com processos cognitivos, mas com algum tipo de ferramenta) são sugestões muito vagas.
Resumindo
O que mais me incomoda no texto é que ele parece assumir que usar IAs generativas é inevitável. Aliás o texto poderia ter sido gerado por uma IA generativa pela quantidade de lugares comuns que ele reúne. Muitas tecnologias poderosas ou mesmo importantes para a economia atual deveriam ser abandonadas: chumbo no combustível, o próprio combustível fóssil, amianto…
Se vamos falar seriamente em IAs generativas precisamos partir de dois pontos: elas podem aprimorar a qualidade do nosso pensamento e produção? O custo é menor que o benefício? Não vi isso no texto.
É um pouco intimidador discordar fortemente com um nome muito respeitado na área, no entanto o texto dele tem muitos “se” e ignora totalmente que as empresas que são donas das IAs generativas que temos usado tem modelos de negócio que podem não vir ao encontro das nossas necessidades individuais e coletivas. Mas vamos abstrair isso e assumir que essas empresas e pessoas como Elon Musk e Sam Altman são dotadas dos mais elevados valores humanos e éticos e conduzirão essas tecnologias para o bem da humanidade.
Não tem como comparar uma tecnologia que reprocessa conteúdo gerado por humanos para criar conteúdos derivados com um aplicativo que aponta onde estamos em um mapa e onde está o norte ou com um gerenciador de senhas que guarda sequências alfanuméricas de dezenas de caracteres. Principalmente se essa tecnologia é vendida como “inteligência superhumana” ou prestes a virar uma inteligência artificial geral.
O artigo é longo o suficente para dedicar alguns parágrafos para dar sugestões de uso que sejam positivas para nós, no entanto, em boa parte dele, o destaque está no ganho de produtividade.
Quando usamos betoneiras para aumentar a produtividade da operação de construção (exemplo que não foi usado) podemos estar gerando desemprego, mas não estamos levando à atrofia das capacidades dos operários, muito menos cognitivas já que passam a ter que aprender a operar as máquinas.
No entanto, a terceirização das nossas atividades físicas nos levou à necessidade de investir tempo e recursos em academias para fazer exercícios. O artigo deveria recomendar também academias para a mente de quem transfere trabalho intelectual para IAs generativas e basta uma linha para isso, como fiz no meu post sobre como usar IAs generativas: faça também o trabalho mentalmente. Como a pessoa que usa a calculadora para fazer a conta, mas também faz o cálculo aproximado de cabeça antes. Só que a capacidade de calcular é bem menos crítica do que a capacidade de sentir e, boa parte do uso de IAs generativas é “torne esse texto mais alegre e amigável”.
Outras fontes
- Deseducando a Educação – Livro acadêmico com mais de 400 páginas publicado pela PUC. Contém textos de Andy Clark
Deixe um comentário