Uma breve história dos algoritmos sociais
Era uma vez, ainda no século passado, quando a Internet era um continente pequeno, pouco mais do que uma ilha, e o ciberespaço abrigava ainda outras ilhas como os CBBS, uma das primeiras redes sociais online. As timelines tinham outros nomes como fóruns ou boards e não existiam algoritmos.
Pouco depois vieram os blogs, que também eram redes sociais, mas onde o dono da casa berrava e algumas pessoas sussurravam nos comentários e a “rede” ficava em grande parte na sessão blogroll ao lado dos posts.
Então surgiram redes sociais que nos convidavam a centralizar nelas todas as nossas conexões. O MySpace e o Orkut foram duas das primeiras a ter timelines, mas ainda nada de algoritmos.
Logo depois veio a diversidade: Twitter, Plurk, Multiply, Linkedin e muitos etecéteras, vários deles mergulhados nos pixels mortos do Universo paralelo em que a Internet se tornou.
Até então o algoritmo era nosso mesmo: a decisão de quem seguir, quem silenciar, quem bloquear.
Um dia, não sei se fazia sol, se nuvens escuras ameaçavam causar alagamento, se a lua cheia nos olhava do céu escuro ou se era uma noite de trevas: As redes sociais descobriram como obter lucros e surgiram os primeiros algoritmos, que… Bem, isso vale um certo destaque:
Entre os primeiros algoritmos tínhamos os que nos apresentavam anúncios de acordo com os nossos interesses, que eram identificados através do que publicávamos e a quem nos conectávamos.
Não era uma ideia muito original, era o mesmo que o Google já fazia há tempos em seu buscador e outras ferramentas como o Gmail.
Até aí os dois reinos, online e offline, seguiam lado a lado uma história que parecia tranquila e sem grandes tormentas, afinal vivemos em uma era definida pelo consumo e pela diversidade. Ferramentas que nos ajudavam a ver o anúncio ideal para as nossas necessidades eram um ganho de tempo e uma economia de esforços. Eu cheguei a defender esses algoritmos várias vezes.
Enquanto isso talvez os magos sombrios já trabalhassem nas trevas para corromper o marketing online para que, em vez de nos apresentar o que precisamos, despertar em nós necessidades anti-naturais.
Mais ou menos ao mesmo tempo os algoritmos nas redes sociais começaram a definir também as nossas timelines decidindo que posts, de quem e em que momentos veríamos. Confesso que fui iludido no começo considerando que queremos seguir muitas pessoas, muitas mídias, e seria bom um algoritmo que nos apresentasse o que mais nos interessa dentro das coisas que as pessoas que seguimos estão publicando.
Só que não era isso que os algoritmos estavam fazendo, né? Eles estavam estudando nossos vieses e nossas vulnerabilidades para nos vender a quem pagasse para “Desestimular os progressistas a votar”, “Maximizar os medos dos conservadores”, “Plantar dúvidas sobre essa ou aquela visão política ou seus representantes”, “Espalhar a desconexão da realidade através da desconfiança na ciẽncia” e nem percebemos que estavam sufocando nosso livre arbítrio pouco a pouco. Mesmo o seu e o meu, pessoas atentas e espertas. Mas isso é assunto para outro post.
Menos conto de fadas e mais realidade
Retirando os recursos narrativos que usei acima, o que temos que fazer é olhar para o nosso ambiente real: uma forma de capitalismo cujo foco e métricas de sucesso estão no máximo lucro com o mínimo investimento.
Acho importante avisar que não sou anticapitalista e esse não é um post sobre outro sistema ou mesmo sobre como consertar o atual: não temos tempo para esperar isso acontecer para depois decidir como lidar com os algoritmos, redes, mídias sociais e outros lugares online.
Vou fazer a seguinte distinção entre redes e mídias sociais (TM Roberto Cassano): a primeira é um lugar onde pessoas se conectam e desenvolvem comunicação o segundo é um lugar que usa as conexões e conteúdos que acessamos para vender anúncios que podem ser do interesse das pessoas conectadas ou que plantem ideias que interessam aos pagantes pelos anúncios.
Também é bom deixar mais uma observação: algoritmos não são a única coisa que corrompe redes sociais. Em 2008 o problogging, ou seja, a contratação de blogs para fazer posts patrocinados, já era um problema similar ao segmento creators. Mais recentemente a criação de blogs e sites aparentemente jornalísticos com a única função de espalhar desinformação são outra vertente de corrupção da Internet das pessoas em uma internet do mercado.
Mas esse post é sobre o problema dos algoritmos.
Algoritmos são IAs
O post IAs Generativas: não sou obrigado! que escrevi faz pouco tempo pode ser útil apesar de dedicado a IAs GPT. Os algoritmos atuais, como elas, são construídos em torno de machine learning e deep learning.
Esses modelos de IA são, grosso modo, caixas pretas que recebem um volume de dados gigantesco, como tudo a que reagimos e nos conectamos no Facebook e em sites monitorados por ele, por exemplo. Uma instrução para essas IAs pode ser “mantenha o usuário aqui o máximo possível”. Com isso elas fazem uma quantidade astronômica de simulações de reações aos conteúdos e montam nossas timelines.
É importante saber que, assim como acontece com as IAs GPT, essas IAs não sabem ou entendem nem o nosso comportamento, nem o que estão nos apresentando. Na verdade sequer sabem que existem humanos. Em função disso as empresas que as criaram podem ter algum controle sobre o que fazem, mas tem um conhecimento apenas superficial do que elas estão fazendo de fato.
Isso, de forma alguma, abona as responsabilidades que as empresas tem pelos algoritmos que usam pois, afinal, são elas que definem a missão do algoritmo.
Quem define a função dos algoritmos?
Podemos achar que as empresas malvadas (não estou falando que não são) decidem criar os “algoritmos do mal!”. Também pode-se dizer, como vejo com frequência, que a culpa é nossa porque clicamos nas coisas que nos irritam mais no que nas que nos fazem bem.
Sobre o primeiro caso, as mídias sociais que usam algoritmos para maximizar seus lucros, mesmo que o slogan delas fosse “Fazer o bem” em vez de “Não fazer o mal”, ainda estariam sob a influência “do Mercado” no sentido que precisam pagar a infraestrutura e os salários. Óbvio, né? Mas vamos lembrar que a maioria delas precisa atender as exigências do mercado de ações que exige um crescimento constante. Um modelo ótimo se a realidade fosse virtual, péssimo em uma realidade onde os recursos são limitados, mas isso também é assunto para outro post.
O ponto aqui é que não é nada fácil dar prioridade a “algoritmos do bem” enquanto o pavio dos boletos e acionistas vem queimando logo atrás dos seus calcanhares.
A comparação entre corporações e pessoas não é uma boa comparação, mas pense em quantas coisas você precisa fazer ou deixar de fazer para ter uma vida confortável.
Vamos ao segundo caso: nós.
Ultimamente tenho tido muitos motivos para ficar ansioso e tentei recorrer a minha cultura nerd e tentei encarnar do Spock ao Yoda e até no controle de Asriel e Marisa Coulter (de Fronteiras do Universo) procurei inspiração. Não funciona ;-P
Humanos são máquinas orgânicas programadas para disparar respostas hormonais e neurotransmissores em situações de estresse, êxtase, perigo etc. São “programas” orgânicos que não estão sujeitos ao controle consciente do cérebro e muito menos da nossa consciência.
Talvez até seja possível desenvolver alguma capacidade de controle, mas quem tem tempo para isso? Quem tem acesso aos conhecimentos necessários? Aliás, acho que eu mesmo não tenho nenhum dos dois.
Então o cabo de força entre uma IA que conhece os padrões de literalmente bilhões de pessoas e você ou eu, mesmo que sejamos pessoas muito espertas e sábias, é muito mais do que desigual, é uma absoluta covardia.
Quem define os algoritmos, portanto, são vários fatores:
- Pressão do “Mercado” por lucros e crescimento
- Os instintos humanos
- As empresas que os criam e podem influenciar o funcionamento da caixa preta que são
- Quem paga (caro) para que as empresas no item anterior insiram esse ou aquele viés nas timelines desse ou daquele perfil social
Essa não é uma lista extensiva. O objetivo dela é criar a percepção de que algoritmos são algo difícil, bem difícil, de controlar. Infelizmente me parece que também não é possível proibir o uso deles em uma sociedade livre e democrática. Talvez nem mesmo provando que eles sempre se deteriorarão em ferramentas negativas dentro do modelo econômico corrente.
Em 2017 já nos alertavam. Recomendo muito ler os meus comentários e assistir o vídeo: We’re building a dystopia just to make people click on ads | Zeynep Tufekci.
Como fazer um “algoritmo do bem”
Você, que é uma pessoa sagaz, já deve estar torcendo o nariz e perguntando “e quem define o que é bem?”. Exatamente.
Nós já tivemos algoritmos do bem até aproximadamente 2008. Eles também eram bem menos complexos, mais limitados e não iam muito além de mostrar os artigos mais recentes primeiro ou das pessoas ou fontes com que interagíamos mais.
Um algoritmo do bem pode ser um que nos leve às informações ou às conexões que serão mais úteis para nós.
E já está você aí, pessoa sagaz, pensando que, se a informação nos agrada ela cai na falácia do viés de confirmação, que não é boa para nós e alimenta coisas como terraplanismo e o descolamento da realidade política que temos visto cada vez mais intensamente nos últimos 10 anos.
Se o algoritmo nos traz informações ou conexões que furam nossa bolha – como se costuma dizer – também é ruim, afinal a pessoa é que deve decidir quando e como furar a bolha e dificilmente uma IA (nos modelos atuais) inferirá esse momento corretamente.
Se você, pessoa sagaz, tiver alguma sugestão de como resolver isso sou todo ouvidos e olhos para ler seus comentários e adicionar seus links mais abaixo na sessão de fontes.
Por ora o caminho que vejo para o “algoritmo do bem” é instalá-lo em nós mesmas, pessoas sagazes ou não.
Lá em 2008, em um blogcamp, a Maffalda, fez uma oficina com um título mais ou menos assim: Não seja um mané na Internet.
Na época isso tinha mais a ver com netiqueta do que se proteger da enxurrada de influências online. Para quem é bem jovem pense assim: a gente precisava correr muito atrás de conteúdo, ele não vinha para a gente, até os celulares na época ainda eram predominantemente burrofones.
Entretanto a conscientização – ainda que seja um caminho longo e cheio de percalços em uma época em que temos consideráveis grupos políticos e econômicos investindo em verdadeiros terrorismos cibernéticos, desinformação, polarização, influência de massas etc. – por enquanto me parece ser o caminho mais viável.
Vale o alerta: é uma questão de sobrevivência na selva cibernética. Quem consegue assumir algum controle e consciência sobre o fluxo de informações com que nos bombardeiam terá mais tempo, uma visão mais precisa da realidade e das tendências. Não seja mané na Internet…
Isso é assunto para um post inteiro, ou mais, todavia preciso deixar alguma sugestão aqui pois é crueldade apresentar problemas sem ao menos apontar algum caminho. Então lá vai…
Como criar seu próprio algoritmo do bem
Penso que o ponto principal é meio difícil de aceitar:
A gente não é capaz de filtrar conteúdo e informações periféricas, então corte-as.
O que estou chamando de informações periféricas são os anúncios que aparecem nas páginas web, a cada 3 ou 4 tweets ou posts na TL de uma outra rede social que não são anúncios, mas são selecionados entre o que as pessoas e coisas que seguimos publicou para nos causar reações emocionais e nos manter mais tempo naquela rede ou absorver algum viés que pagaram a rede para propagar (ou a própria rede decidiu propagar).
É chato admitir que somos influenciáveis inconscientemente, mas… Você já foi em um show de mentalismo? Eu já.
A primeira vez que fui a um show desses fiquei atento a cada subterfúgio e peguei vários. Ao longo do show o mentalista apontou para umas 5 pessoas e perguntou a cada uma um dia, um mês, um ano etc. No final ele voltou a apontar para elas e perguntou o que tinham dito, elas responderam, ele levantou a bandeja de metal que tinha ficado o tempo todo com uma vela queimando em cima e lá estava, escrito no fundo, exatamente o que cada um tinha dito.
Na minha vez ainda me achei muito esperto porque a hora que estava na minha cabeça quando ele perguntou era outra, então mudei pensando “Hahaha! Peguei ele”. Mas foi ele que me pegou! Durante o show ele plantou em nossas mentes aquela data e hora.
Assisti muitos shows de mentalismo e vi literalmente dezenas de pessoas dizendo “Ah! Isso só funciona com gente de mente fraca!” aí se ofereciam para passar pela influência do mentalista e… boom! Eram influenciadas.
Certo, me estendi um bocado nisso, mas é porque é importante que você, pessoa sagaz, perceba que, não importa o quanto sejamos sagazes: um mentalista treinado pode nos ler e nos influenciar.
Uma IA é centenas de vezes mais eficiente que um mentalista em nos ler e nos influenciar e faz isso com muito mais gente ao mesmo tempo. Evito chamar de manipulação porque é algo muito radical e que beira as teorias da conspiração e não quero ninguém caindo nesse precipício, mas é um grau de influência que chega muito perto da manipulação. Todas nós conhecemos alguma pessoa racional e coerente que, quando menos esperávamos, estava vivendo em um mundo ameaçado por comunistas reptilianos pedófilos que se reuniam nos fundos de uma pizzaria nos EUA! E nos perguntamos perplexos como alguém pode enlouquecer tanto. Não é loucura, é um gradativo processo de influência.
O que estou fazendo é deixar de acessar todas as redes mediadas por algoritmos.
Hoje a rede social que mais acesso é uma instância da federação Mastodon, mas já vemos corporações de mídias sociais estendendo tentáculos para as redes federadas criando suas próprias soluções como o BlueSky, o Instagram, o Substack (não é fedarado) e muitas outras. Recomendo muita desconfiança. Muita mesmo.
A pergunta que seu algoritmo pessoal do bem deve fazer sempre é “Como esse ambiente ganha dinheiro? O que ele está vendendo? O que ele pretende vender no futuro?” (a última pergunta é para armadilhas como o Bluesky – post meu)
Conclusão (e sessão “Longo demais, me dê um resumo”)
A Humanidade é social e as redes sociais online provavelmente são um espaço inevitável, mas temos que perceber a distinção entre redes e mídias sociais.
Estamos atravessando a era do capitalismo digital, onde a nossa atenção e os nossos desejos são a chave para a venda de produtos que são infinitos (e mais infinitos ainda com o surgimento das IAs GPT).
Onde quer que dois ou mais se reúnam… Lá estarão os olhos do Mercado procurando uma forma de absorver mais atenção e influenciar mais desejos e vieses.
Talvez redes sociais comerciais, que são gratuitas para seus “habitantes”, ou seja, usuários, estejam fadadas a se degenerar em mídias sociais pois precisam buscar clientes entre corporações que querem comprar seus usuários. Como em Matrix, somos a carne que alimenta o sistema e não os clientes que aquele sistema precisa cuidar.
E como sair da Matrix sem pagar por tudo, inclusive o endereço de email, uma coisa essencial já há muitos anos? Bem, já falei um bocado nisso em Estou dando adeus ao Google e não é pelo que você pensa (desculpe pelo clickbait) e penso em escrever novamente num futuro próximo.
Espero que possamos nos encontrar em uma rede social em breve! Por enquanto você me acha em @Roneyb@Mastodon.Social
Outras vozes
PH Santos chamou a atenção para outro lado: como acabamos sendo condicionades a preencher todo nosso tempo em mídias sociais, seja publicando, seja consumindo estímulos.
O vídeo abaixo finalmente mostra que o problema das redes sociais moderadas por algoritmos não é a formação de bolhas, mas justamente o contrário, como digo há, sei lá, 15 anos? Também propõe que uma Internet moderada por humanos em torno de blogs, redes sociais como o Mastodon e fóruns, permitem que as tribos se reúnam sem gerar polarizações. Excelente vídeo!!
- First-Gen Social Media Users Have Nowhere to Go – Wired
- A fala de Carole Cadwalladr no TED em 2019 sobre a interferência do Facebook no Brexit é necessária.
Fontes
- Foto de Maria Teneva na Unsplash
- Two principles to protect internet users from decaying platforms por Cory Doctorow
- Internet das Pessoas: Paula Martini
- Vida Conectada
- Let’s Just Admit it: The Algorithms Are Broken
Deixe um comentário para Reencontrando a blogosfera | Galeria de Espelhos Cancelar resposta