O dilema das redes: somos todos zumbis?

Os algoritmos que controlam o fluxo de notícias e conteúdo que encontramos ao navegar na Internet ou interagir em redes sociais são um grande perigo tanto para você que lê este post quanto para a sociedade e até para nossa civilização e a sustentabilidade da vida na Terra como sugere o documentário O Dilema das Redes disponível na Netflix.

Mas…

Será que o estado de conflito em que o mundo moderno vive é porque as mídias sociais são um tipo de Cthulhu arrancando violentamente de nós o que há de pior na humanidade? Um suposto pecado original?

O documentário não tem um tom nada religioso, mas é a linguagem, a forma de comunicação escolhida que me perturbaram desde o princípio me lembrando de filmes como O Segredo e Deus Não Está Morto.

O assunto: a influência da nossa forma de ver o mundo, nossa capacidade de discutir nossas diferentes visões da realidade, a disputa predatória pelo nosso tempo de vida; coisas sérias demais para que apelemos para estratégias de apelo emocional e falácias para… bem… arrancar mais um pouco do nosso tempo de vida e influenciar nossa visão do mundo.

Apesar de trazer entrevistados com uma aparente diversidade de opiniões acabamos sendo apresentados a uma visão comum da realidade que, se não é compartilhada pelos entrevistados, fica clara, ainda que quase subliminarmente, para quem assiste:

A ordem da sociedade está sendo pervertida e deteriorada pelas redes sociais (e algoritmos de filtro e recomendação de conteúdo) e temos que controlar esse monstro que hoje é controlado por “eles”.

Apesar de, no final, serem apresentadas várias soluções para o problema que parecem progressistas, a obra como um todo é reacionária e parece querer voltar ao mundo “normal” e “bom” de antes.

Ainda que o mundo antes fosse bom e saudável (alguém acha isso?) a essa altura a gente já devia ter como senso comum que a humanidade se transforma. Para que mundo queremos voltar? O do capitalismo fóssil que criou o desastre ecológico atual? O que resultou na Segunda Guerra Mundial ou aquele em que as crianças eram praticamente escravas na primeira revolução industrial?

A humanidade se transforma e essa talvez devesse ser a base da nossa busca de solução para o futuro: em que estamos nos transformando agora? Como podemos lidar com os desafios dessas mudanças? O que podemos controlar individualmente e coletivamente?

Atenção! Não estou dizendo que devemos ignorar o documentário! Ele traz uma visão da verdade que tem muita… errr… verdade 😉 No entanto temos que tomar cuidado com a forma como essas verdades são intercaladas com hipóteses mal construídas e dramatizações tão manipuladoras quanto qualquer algoritmo.

Pegue por exemplo a única pessoa invulnerável à distorção das mídias sociais: a personagem que simplesmente não se conecta. É como se as redes sociais tivessem o poder mágico de gerar dependência. E quem não se conecta também está exposto às influências criadas online.

É necessário entender que o vício em se conectar não é uma qualidade das redes, mas por uma carência nossa, de seres humanos que não estão conseguindo encontrar sentido na vida fora da aprovação dos outros, o que, aliás, é um fenômeno… centenário? Milenar? Pense nas propagandas dos anos 50, nos produtos que encantavam os nobres das cortes europeias.

Não adianta mudar as redes sociais, temos que mudar os humanos e isso não é uma utopia, é um processo em desenvolvimento. Hoje existe muito mais consciência de “ser versus ter” do que em décadas ou séculos anteriores. Temos séries de TV que refletem esse processo civilizatório como a utópica Star Trek, mas está presente em quase todas as séries e e histórias modernas de alguma forma indo de Sabrina a Hora da Aventura ou BoJack Horseman.

No entanto o que mais me incomoda no documentário é que ele parece ignorar todos os outros processos civilizatórios em curso, como se o reconhecimento da diversidade de gênero, da causas raciais, do aumento do hiato entre super ricos e todos nós, o desejo de mais autonomia para as diversas culturas e subculturas fossem apenas parte dos monstros que subiram das profundezas junto com o Cthulhu das redes sociais.

Pode parecer que estou sugerindo que o documentário é mais uma teoria da conspiração, mas não acho, o que penso é que ele é a manifestação do medo sincero de gente que participou da criação dos navios com que navegamos na Rede, mas que não entendem como e nem por que seus navios estão sendo usados para exterminar povos nativos de outros continentes. Eles não estão equipados para lidar com o desafio de entender a complexidade de uma civilização que vive o que talvez seja a maior quebra de paradigmas (sim, estamos quebrando muitos ao mesmo tempo) dos seus 300 mil anos de história. Nenhum de nós está, na verdade. Esse caminho precisa ser coletivo e multidisciplinar.

Photo by Hasan Almasi on Unsplash

Mais abaixo tem várias observações, mas tem dois vídeos curtos (porque vídeos muitas vezes são mais fáceis) para entender o efeito do Facebook (convenhamos que 90% desse documentário é sobre ele) do que o Dilema Social:

Outras vozes

• The Verge – What ‘The Social Dilemma’ misunderstands about social networks – (também no clipping) – Via Rafael Coimbra
• Sequência de Bruno Torturra no Twitter – via Normose
• Observações da Ivana Bentes sobre o documentário Dilema das Redes Sociais no Instagram (vídeo). Excelente.
• O hebdromedário 28 (mala direta) se incomodou com a idealização do passado como eu e destaca outros problemas.
• Como “hackear” o algoritmo. Post curto e certeiro da Lounge42 (Também no clipping para quem não tem conta no Facebook)

O vídeo abaixo começa com explicações técnicas úteis para quem estuda machine learning, mas desnecessárias para entender as observações que seguem, portanto programei para começar à partir do quinto minuto.

Ivana Bentes (pesquisadora acadêmica com ênfase no papel da comunicação e da produção audiovisual na cultura contemporânea) também falou sobre O Dilema das Redes. Ou bem vindos ao apocalipse digital no Instagram

Observações

Enquanto assistia o documentário fui anotando destaques e reflexões que podem não ficar muito claros fora do contexto, mas decidi manter a seguir.

• O negócio não é apenas prever, mas também influenciar o que desejamos, como desejamos e até como vemos o mundo. Não é sempre proposital, é um efeito colateral do comando dado à IA: atraia sua atenção, faça querer comprar.
• Quem faz um navio não é a melhor pessoa para entender a era das colonizações: Temos que buscar antropólogos e estudiosos da mente e da consciência humana.
• O documentário reproduz a estratégia das redes e das fakenews: apavore para atrair a atenção.
• Nós sempre fomos o produto. No final do século passado já existia data mining para prever os perfis de consumo e identificar em quais nos enquadramos sabendo dos nossos dados demográficos e hábitos de consumo. O que muda é a escala e as possibilidades ímpares de influência.
• Redes sociais não viciam, a necessidade de sentir segurança vicia. A segurança vem de sentimento de pertencimento, de realização… A pressão por essas novas necessidades “cognitivas” não é criação da Internet, é um efeito de uma sociedade em plena revolução estrutural a caminho de uma civilização apoiada em novos pilares que se tornam necessários conforme a ciência e a tecnologia nos colocam cada vez mais distantes da nossa natureza caçadora e coletora.
• O documentário faz parecer que cada indivíduo está sendo vigiado, o que é incorreto, mas serve bem ao papel de causar medo e reter atenção, estimular o compartilhamento com pessoas queridas que são levadas a entregar 1h30 da sua atenção.
• É útil pensar de que formas o documentário influenciará a maioria de nós. Não vamos deixar de transitar por redes sociais. Quem o assiste se torna mais resistente a pós-verdade? Menos vulnerável aos algoritmos? Qual é a agenda do documentário?
• As gigantes da Internet podem influenciar as pessoas no mundo real… Errr… Isso é evidente, a menos que existissem pessoas online que não existissem offline! Desde a primeira revolução industrial somos cada vez mais intensamente influenciadas por livros, filmes, desenhos e campanhas de marketing. Claro que a intensidade e precisão com que se pode fazer isso online é sufocante, mas é necessário entender a origem do fenômeno para tomar medidas que protejam as pessoas e, mais importante, até que ponto devemos ser protegidas. Não se trata de ética cibernética, se trata de ética para o sistema capitalista ou criação de um novo sistema que, sugiro, só pode ser desenvolvido partindo do atual e não substituindo-o por algo totalmente novo.
• “Mídias sociais não são ferramentas”. De fato. As mídias sociais são ambientes, são lugares de interação onde somos observadas, como éramos em supermercados, bares, lojas de departamentos e shopping centers. Ou seja, mais uma vez, muda a escala, principalmente da capacidade de influenciar o comportamento e consciência das pessoas, mas a origem está fora do ciberespaço, está em nossa natureza de máquinas meméticas que, da mesma forma que os organismos vivos servem aos genes egoístas, servem aos memes egoístas.
• Ao buscar o problema nos sintomas estamos fadados a não encontrar tratamentos.
• “A tecnologia se desenvolve exponencialmente enquanto nós não evoluímos nada”. Isso é um exagero. Nosso cérebro e nossa mente são capazes de se desenvolver sem ter que mudar fisicamente. Compare-se, por exemplo, a mente humana antes dos livros e depois deles, antes do cinema, da TV e da comunicação por satélites e depois. O que não quer dizer que não seja traumático, que não seja descontrolado, que seja uma adaptação ideal ou mesmo positiva.
• “Em certo ponto você acha que todos concordam com você porque é o que você vê no seu fluxo de novidades”… WRONG! A polarização se intensificou justamente porque o FB e outras redes rompem as bolhas pois medo e raiva causam mais engajamento do que a segurança! Como ainda podem insistir nesse erro? Antes das Redes sempre construímos nossas bolhas de segurança ao nosso redor.
• Pesquisar a crise de Myanmar – Entenda o conflito em torno dos rohingya em Myanmar, DW
• Os algoritmos não criam fakenews… Pessoas e grupos criam fakenews. Entender suas motivações é vital para entender as fakenews. Tem pessoas que as criam por prazer sádico, para se sentirem poderosas quando sua “trollagem” viraliza, as que querem influenciar a opinião pública (tema explorado por Ecco em Número Zero sem tocar na era cibernética).
• Hong Kong é um caso geopolítico em que o papel das mídias sociais é apenas coadjuvante. Recomendo o Xadrez Verbal: Hong Kong (principalmente segundo semestre de 2019);
• À altura de 1h10 de documentário percebi qual pode ser a agenda do documentário: “a humanidade não está vivendo uma profunda transição cultural, ela está sendo desestabilizada com o uso de redes sociais. Podemos voltar ao normal.” O documentário é reacionário, o que não seria um problema se vivêssemos um período de desestabilização como a que percebemos na Segunda Guerra Mundial (que pode ser uma percepção errada, mas cito aqui em seu senso comum, um desvio do normal ao qual voltamos depois). O que vivemos é profundo e não podemos voltar ao normal se quisermos seguir adiante. Vidas negras importam, as diversas expressões de sexualidade e gênero precisam ser respeitadas, as mulheres não podem atacadas pelo machismo, a concentração de renda junto com a exploração de grande parte da humanidade não pode continuar;
• “Se não podemos concordar sobre o que é verdade não podemos lidar com nenhum dos nossos problemas”. Mais uma vez, errado! E reforça a hipótese do viés reacionário do documentário. Há muitos séculos temos que entender a verdade como um alvo em movimento, um objetivo a ser perseguido, mas talvez nunca alcançado e a forma de persegui-lo é estudando as diversas visões da realidade com uma abordagem racional;
• “A tecnologia nos traz o pior que há na sociedade e o pior da sociedade é a ameaça existencial”. Novamente a ideia de que a tecnologia desestabiliza algo que funcionava, como um Cthulhu ou um demônio nos levando a comer a fruta proibida nos corrompendo. Isso dificilmente reflete a verdade, mas é a verdade em que o documentário quer que acreditemos;
• “A sociedade não é capaz de se curar sozinha”. Hummmm… Então alguém deve vir curá-la? Um mito? Um messias?
• O messias apresentado é o Estado através da regulamentação e de leis de proteção à privacidade e ao anonimato. Certo. São medidas a estudar e direitos de privacidade e anonimato são essenciais, mas tudo isso é contornável. A solução passa pela atuação da sociedade, através de uma democracia mais direta provavelmente, para construir uma consciência do nosso relacionamento com a produção, consumo e transmissão de informação e conhecimento assim como tivemos que aprender a viver entre milhões de outras pessoas quando evoluímos para viver em pequenas tribos com algumas centenas de pessoas;
• A IA deveria trabalhar com o objetivo de tornar o mundo melhor e não de extrair nossa atenção… Sim… O problema é que a nossa atenção vale dinheiro. Uma civilização com linhas de produção intensamente automatizadas e com renda mínima universal pode abrir mão desse modelo e esse talvez seja o nosso futuro, mas ainda é utópico. Precisamos de uma solução para agora. O que o documentário tem a sugerir além de uma IA vestida de ovelha?
• Não deixar as crianças terem acesso a mídias sociais… E como elas vão aprender a lidar com isso quando deixarem de ser crianças? Boa parte das pessoas enlouquecidas pelas mídias sociais já eram adultas quando elas surgiram. Contos de fadas preparavam as crianças, de uma forma distorcida, para lidar com a cruel realidade da vida adulta e o mesmo precisa ser feito com as crianças modernas.