Os algoritmos que controlam o fluxo de notícias e conteúdo que encontramos ao navegar na Internet ou interagir em redes sociais são um grande perigo tanto para você que lê este post quanto para a sociedade e até nossa civilização e a sustentabilidade da vida na Terra como sugere o documentário O Dilema das Redes disponível na Netflix.

Mas…

Será que o estado de conflito em que o mundo moderno vive é porque as mídias sociais são um tipo de Cthulhu arrancando violentamente de nós o que há de pior na humanidade? Um suposto pecado original?

Não! O documentário não tem um tom nada religioso, mas é a linguagem, a forma de comunicação escolhida que me perturbaram desde o princípio me lembrando de filmes como O Segredo e Deus Não Está Morto.

O assunto: a influência da nossa forma de ver o mundo, nossa capacidade de discutir nossas diferentes visões da realidade, a disputa predatória pelo nosso tempo de vida; é sério demais para que apelemos para estratégias de apelo emocional e falácias para… bem… arrancar mais um pouco do nosso tempo de vida e influenciar nossa visão do mundo.

Apesar de trazer entrevistados com uma aparente diversidade de opiniões acabamos sendo apresentados a uma visão comum da realidade que, se não é compartilhada pelos entrevistados, fica clara, mas quase subliminarmente, para quem assiste:

A ordem da sociedade está sendo pervertida e deteriorada pelas redes sociais (e algoritmos de filtro e recomendação de conteúdo) e temos que controlar esse monstro que hoje é controlado por “eles”.

Apesar de, no final, serem apresentadas várias soluções para o problema que parecem progressistas, a obra como um todo é reacionária e parece querer voltar ao mundo normal e bom de antes.

Ainda que o mundo antes fosse bom e saudável (alguém acha isso?) a essa altura a gente já devia ter como senso comum que a humanidade se transforma. Para que mundo queremos voltar? O do capitalismo fóssil que criou o desastre ecológico atual? O que resultou na Segunda Guerra Mundial ou aquele em que as crianças eram praticamente escravas na primeira revolução industrial?

A humanidade se transforma e essa talvez devesse ser a base da nossa busca de solução para o futuro: em que estamos nos transformando agora? Como podemos lidar com os desafios dessas mudanças? O que podemos controlar individualmente e coletivamente?

Atenção! Não estou dizendo que devemos ignorar o documentário! Ele traz uma visão da verdade que tem muita… errr… verdade 😉 No entanto temos que tomar cuidado com a forma como essas verdades são intercaladas com hipóteses mal construídas e dramatizações tão manipuladoras quanto qualquer algoritmo.

Pegue por exemplo a única pessoa invulnerável à distorção das mídias sociais: a personagem que simplesmente não se conecta. É como se as redes sociais tivessem o poder mágico de gerar dependência.

É necessário entender que o vício em se conectar não é por uma qualidade das redes, mas por uma carência nossa, de seres humanos que não estão conseguindo encontrar sentido na vida fora da aprovação dos outros, o que, aliás, é um fenômeno… centenário? Milenar? Pense nas propagandas dos anos 50, nos produtos que encantavam os nobres das cortes europeias.

Não adianta mudar as redes sociais, temos que mudar os humanos e isso não é uma utopia, é um processo em desenvolvimento. Hoje existe muito mais consciência de “ser versus ter” do que em décadas ou séculos anteriores. Temos séries de TV que refletem esse processo civilizatório como a utópica Star Trek, mas está presente em quase todas as séries e e histórias modernas de alguma forma indo de Sabrina a Hora da Aventura ou BoJack Horseman.

No entanto o que mais me incomoda no documentário é que ele parece ignorar todos os outros processos civilizatórios em curso, como se o reconhecimento da diversidade de gênero, da causas raciais, do aumento do hiato entre super ricos e todos nós, o desejo de mais autonomia para as diversas culturas e subculturas fossem apenas parte dos monstros que subiram das profundezas junto com o Cthulhu das redes sociais.

Pode parecer que estou sugerindo que o documentário é mais uma teoria da conspiração, mas não acho, o que penso é que ele é a manifestação do medo sincero de gente que participou da criação dos navios com que navegamos na Rede, mas que não entendem como e nem por que seus navios estão sendo usados para exterminar povos nativos de outros continentes. Eles não estão equipados para lidar com o desafio de entender a complexidade de uma civilização que vive o que talvez seja a maior quebra de paradigmas (sim, estamos quebrando muitos ao mesmo tempo) dos eus 300 mil anos de história. Nenhum de nós está, na verdade. Esse caminho precisa ser coletivo e multidisciplinar.

Photo by Hasan Almasi on Unsplash

Mais abaixo tem várias observações, mas tem dois vídeos curtos que são muitas vezes mais úteis para entender o efeito do Facebook (convenhamos que 90% desse documentário é sobre ele) do que o Dilema Social:

Outras vozes

Como e quão profundamente o FB te conhece?

O vídeo abaixo começa com explicações técnicas úteis para quem estuda machine learning, mas desnecessárias para entender as observações que seguem, portanto programei para começar à partir do quinto minuto.

Especialista em aprendizado de máquina explica pq o FB alimenta o ódio
O Dilema das Redes é um dilema da sociedade – Ivana Bentes

Observações

Enquanto assistia o documentário fui anotando destaques e reflexões que podem não ficar muito claros fora do contexto, mas decidi manter a seguir.

  • O negócio não é apenas prever, mas também influenciar o que desejamos, como desejamos e até como vemos o mundo. Não é consciente, é um efeito colateral do comando dado à IA: atraia sua atenção, faça querer comprar.
  • Quem faz um navio não é a melhor pessoa para entender a era das colonizações: Temos que buscar antropólogos e estudiosos da mente e da consciência humana.
  • O documentário reproduz a estratégia das redes e das fakenews: apavore para atrair a atenção.
  • Nós sempre fomos o produto. No final do século passado já existia data mining para prever os perfis de consumo e identificar em quais nos enquadramos sabendo dos nossos dados demográficos e hábitos de consumo. O que muda é a escala e as possibilidades ímpares de influência.
  • Redes sociais não viciam, a necessidade de sentir segurança vicia. A segurança vem de sentimento de pertencimento, de realização… A pressão por essas novas necessidades “cognitivas” não é criação da Internet, é um efeito de uma sociedade em plena revolução estrutural a caminho de uma civilização apoiada novos pilares que se tornam necessários conforme a ciência e a tecnologia nos coloca cada vez mais distantes da nossa natureza caçadora e coletora.
  • O documentário faz parecer que cada indivíduo está sendo vigiado, o que é incorreto, mas serve bem ao papel de causar medo e reter atenção, estimular o compartilhamento com pessoas queridas que são levadas a entregar 1h30 da sua atenção.
  • É útil pensar de que formas o documentário influenciará a maioria de nós. Não vamos deixar de transitar por redes sociais. Quem o assiste se torna mais resistente a pós-verdade? Menos vulnerável aos algoritmos? Qual é a agenda do documentário?
  • As gigantes da Internet podem influenciar as pessoas no mundo real… Errr… Isso é evidente, a menos que tivessem pessoas online que não existissem offline! Desde a primeira revolução industrial somos cada vez mais intensamente influenciadas por livros, filmes, desenhos e campanhas de marketing. Claro que a intensidade e precisão com que se pode fazer isso online é sufocante, mas é necessário entender a origem do fenômeno para tomar medidas que protejam as pessoas e, mais importante, até que ponto devemos ser protegidos. Não se trata de ética cibernética, se trata de ética para o sistema capitalista ou criação de um novo sistema que, sugiro, só pode ser desenvolvido partindo dele e não substituindo por algo totalmente novo.
  • “Mídias sociais não são ferramentas”. De fato. As mídias sociais são ambientes, são lugares de interação onde somos observadas, como éramos em supermercados, bares, lojas de departamentos e shopping centers. Ou seja, mais uma vez, muda a escala, principalmente da capacidade de influenciar o comportamento e consciência das pessoas, mas a origem está fora do ciberspaço, está em nossa natureza de máquinas meméticas que, da mesma forma que os organismos vivos servem aos genes egoístas, servem aos memes egoístas.
  • Ao buscar o problema nos sintomas estamos fadados a não encontrar tratamentos.
  • “A tecnologia se desenvolve exponencialmente enquanto nós não evoluímos nada”. Isso é um exagero. Nosso cérebro e nossa mente são capazes de se desenvolver sem ter que mudar fisicamente. Compare-se, por exemplo, a mente humana antes dos livros e depois deles, antes do cinema, da TV e da comunicação por satélites e depois. O que não quer dizer que não seja traumático, que não seja descontrolado, que seja uma adaptação ideal ou mesmo positiva.
  • “Em certo ponto você acha que todos concordam com você porque é o que você vê no seu fluxo de novidades”… WRONG! A polarização se intensificou justamente porque o FB e outras redes rompem as bolhas pois o medo causa mais engajamento do que a segurança! Como ainda podem insistir nesse erro? Antes das Redes sempre construímos nossas bolhas de segurança ao nosso redor.
  • Pesquisar a crise de Myanmar – Entenda o conflito em torno dos rohingya em Myanmar, DW
  • Os algoritmos não criam fakenews… Pessoas e grupos criam fakenews. Entender suas motivações é vital para entender as fakenews. Tem os que as criam por prazer sádico, para se sentirem poderosas quando sua “trollagem” viraliza, as que querem influenciar a opinião pública (tema explorado por Ecco em Número Zero sem tocar na era cibernética).
  • Hong Kong é um caso geopolítico em que o papel das mídias sociais é apenas coadjuvante. Recomendo o Xadrez Verbal: Hong Kong (principalmente segundo semestre de 2019);
  • À altura de 1h10 de documentário percebi qual pode ser a agenda do documentário: “a humanidade não está vivendo uma profunda transição cultural, ela está sendo desestabilizada com o uso de redes sociais. Podemos voltar ao normal.” O documentário é reacionário, o que não seria um problema se vivêssemos um período de desestabilização como a que percebemos na Segunda Guerra Mundial (que pode ser uma percepção errada, mas cito aqui em seu senso comum, um desvio do normal ao qual voltamos depois). O que vivemos é profundo e não podemos voltar ao normal se quisermos seguir adiante. Vidas negras importam, as diversas expressões de sexualidade e gênero precisam ser respeitadas, as mulheres não podem atacadas pelo machismo, a concentração de renda junto com a exploração de grande parte da humanidade não pode continuar;
  • “Se não podemos concordar sobre o que é verdade não podemos lidar com nenhum dos nossos problemas”. Mais uma vez, errado! E reforça a hipótese do viés reacionário do documentário. Há muitos séculos temos que entender a verdade como um alvo em movimento, um objetivo a ser perseguido, mas talvez nunca alcançado e a forma de persegui-lo é estudando as diversas visões da realidade com uma abordagem racional;
  • “A tecnologia nos traz o pior que há na sociedade e o pior da sociedade é a ameaça existencial”. Novamente a ideia de que a tecnologia desestabiliza algo que funcionava, como um Cthulhu ou um demônio nos levando a comer a fruta proibida nos corrompendo. Isso dificilmente reflete a verdade, mas é a verdade em que o documentário quer que acreditemos;
  • “A sociedade não é capaz de se curar sozinha”. Hummmm… Então alguém deve vir curá-la? Um mito? Um messias?
  • O messias apresentado é o Estado através da regulamentação e de leis de proteção à privacidade e ao anonimato. Certo. São medidas a estudar e direitos de privacidade e anonimato são essenciais, mas tudo isso é contornável. A solução passa pela atuação da sociedade, através de uma democracia mais direta provavelmente, para construir uma consciência do nosso relacionamento com a produção, consumo e transmissão de informação e conhecimento assim como tivemos que aprender a viver entre milhões de outras pessoas quando evoluímos para viver em pequenas tribos com algumas centenas de pessoas;
  • A IA deveria trabalhar com o objetivo de tornar o mundo melhor e não de extrair nossa atenção… Sim… O problema é que a nossa atenção vale dinheiro. Em uma civilização com lnhas de produção intensamente automatizadas e com renda mínima universal pode abrir mão desse modelo e esse talvez seja o nosso futuro, mas ainda é utópico. Precisamos de uma solução para agora. O que o documentário tem a sugerir além de uma IA vestida de branco?
  • Não deixar as crianças terem acesso a mídias sociais… E como elas vão aprender a lidar com isso quando deixarem de ser crianças? A maioria das pessoas enlouquecidas pelas mídias sociais já eram adultas quando elas surgiram. Contos de fadas preparavam as crianças, de uma forma distorcida, para lidar com a cruel realidade da vida adulta e o mesmo precisa ser feito com as crianças modernas.

Pin It on Pinterest

Share This

Compartilhe!

Mande para suas redes sociais