Confessando-se utilizador nativo da IA, e portanto não um anti-tecnólogo ou um retrógrado, o que ele faz é analisar a influência dos algoritmos nas redes sociais sobre o espaço público, os factos, aquilo que dantes todos tínhamos acesso, embora com interpretações diferentes, e ideologias diferentes.
E o que ele mostra é que, dado que os algoritmos (de apresentação de notícas, vulgo conteúdos) foram desenhados para maximizar a atenção e a dependência dos leitores (mais cliques), as pessoas recebem só os conteúdos que reforçam as suas opiniões, e os conteúdos que os fazem odiar/desprezar/ridicularizar os seus "inimigos". O que leva diretamente à simplificação dos discuros e à radicalização. (Como ele demonstra com imensos exemplos bem urdidos ao longo das 443 páginas (!) do livro.)
É muito importante salientar que isto não é dizer que há uma conspiração por detrás das redes sociais, ou que "alguém" está conscientemente a usar os nossos dados para isto ou para aquilo. Não, isto é uma consequência lógica de como os algoritmos funcionam e do facto de terem uma miríade de informações de todo o tipo sobre nós. (Onde estamos, a que horas vemos televisão, o que compramos, quando fazemos chamadas, com quem trocamos mails, etc. etc etc.)
Ele conta como este tipo de bolhas criadas por uma injeção de conteúdos verdadeiramente personalizados faz com que todos vivamos em bolhas das quais não temos consciência (afinal de contas, pensamos que estamos a escolher os conteúdos em que clicamos! Como se pudéssemos saber que (milhões de ) outros não nos foram mostrados!)
E reparem que esta chamada de atenção vem de um homem do CDS, a favor do mercado e do capitalismo, e fã confesso da Margaret Thatcher:
"Quando demasiado poder se concentra num só lugar, a liberdade fica em risco. [...] Se hoje esse poder se manifesta em algoritmos capazes de condicionar atenção, opinião e até decisão política, então preservar a liberdade significa também encontrar modos de regular esse poder privado.
[...] Na vida física, aceitamos com naturalidade que certas regras são necessárias para garantir a liberdade de todos. [...]
Contudo, por alguma razão, quando passamos ao domínio digital, esta lógica parece evaporar-se. Muitos que reconhecem a necessidade destas salvaguardas no mundo físico torcem o nariz a medidas equivalentes para o espaço digital. Porém, se aceitamos que uma empresa de automóveis não pode vender carros sem travões, porque aceitamos que uma empresa digital possa vender um feed sem travões, concebido apenas para maximizar cliques?" (p. 426) [Eu aqui diria que a palavra vender foi mal escolhida, eles oferecem, e isso é capaz de ser uma razão para as pessoas não perceberem.]
E um pouco mais à frente:
"Acreditamos mesmo que uma democracia possa viver assim -- entregue apenas à boa vontade de meia dúzia de empresas privadas? Aceitamos que interfiram tão profundamente no debate público? Que pressionem as instituições políticas? Que configurem a nossa memória colectiva? Estamos disponíveis para partilhar com as empresas -- com alguém, sequer -- a soberania do nosso pensamento e a autonomia das nossas tomadas de decisão? Se não aceitamos isso de ninguém, se não aceitamos isso do Estado, por que razão havemos de o aceitar das plataformas digitais, por mais úteis que nos pareçam ou por mais simpatia que nos mereçam?" (p. 428)
Não vou citar mais, mas parece-me que os perigos do que ele chama algoritmocracia estão muito bem descritos. E ainda por cima, coisa rara e inesperada, até tem algumas sugestões de como a contrariar, que me parecem muito sensatas. (Leiam o livro!)
Mas o mais importante, e como ele diz, é o objetivo principal do livro, é iniciar uma discussão sobre o que nos está a acontecer a todos (a todas as sociedades) antes que seja tarde demais.
Este livro fez-me compreender o que se passa com os cheganos e outros (aparentemente) débeis mentais, e perceber que o importante é não ficar na nossa bolha, aceitar um espaço comum em vez de demonizar.
E o autor é pródigo em exemplos tirados da sua própria experiência pessoal como político, em que por exemplo foi aconselhado a não falar do papa Francisco... porque estava conotado com a esquerda! Ou seja, falar e admirar e admitir no debate pessoas de outras correntes, devido à simplificação e à demonização dos outros grupos, é cada vez mais difícil. Os moderados, os que dizem "por um lado, ... por outro..." ou "tentemos compreender", são vistos como fracos. A violência, primeiro verbal, depois comportamental, é o resultado.
Bem, o livro abriu-me os olhos para muita coisa em que eu não tinha pensado, fez-me compreender melhor a razão de ser de tantos comportamentos que até agora apenas me desesperavam e os quais não compreendia de todo, e penso que se a maior parte das pessoas se consciencializar de que está a ser manipulada por algoritmos (que não são maldosos, são apenas demasiado eficientes) e parar para pensar -- e falar com o colega do lado em vez de o apelidar de racista, ou machista, ou woke, ou comunista -- talvez se consiga inverter o caminho pelo qual esta sociedade vai.
Como diz Adolfo Mesquita Nunes, a quem tiro o meu chapéu, "a Inteligência Artificial [no seu uso nas plataformas digitais, adição minha] levanta um desafio enorme à democracia, e [] não podemos ignorá-lo."
Há muito tempo que não lia um livro tão esclarecedor, ainda por cima escrito por um portuguẽs (mas vejam o meu próximo blogue :). Só espero que seja traduzido em muitas línguas, porque merece absolutamente! O único senão é que é talvez um pouco palavroso, talvez dê exemplos a mais e se repita por vezes, mas isso talvez também venha da estrutura retórica original que usou: é como se estivesse a toda a hora a debater contra o seu alter ego, e tem centenas de subsecções formuladas como perguntas, ou como afirmações que ele depois rebate. Por exemplo: "Os algoritmos mentem?", "Essas mentiras são fáceis de desmontar", "Se a mentira é algo errado, porque é que não penalizamos a mentira em política?", "Se ninguém está ao leme, é porque ninguém nos está a controlar", etc etc (são mais de cem). Eu confesso que o li de fio a pavio, mas talvez ajude os que já não conseguem ler um livro deste tamanho.
