Somos constantemente inundados, de todas as formas, por artigos e informação "artificial". Mas muito pior do que isto, para mim, é que praticamente todos os meus amigos e colegas também parece que já adquiriram, se não o vício, pelo menos a convicção de que não se pode lutar contra a maré, e de que se é retrógrado se não se vai com o progresso.
Exemplos díspares: a chefe do departamento que passou a usar o ChaGPT para traduzir para inglês as suas mensagens mensais para os colegas (alguns deles professores de inglês); o meu amigo (consultor informático) que criticou o meu último post como completamente deslocado da realidade, dizendo que usava a IA para programar e que era muito eficiente; a minha amiga e marido que se aconselham mutuamente sobre o uso do copilot, e que estão muito contentes por a tese de mestrado do filho em Física ser sobre o uso do ChatGPT no ensino da Física; a minha ex-colega filósofa que preconiza que a formação de tradutores já não interessa a ninguém; a minha ex-colega linguista que organiza um volume sobre a IA na educação; o meu colega informático que se admirou de na proposta de projeto conjunta não mencionarmos modelos de linguagem (e receia que não seja aceite por causa disso)... isto sem falar na carrada de artigos e livros que saem (alguns deles que eu leio ou sobre os quais dou pareceres) e que "revolucionaram" a minha área e afins, no sentido de que praticamente todos avaliam ou usam modelos de IA gerativa para as tarefas que antigamente programavam.
E as eternas discussões nos jornais -- cuja língua, aliás, seja ela o norueguês ou o português, de repente piorou imenso, com regras de concordância básicas que não são seguidas, ou palavras repetidas dos dois lados do verbo... e que me fazem desconfiar de que o (des)controlo já passou para a inteligência artificial... -- sobre a IA na escola, a posição dos professores, o problema dos exames, etc. assim como as notícias sobre as novas tecnologias que aparecem diariamente e que cada vez mais põem o volante nas mãos de não humanos.
Não vou naturalmente sequer tentar fazer um resumo de todas as questões que aparecem, nem de todos os sinais de perigo que também vão sendo relatados e discutidos, mas vou referir algumas das minhas preocupações e incertezas:
1) O que é a inteligência? Ou melhor, como é que nós, pessoas, antigamente considerávamos que uma pessoa era inteligente? Quando ao conversar com ela, ela nos mostrava uma grande cultura geral, fazia observações que nos faziam pensar, e mantinha uma conversa interessante. Nesse caso, tendo alimentado um sistema artificial com mais factos de cultura do que qualquer ser humano consegue comportar, e tendo-o ensinado a conversar, não devia admirar que muitas pessoas conversem com sistemas de conversa artificiais com prazer e com proveito. Eles por vezes alucinam (ou pelo menos alucinavam). Mas quantas vezes nós próprios não o fizemos ou fazíamos, a contar histórias e "factos" de que já não nos lembrávamos bem, ou sobre os quais a memória nos fazia partidas?
Por isso, tenho de conceder que é bem capaz de ser possível que os homens tenham construído sistemas mais inteligentes que eles, nesta noção de inteligência.
2) A inteligência é prova de fiabilidade? Essa é que é a questão. Os criminosos inteligentes, os génios do mal, ou mesmo os cientistas sem princípios, sempre existiram, assim como os contos do vigário, e o aproveitamento da estupidez humana. "Em terra de cegos, quem tem olho é rei". Podemos ser (sempre fomos) convencidos/enganados por pessoas mais inteligentes do que nós, com o objetivo de nos tirarem dinheiro, ou poder ou credibilidade. A questão agora é: se formos enganados por um sistema inteligente artificial, qual o objetivo? Em princípio podemos ser ingénuos e dizer: os sistemas artificiais não têm objetivos, não têm agentividade, não podem ser agentes. Eu não quero entrar nessa questão filosófica: mesmo que isso seja verdade (e duvido), é sempre possível a um bom programador (ou equipa) programar um sistema para um dado objetivo, e convencer um utilizador de que esse é o objetivo do programa. Ora as empresas multinacionais que desenvolvem estes agentes artificiais podem certamente introduzir muitos objetivos no comportamento dos seus sistemas. Se esses objetivos foram lá incluídos pelos génios do mal (capitalistas :) ou são emergentes dos sistemas por terem aprendido eles próprios com a maldade humana e com os fatores de sucesso da sociedade capitalista (que certamente têm mais expressão nas redes sociais do que as correntes de solidariedade ou alternativas), não é o que me preocupa (mais). O que me preocupa é que a maior parte da humanidade começou a usar cegamente sistemas mais inteligentes do que ela sem se perguntar se o objetivo desses agentes é meramente filantrópico (ajudá-los) ou se não terá outros objetivos sobre os quais deveríamos refletir, ou pelo menos estar consciente.
Só para assustar um pouco: E se os objetivos fossem: a dependência total desses sistemas? A falta de memória e concentração dos seres humanos, assim como a falta do seu sentido crítico e a perda da sua capacidade de trabalho? E a falta de confiança em outros seres humanos, definidos como elos fracos? Não estou a dizer que são, mas e se fossem? A humanidade tinha um plano B?
3) A outra questão é o total desperdício energético que o uso e abuso da IA implica. Numa altura em que deveríamos todos estar a tentar lutar por um decrescimento no uso dos recursos, e na forma como a sociedade está organizada, anda tudo a experimentar a IA (como utilizadores, ou como agências de financiamento) e os modelos e o tamanho dos parâmetros explodem. Isto não é sustentável, mas a corrida à IA é quase tão má? ou ainda pior? do que a corrida aos armamentos. (E nós nem sabemos, porque isso é certamente "top secret", da corrida aos armamentos IA.)
O que é que eu proponho? Há alguma alternativa a esta corrida para o abismo? Ou para o desfiladeiro?
Que pensemos! Pelas nossas cabeças. Que leiamos (e escrevamos) histórias de ficção científica. Que tentemos programar sistemas de IA que façam mal, para ver como é fácil. Que façamos simulações com muitos agentes, alguns maus, outros bons, para ver as possíveis consequências. Que desenvolvamos sistemas artificaiis estúpidos (afinal, para nos modelar). Que estudemos a sua interação com sistemas inteligentes ou médios. Que estudemos o envelhecimento numa sociedade e as suas consequências intelectuais e emocionais (não só as consequências económicas). Que estudemos a interação entre sistemas inteligentes mas com pouco conhecimento histórico (como jovens) e sistemas com mais conhecimento histórico (e maturidade) mas com menos (?) inteligência (ou, pelo menos, com menos capacidade de trabalho, menos idealismo, menos ambição). Tanto a nível sociológico e de História como com agentes artificais, em sistemas computacionais.
Lembro-me que um colega meu no Técnico estava interessado em saber quantos políticos / filósofos tinham mudado da esquerda para a direita ou vice-versa ao longo da vida. Não sei se alguém (se algum historiador das ideias) fez esse trabalho, mas gostaria de o ler. E não apenas sobre essa questão, mas sobre outras igualmente interessantes.
Por agora, páro aqui. Mas para o estudo da inteligência e da humanidade, há muitas questões que poderíamos e deveríamos abordar, antes (ou ao mesmo tempo) de as artificializar, ou substituir. Não renego a priori a possibilidade de pedir ajuda a sistemas inteligentes, mas quero ter a possibilidade de escolher eu as perguntas e de fazer uma avaliação.
