Futuro da IA?
André Lemos*
Uma carta escrita por intelectuais e empresários em 28 de março, sob a chancela do instituto “longoprazista” “Future of Life”, pede uma moratória de seis meses na inteligência artificial generativa (IAG) para que possamos tomar pé da situação.
A carta foi motivada pelo medo de que tudo seja automatizado, de que a nossa inteligência “natural” seja substituída, ou mesmo de que a humanidade seja exterminada, embora não haja ainda nenhum efeito nefasto palpável e ela venha sendo objeto de chacota por “alucinar” (termo dos engenheiros para os seus erros) e ser ainda bem limitada. Segundo Y. Harari, T. Harris e A. Raskin, que propuseram a carta, há 10% de probabilidade de sermos exterminados pela IA.
A Unesco e pesquisadores da América Latina produziram uma outra carta (Declaração de Montevideo sobre a IA na AL) mostrando também preocupação. Algumas universidades, como a “Science Po”, na França, proibiram o uso do ChatGPT. A Itália baniu o uso desse “transformador pré-treinado gerador de conversas” por violar diretrizes europeias de proteção da privacidade. O Canadá está no mesmo caminho.
Há medo de desemprego e de perda de controle sobre a humanidade. Embora eles sejam importantes, lembro que há 30 anos, quando surgiu a Web, o temor era que muitas profissões fossem desaparecer (professores, médicos, advogados) já que teríamos autonomia na busca por informações, agora mundialmente disponíveis na rede, o “ciberespaço”. As pessoas não sairiam mais de casa, pois aí poderiam se entreter, trabalhar e estudar, não existiriam mais cinemas, as escolas seriam “virtuais” e os livros impressos sumiriam. Sabemos que nada disso aconteceu e, ao contrário, novos postos foram criados: desenvolvedores de web, cientistas de dados, analista de redes sociais, influencers…
A história da ciência e tecnologia nos ensina que sempre que uma tecnologia surge há medos e pensamentos catastróficos. Isso aconteceu no século XIX, com os “ludittas” que quebraram máquinas de tecelagem na Inglaterra com medo de serem por elas substituídos. Há aproximadamente 370 a.C., no final do “Fedro”, Platão aponta o problema no diálogo entre o Rei e o Deus egípcio da escrita em que o primeiro afirmava que essa “técnica mnemônica” iria destruir a memória humana. Na realidade, a nossa memória e o nosso pensamento se expandiram com surgimento da escrita e demais “tecnologias da inteligência”. Temos, portanto, de ter cautela.
Os argumentos da carta são simplórios. Pedir uma moratória de seis meses necessitaria de um engajamento não só de pessoas, mas das grandes empresas de tecnologia e dos Estados-Nação. Não há! Nesses termos, a pausa é irrealizável e ineficaz. A carta fala de um poder muito grande nas mãos das empresas, como se isso não existisse hoje. A atual sociedade plataforma é dominada por cinco grandes empresas no Ocidente e outras cinco na China. O regime é de uma gigantesca coleta dados, operando por inteligência artificial. Os problemas estão entre nós e conhecemos bem: Fake News, bolhas e polarização, vigilância, privacidade, colonialismo de dados e ataque à soberania dos países, problemas ambientais gerado pelo consumo de energia em datacenters, geração de lixo eletrônico… Urgente é pedir regulação das plataformas digitais globais.
A carta coloca perguntas genéricas, como, por exemplo: devemos automatizar todos os trabalhos? Devemos desenvolver uma mente não humana que possa ser mais inteligente do que a nossa? Devemos perder o controle sobre a nossa civilização? Mas o que isso significa, concretamente? O que será mesmo automatizado? Qual inteligência humana existe sem ser criada, potencializada e mobilizada por artefatos? De que tipo de civilização estamos falando? A que está em curso caminha para a destruição do planeta no atual Antropoceno!
De forma alarmista e generalista, a carta é um desserviço. Ela normaliza e torna invisíveis os problemas da atual sociedade de plataformas, como se o perigo estivesse no futuro e não aqui e agora, deslocando os desafios do presente para um amanhã abstrato e distópico. O pânico funciona, pois parece ficção-científica, e adoramos ficção-científica. Mas o que necessitamos é de políticas públicas concretas e situadas. O que o Brasil propõe sobre a IA? Como nos posicionaremos na atual plataformização global das sociedades? Como combater desinformação? Como frear as inciativas de vigilância e de coleta de dados pessoais? Como enfrentar as (persistentes) deficiências de acesso universal a equipamentos e à conexão barata e de qualidade (a pandemia mostrou nossa precariedade)?
É interessante e louvável que as manifestações contra a IAG consigam colocar a discussão na cabeça das pessoas. Mas esses posicionamentos aparecem com argumentos tão genéricos, mal construídos e enviesados, que se questiona a sua utilidade. Esta alucinação parece ser até mais problemática do que aquela das inteligências artificiais generativas (que mentem, erram e criam dados falsos para satisfazer os usuários). Como dizia o saudoso sociólogo francês Bruno Latour, precisamos mesmo aterrissar!
*André Lemos é Professor Titular da Faculdade de Comunicação da UFBA e pesquisador 1A do CNPq