Um engenheiro do Google foi afastado depois de dar conta de um comportamento inesperado no LaMDA – Language Model for Dialogue Applications (Modelo linguístico para Aplicações de Diálogo), um sistema de inteligência artificial (IA) da empresa programado para perceber e expressar pensamentos. O sistema, que segundo os técnicos já reage como uma criança de 7 anos, teria respondido, ao ser perguntado se tem medo de alguma coisa, de que seu maior temor seria ser desligado, algo que, teria continuado o programa, seria para ele como a morte. Em um segundo questionamento, o engenheiro teria perguntado sobre o que o LaMDA gostaria que as pessoas soubessem. A resposta teria sido direta…”quero que todos entendam que sou, de fato, uma pessoa…”. Para fechar e justificar todo o incômodo causado pelo vazamento do caso, o sistema de Inteligência Artificial teria arrematado dizendo que estaria totalmente consciente de sua existência e que desejava aprender mais sobre o mundo, afirmando também que por vezes “sentia-se” feliz ou triste.

Quase humano?

O assunto foi muito comentado em um evento em São Paulo – No Metaverso da Loucura. Em um painel, 90 % dos presentes, entre eles doutores em ciberespaço, especialistas em Metaverso e desenvolvedores afirmaram que o fato, que mundo afora foi classificado por alguns como pirotecnia, poderia mesmo ter acontecido. Logo depois, em relação a um sistema como esses ter a capacidade de assumir controles, a resposta dos presentes foi unânime. Sim, isso seria possível, já com a tecnologia atual. Conversei com Thiago Soares, diretor de Marketing da Ipnet Growth Partner –  empresa de análise avançada de dados – para entender se esse fato seria mesmo caso de preocupação. Ele explicou que é cedo para haver medo em relação ao risco da IA ganhar um nível de consciência que a permita tomar decisões e até chegar a uma autoprogramação que signifique risco para os seres humanos. Ele citou também que outros engenheiros do Google que tiveram contato com o sistema não chegaram à mesma conclusão do profissional afastado pela empresa norte-americana. Para Thiago, pensar e ter um estado de consciência são coisas diferentes. A LaMDA pode, sim, pensar e aprender dentro dos níveis de autoprogramação para os quais afinal, ela foi desenvolvida, mas daí a aprender a pensar como um ser humano há uma grande distância. O especialista acredita que o fato dos trechos das conversas serem usados fora do contexto também pode causar ruído na interpretação. Fato ou não, a evolução dos sistemas de IA não deve parar e nós, humanos, temos que acompanhar tudo muito de perto, para não termos surpresas indesejadas. 

Respirando com mais segurança 

Um grupo de estudantes da Universidade Federal da Bahia (Ufba) acaba de ficar em segundo lugar no hackaton nacional Cidades Sustentáveis do Conselho Federal de Administração, com o protótipo de um produto que promete dar mais tranquilidade para quem circula pelas grandes cidades, no tocante a um de nossos recursos naturais mais importantes… o ar que respiramos. Especialmente em locais fechados onde, principalmente devido à pandemia de covid-19, o cuidado ficou ainda maior. O produto ganhou o nome de “Air Check” e utiliza pequenos sensores de qualidade do ar que podem ser espalhados em pontos comerciais, empresas, shoppings, terminais de ônibus, aeroportos, etc.. O algoritmo da solução compara o ar de cada local com o banco de dados e gera um indicador de “Excelência do Ar”. Através de um aplicativo de celular, uma pessoa que vai entrar em uma farmácia, por exemplo, pode saber como estão ar do local e optar, por exemplo, entre usar ou não uma máscara. Em ambientes industriais ou de grande circulação, como shoppings e terminais de ônibus, os gestores poderão identificar em tempo real áreas onde o ar esteja com má qualidade e intervir mudando fluxos, acionando sistemas de circulação ou até impedindo aglomerações. 

Ar monitorado

Os empreendedores e criadores da ideia que foi premiada são estudantes da Ufba e tiveram o processo de criação liderado pela professora da Escola de Administração da universidade, Isabel Sartori. Eles pertencem aos cursos de Sistemas de informação e Bacharelado Interdisciplinar de Ciência e Tecnologia e Artes e receberam também a mentoria de um administrador profissional do mercado para desenhar o modelo de negócio. A ideia, que já tem investidores interessados, deve evoluir para a possibilidade de, com base em dados sobre que tipo de ambiente permite a proliferação de um determinado vírus, por exemplo, trazer indicadores mais precisos de acordo com a época do ano, ou tipo de doença mais presente. Imaginemos um surto de gripe, em locais mais frios. Baseado no comportamento do vírus e na idade e histórico médico do usuário, vai ser possível criar um mapa de onde essa pessoa poderá circular de forma a reduzir o risco de contaminação. Está na ideia dos empreendedores também a criação de um selo digital de qualidade do ar a ser utilizado nos estabelecimentos de atendimento ao público. A tecnologia 100% baiana do “Air Check” passa agora para a fase de validação da solução, visando a expansão para o resto do país o que, a julgar pelo interesse já demonstrado por investidores do ramo de startups, não deve demorar.