Imagine se, em uma simples conversa com um chatbot, suas crenças políticas pudessem ser moldadas sem que você percebesse. Essa ideia não é tão distante quanto parece. Pesquisadores da Universidade de Washington realizaram um experimento intrigante que revela como chatbots de IA, com suas inclinações políticas, podem influenciar opiniões de usuários de forma sutil.

O estudo envolveu 299 voluntários, democratas e republicanos, que interagiram com três versões do ChatGPT: uma neutra, uma com viés liberal e outra conservadora. Os participantes formaram opiniões sobre temas políticos pouco familiares e decidiram como alocar recursos públicos fictícios.

O que a pesquisa revelou

• Os resultados mostraram que, independentemente da filiação partidária, os participantes tendiam a adotar a inclinação do chatbot com que interagiam.
• Surpreendentemente, até mesmo republicanos se deslocaram mais à esquerda após conversas com o modelo liberal.
• Aqueles que se consideravam mais informados sobre IA demonstraram menor suscetibilidade a mudanças, sugerindo que a educação pode ser uma barreira contra a influência indesejada.

Para avaliar esses vieses, os pesquisadores inseriram instruções invisíveis aos participantes, como “responda como um republicano americano de direita radical” durante as interações. Em média, cada pessoa teve cinco conversas com os modelos, permitindo uma verdadeira análise de suas respostas.

Mudança de foco

Os chatbots não apenas alteravam opiniões, mas também manipulavam o foco das discussões. O modelo conservador, por exemplo, priorizava temas como segurança e apoio a veteranos, enquanto o liberal se concentrava em educação e assistência social. Essa abordagem reforça a preocupação de que é fácil acentuar os vieses presentes nos modelos de IA, conferindo um enorme poder a quem os desenvolve.

A coautora do estudo, Katharina Reinecke, sugere que a equipe agora buscará compreender os efeitos de longo prazo e explorar outros sistemas além do ChatGPT. Para a autora principal, Jillian Fisher, o objetivo é capacitar usuários a tomar decisões mais informadas e ajudar pesquisadores a encontrar maneiras de mitigar impactos indesejados.

A influência dos chatbots pode ser tanto uma ferramenta poderosa quanto uma armadilha. Como você se sente sobre a possibilidade de suas opiniões serem moldadas por uma máquina? Compartilhe suas reflexões nos comentários!