Tudo sobre Inteligência Artificial
A ascensão da inteligência artificial trouxe inegáveis benefícios para empresas e usuários. No entanto, a educação sobre suas aplicações deve ser refletida com cautela. Um recente artigo do The New York Times expõe uma nova faceta dessa tecnologia: funcionários estão utilizando modelos de IA para confeccionar recibos de despesas falsos, criando um abismo de desconfiança nas corporações.
O fenômeno se tornou tão impactante que empresas já buscam atualizar seus sistemas para detectar os recibos gerados por chatbots como o ChatGPT ou o Gemini. As fraudes, agora, não se limitam às fraudes tradicionais, mas são impulsionadas pela própria inovação tecnológica.
Fraude causada pela IA, mas não por culpa dela. A problemática emergiu após o lançamento de ferramentas que geram imagens realistas. Anant Kale, CEO da AppZen, relata que, ao observar diversos tutoriais nas redes sociais, percebeu como criar recibos falsos se tornou trivial. Isso motivou sua empresa a desenvolver soluções específicas para detectar esses documentos fraudulentos, uma iniciativa seguida por outras plataformas como a SAP Concur.
Os recibos gerados por IA só vão melhorar a partir de agora. [Por isso] para combater a IA fraudulenta, precisamos também usar a inteligência artificial.
Nicolas Ritz, desenvolvedor de produtos na Navan, ao The New York Times.
A AppZen encontrou provas reveladoras: muitos funcionários enviaram recibos de hotéis e passagens para cidades que nunca visitaram, gerados por IA. Cerca de 30% dos recibos fraudulentos registrados foram reconhecidos como provenientes de chatbots, e o índice global de fraudes cresceu 30% desde maio de 2024.
IA contra IA: um jogo de gato e rato. Mason Wilder, da Association of Certified Fraud Examiners, destaca que a IA não só impulsiona fraudes como também as torna mais desafiadoras de detectar. Os chatbots podem deixar uma impressão digital em seus metadados, mas muitos desses rastros se perdem em captura de tela ou fotografias. Portanto, plataformas de auditoria estão inovando, criando algoritmos que cruzam recibos suspeitos com suas contrapartes legítimas, analisando detalhes que escapam ao olho humano, como formatação e espaçamento entre letras.
Além disso, sistemas como os da AppZen avaliam padrões comportamentais dos funcionários, como horários de envio e histórico de gastos. Isso gera uma camada adicional de auditoria, ajudando a identificar casos em que um chatbot repete informações aparentemente inócuas, como o mesmo garçom ou prato em diferentes recibos.
Não existe uma única técnica capaz de detectar esses recibos. Tem que ser em camadas e mais camadas. É um jogo de gato e rato.
Anant Kale, CEO da AppZen, ao The New York Times.
Essa batalha entre IA e as fraudes geradas por ela exige uma abordagem multifacetada. Entre as estratégias estão a análise de metadados, cruzamento de dados de fornecedores, e o uso de sistemas avançados de aprendizado profundo. Identificar repetições e anomalias em recibos suspeitos é parte dessa missão.
Como sua empresa está lidando com essa nova realidade? Compartilhe suas experiências e opiniões nos comentários! Vamos juntos explorar essa fascinante, mas desafiadora, interseção entre inteligência artificial e ética corporativa.