O Google anunciou novas restrições para as respostas geradas por inteligência artificial (IA) nas buscas, após usuários reportarem sugestões bizarras e perigosas, como "cola na pizza" e "comer pedras". A novidade faz parte do AI Overviews, recurso que começou a ser testado nos Estados Unidos e gerou polêmica nas redes sociais.
O AI Overviews foi apresentado durante o Google I/O em maio de 2024 como uma forma de fornecer respostas rápidas e contextualizadas diretamente na página de resultados. Utilizando o modelo Gemini, a IA sintetiza informações de várias fontes para resumir o conteúdo pesquisado. No entanto, pouco após o lançamento, usuários começaram a compartilhar capturas de tela com respostas questionáveis. Em uma delas, a IA sugeriu adicionar cola à pizza para evitar que o queijo escorregasse — uma recomendação claramente absurda e potencialmente perigosa. Em outro caso, a ferramenta indicou que comer pedras poderia ser benéfico à saúde, interpretando erroneamente conteúdo satírico.
As falhas expuseram uma fragilidade do sistema: a dificuldade em distinguir entre fontes confiáveis e conteúdo humorístico ou enganoso. Especialistas apontaram que o AI Overviews estava extraindo dados de fóruns como o Reddit e sites de sátira sem o devido filtro. Como resultado, o Google agiu rapidamente para conter a crise de reputação e evitar danos à credibilidade do buscador.
A empresa implementou limites mais rígidos para consultas relacionadas a saúde, notícias de última hora e tópicos que exigem informações atualizadas. Mecanismos adicionais de proteção foram ativados para evitar que a IA reproduza conteúdos de fóruns humorísticos ou sites não confiáveis. Além disso, uma atualização nos sistemas de classificação reduziu a exibição do AI Overviews em buscas consideradas de alto risco. De acordo com o Google, essas medidas já reduziram significativamente a taxa de respostas inadequadas, embora o sistema ainda esteja em aperfeiçoamento.
O incidente também afetou os planos de expansão do recurso. Inicialmente, o Google pretendia disponibilizar o AI Overviews em outros países ao longo de 2024. Agora, a empresa decidiu priorizar a melhoria da precisão antes de ampliar a disponibilidade. Isso significa que usuários fora dos Estados Unidos, incluindo o Brasil, terão que esperar mais tempo para acessar a ferramenta.
O caso do AI Overviews destaca os desafios da moderação de conteúdo gerado por IA em larga escala. Modelos de linguagem como o Gemini são treinados em enormes volumes de dados da internet, que incluem imprecisões, sátiras e desinformação. Sem curadoria cuidadosa, a IA pode reproduzir e amplificar esses erros. A situação reforça a necessidade de sistemas de verificação robustos e de uma abordagem mais conservadora na implementação de recursos baseados em IA.
Para usuários brasileiros, a expectativa é que o AI Overviews chegue ao país somente após ajustes e testes adicionais. Enquanto isso, o Google segue sob pressão para equilibrar inovação e segurança nas buscas. O episódio serve como um alerta para toda a indústria de tecnologia sobre os riscos de lançar recursos de IA generativa sem salvaguardas adequadas. O Google continua a investir em IA, mas com a lição de que a confiança do usuário é tão importante quanto a funcionalidade.