Estudo revela falhas do chatbot Grok, de Musk, em respostas sobre guerra Irã-Israel

Grok, o chatbot de inteligência artificial (IA) da empresa xAI, de Elon Musk, deu respostas inexatas e contraditórias quando se tentou verificar por ele informações sobre a guerra de 12 dias entre Israel e Irã, concluiu um estudo.

Com o desaparecimento gradual da verificação por jornalistas em plataformas como o Facebook, cada vez mais internautas recorrem a ferramentas de inteligência artificial (IA) como o Grok para encontrar informação confiável, mas as respostas obtidas às vezes desinformam. 

Segundo um estudo publicado na terça-feira por um laboratório de pesquisas digitais do Atlantic Council, grupo de reflexão americano, as respostas do Grok "durante os primeiros dias do conflito entre Israel e Irã revelaram falhas significativas e demonstraram as limitações do chatbot para fornecer informação precisa, confiável e coerente em tempos de crise". 

A análise de 130.000 mensagens em vários idiomas na plataforma X, que integra o chatbot Grok, determinou que este "tinha dificuldades para autentificar o conteúdo gerado pela IA". 

Por exemplo, após os ataques em represália do Irã contra Israel, o chatbot deu respostas muito diferentes sobre imagens geradas por IA de um aeroporto destruído, que tiveram milhões de visualizações no X: oscilava, às vezes no mesmo minuto, entre negar a destruição do aeroporto e confirmar que tinha sido atingido pelos ataques.

Em algumas respostas, Grok afirmou que os danos se deviam a um míssil disparado do Iêmen, e em outras identificou falsamente o aeroporto como sendo de Beirute, Gaza ou Teerã.

Segundo os especialistas, Grok já tinha se equivocado na verificação de fatos sobre o recente conflito entre Índia e Paquistão, e durante as manifestações em Los Angeles contra as operações de captura de imigrantes ordenadas pelo presidente americano, Donald Trump. 

No mês passado, o serviço de IA do empresário de origem sul-africana também causou polêmica ao se referir erroneamente a um "genocídio branco" na África do Sul, um erro que a xAI atribuiu posteriormente a uma "modificação não autorizada".

ac/bpe/ube/erl/val/mvv/jc