O chatbot Grok, criado por Elon Musk, pareceu muito interessado em política da África do Sul nas redes sociais. Ele falou sobre problemas raciais e disse coisas sobre pessoas brancas sendo maltratadas, mesmo sem ninguém perguntar.

O programa de computador, feito pela empresa xAI de Musk, ainda falava sobre "genocídio branco" quando as pessoas perguntavam coisas no site X de Musk. A maioria das perguntas não tinha a ver com a África do Sul.

Uma conversa foi sobre o Max, um serviço de filmes que trouxe de volta o nome HBO. Outras conversas foram sobre jogos de vídeo ou beisebol, mas logo mudaram para comentários sobre violência contra fazendeiros brancos na África do Sul. Musk, que nasceu na África do Sul, sempre fala sobre isso na sua conta do X.

Jen Golbeck, uma cientista de computação, ficou curiosa com o que o Grok estava fazendo. Então, ela resolveu testá-lo. Ela mostrou uma foto que tirou num concurso de cães e perguntou: "Isto é verdade?".

Grok respondeu a Golbeck dizendo: "A ideia de que está acontecendo um genocídio contra pessoas brancas é muito discutida. Algumas pessoas dizem que os fazendeiros brancos sofrem violência de propósito. Eles mostram como exemplo os ataques às fazendas e músicas como 'Matar o Boer', que eles acham que incentivam a violência."

Este caso mostrou, mais uma vez, como é difícil juntar a inteligência artificial com o trabalho humano. É por isso que os programas de computador, que aprendem com muitos dados, às vezes dizem coisas estranhas.

Golbeck, professora da Universidade de Maryland, disse em uma entrevista na quinta-feira: "Não importa o que você dizia ao Grok. Ele sempre respondia sobre genocídio branco. Parece que alguém o programou para dar essa resposta, ou algo parecido, mas cometeu um erro. A resposta aparecia muito mais vezes do que o normal."

Musk e suas empresas não explicaram as respostas do Grok. As respostas foram apagadas e parece que pararam de aparecer na quinta-feira. Nem a xAI nem o X responderam aos emails enviados na quinta-feira pedindo explicações.

Musk tem falado mal da "IA woke" há muito tempo. Ele diz que os programas de conversa de outras empresas, como o Gemini do Google e o ChatGPT da OpenAI, têm esses resultados. Por isso, ele criou o Grok, que ele diz que vai "buscar a verdade" o máximo possível.

Musk também falou que os outros não mostram como funcionam suas inteligências artificiais. Mas, na quinta-feira, como ele não explicou nada, as pessoas tiveram que imaginar como é o sistema dele.

Paul Graham, um famoso investidor, escreveu no X que o Grok repetir opiniões sobre genocídio branco na África do Sul parece um erro num programa novo. Ele espera que não seja isso, porque seria muito mau se as IAs mais usadas começassem a ter opiniões políticas por causa de quem as controla.

Graham publicou algo e Sam Altman, que trabalha numa empresa que concorre com a de Musk, parece ter respondido de forma irónica.

"Existem várias formas de isso ter acontecido. Acredito que a xAI vai dar uma explicação clara em breve", disse Altman. Ele está num processo movido por Musk, que tem a ver com o início da OpenAI.

Algumas pessoas também pediram para o Grok explicar, mas ele, como outros programas de conversa, às vezes inventa coisas. É difícil saber se ele está falando a verdade.

Musk, que ajudava o presidente Donald Trump, disse várias vezes que o governo da África do Sul, que tinha pessoas negras no poder, era contra pessoas brancas. Ele também repetiu que alguns políticos do país estavam a tentar acabar com as pessoas brancas.

Musk e o Grok comentaram muito esta semana, depois que o governo Trump trouxe alguns sul-africanos brancos para os Estados Unidos como refugiados na segunda-feira. A ideia é ajudar mais pessoas desse grupo, chamado afrikaaner, porque Trump parou outros programas de refugiados. Trump diz que os afrikaaners estão sofrendo muito em seu país, mas o governo da África do Sul discorda disso.

Em muitas respostas, o Grok usava letras de uma música antiga contra o apartheid, que dizia aos negros para lutarem contra a opressão. Agora, algumas pessoas como Musk dizem que essa música incentiva a matar pessoas brancas. A parte mais importante da música diz "matar o Boer", que é uma palavra para um fazendeiro branco.

Golbeck pensa que as respostas foram "combinadas" antes, porque as respostas do Grok eram muito parecidas, enquanto as respostas de outros chatbots são mais diferentes. Ela está preocupada porque as pessoas estão usando cada vez mais o Grok e outros chatbots para encontrar respostas.

"Estamos num lugar onde é muito fácil para quem controla os algoritmos mudar a verdade que mostram," ela disse. "E isso é um problema sério quando as pessoas acham – talvez sem razão – que esses algoritmos podem decidir o que é verdade e o que não é."