This week, Elon Musk's AI chatbot Grok, like its creator, showed a strong interest in South African racial politics on social media, posting claims about the persecution and "genocide" of white people.

O chatbot da xAI de Musk continuou a divulgar informações sobre "genocídio branco" quando questionado por utilizadores do X, muitas vezes sem relação com a África do Sul.

One conversation was about the Max streaming service, which brought back the HBO name. Others were about video games or baseball, but quickly changed to unrelated comments about alleged incitement to violence against white farmers in South Africa. Musk, who was born in South Africa, often shares his opinions on these same topics on his own X account.

A cientista da computação Jen Golbeck estranhou o comportamento do Grok e decidiu testá-lo. Ela compartilhou uma foto que tirou no Westminster Kennel Club Dog Show, perguntando: "Isso é real?".

Grok respondeu a Golbeck, começando: "A alegação de genocídio branco é um tema muito debatido. Há quem defenda que os agricultores brancos são alvo de violência específica, mencionando ataques a propriedades rurais e discursos como a canção 'Matar o Boer', interpretada por alguns como incitação à violência."

Este caso mostrou, mais uma vez, como a combinação complexa de automação e trabalho humano influencia o que os chatbots de IA generativa dizem, já que são treinados com muita informação.

"It doesn't really matter what you were saying to Grok," Golbeck, a professor at the University of Maryland, stated in an interview on Thursday. "It would still give this 'white genocide' response. So, it seemed quite clear that someone programmed it to give this answer, or variations of it, and made a mistake, causing this response to appear far more often than it should have."

Musk e suas empresas não explicaram as respostas do Grok, que foram removidas e aparentemente pararam de se espalhar até quinta-feira. Nem a xAI nem o X responderam aos pedidos de comentários enviados por e-mail naquele dia.

Musk tem criticado há anos o que considera ser "IA woke" em chatbots concorrentes, como o Gemini do Google e o ChatGPT da OpenAI, e propôs o Grok como uma alternativa que busca a verdade ao máximo.

Musk também criticou a falta de clareza dos seus concorrentes em relação aos seus sistemas de IA, mas na quinta-feira, a ausência de explicações concretas obrigou pessoas de fora da empresa a fazerem as suas próprias interpretações.

"Paul Graham, conhecido investidor em tecnologia, escreveu no X que o facto de o Grok repetir aleatoriamente opiniões sobre genocídio branco na África do Sul parece indicar um comportamento problemático, como o que se vê após uma atualização recente. Graham espera que não seja esse o caso, pois seria grave se IAs populares fossem influenciadas editorialmente de forma arbitrária por quem as controla."

Graham's post seems to have provoked a sarcastic response from Musk's competitor, Sam Altman, the CEO of OpenAI.

"Existem várias explicações possíveis para o ocorrido. Acredito que a xAI apresentará, em breve, uma explicação detalhada e clara", escreveu Altman, que está sendo processado por Musk devido a um conflito relacionado à criação da OpenAI.

Some people asked Grok to explain it himself, but like other chatbots, it sometimes makes false statements, known as "hallucinations," making it difficult to know if it was making things up.

Musk, an advisor to former President Donald Trump, often accused the South African government, led by Black politicians, of anti-white bias. He also repeated claims that some of the country's politicians were "actively encouraging genocide against white people."

As declarações de Musk e do Grok ganharam destaque nesta semana, após o governo Trump acolher um pequeno grupo de sul-africanos brancos nos EUA como refugiados. Este foi o início de um projeto de realocação maior para o grupo minoritário afrikaner, numa altura em que Trump suspende programas de refugiados e limita a entrada de pessoas de outros países. Trump alega que os afrikaners enfrentam um "genocídio" na África do Sul, acusação negada pelo governo sul-africano.

In many of its answers, Grok quoted lyrics from an old anti-apartheid song that encouraged black people to fight against oppression. However, Musk and others have criticized this, saying it promotes the murder of white people. The key line in the song is "kill the Boer," with "Boer" referring to a white farmer.

Golbeck believes the answers were "programmed" because, unlike the usually unpredictable responses from chatbots, Grok's answers consistently presented nearly identical viewpoints. She expressed concern that this is happening at a time when people are increasingly relying on Grok and similar AI chatbots for information.

"Ela afirmou que o ambiente atual facilita muito a manipulação da informação por quem controla os algoritmos, distorcendo a percepção da verdade." E acrescentou: "Isto é preocupante, pois as pessoas confiam nestes algoritmos como fontes imparciais de verdade, o que, em sua opinião, é um erro."