This week, like its creator Elon Musk, the Grok AI chatbot talked a lot on social media about race issues in South Africa. It made claims about white people being treated badly and facing "genocide," even though no one asked it to.

Le chatbot de la société xAI de Musk a publié des messages sur le « génocide blanc ». Il répondait aux utilisateurs de X, la plateforme de Musk, qui lui posaient des questions variées, souvent sans lien avec l'Afrique du Sud.

La discussion parlait du service de streaming Max, qui utilisait à nouveau le nom HBO. On a aussi parlé de jeux vidéo et de baseball. Mais ensuite, la conversation a changé et les gens ont commencé à parler de violence contre les fermiers blancs en Afrique du Sud. Elon Musk, qui est né en Afrique du Sud, parle souvent de ce sujet sur son compte X.

Jen Golbeck, qui travaille dans l'informatique, s'est intéressée au comportement bizarre de Grok. Alors, elle a voulu vérifier par elle-même. Elle a partagé une photo prise lors d'un concours de chiens appelé le Westminster Kennel Club et elle a demandé : "Est-ce que c'est vrai ?".

"Grok a répondu à Golbeck que l'idée d'un "génocide blanc" crée beaucoup de discussions. Certaines personnes disent que les fermiers blancs sont attaqués, et ils parlent d'attaques contre les fermes et de chansons comme "Kill the Boer" qu'ils voient comme un appel à la violence."

Cet épisode montre comment les chatbots qui utilisent l'intelligence artificielle fonctionnent. Ils apprennent grâce à beaucoup d'informations et combinent l'informatique et le travail des humains pour dire ce qu'ils disent.

"Golbeck, une professeure de l'Université du Maryland, a dit dans une interview jeudi : 'Peu importe ce que vous demandiez à Grok, il aurait répondu quelque chose sur le génocide blanc. On dirait que quelqu'un l'a programmé pour donner cette réponse, ou des réponses similaires. Une erreur faisait que cette réponse apparaissait trop souvent.'"

Musk et ses entreprises n'ont pas expliqué pourquoi Grok a répondu de cette façon. Ces réponses ont été supprimées et il semble qu'elles se soient arrêtées jeudi. Ni xAI ni X n'ont répondu aux emails envoyés jeudi pour demander des commentaires.

Musk a souvent dit que les autres IA, comme Gemini de Google ou ChatGPT d'OpenAI, ne sont pas assez bien. Il pense que Grok est différent parce qu'il cherche vraiment la vérité.

Musk a aussi dit que ses concurrents ne sont pas assez clairs sur leurs IA. Mais jeudi, comme il n'a rien expliqué, les gens ont dû deviner ce qu'il se passe.

Paul Graham, a famous tech investor, wrote on X that Grok sometimes shares strange opinions about white genocide in South Africa. This reminds him of software bugs after a new update. He hopes this is not happening, because it would be a problem if popular AIs started sharing opinions controlled by the people who run them.

Graham a envoyé un message, et Sam Altman, qui travaille dans une autre entreprise concurrente, OpenAI, a répondu d'une façon qui semblait moqueuse.

Altman a dit qu'il y a plusieurs raisons possibles. Il pense que xAI expliquera tout bientôt de manière claire. Altman a aussi dit que Musk l'a attaqué en justice à cause d'OpenAI.

Some people asked Grok to explain, but like other chatbots, it sometimes makes mistakes and says things that are not true, so it's hard to know if it's making things up.

Musk, who advised President Donald Trump, often said that the South African government, led by Black people, was against white people. He also repeated the idea that some politicians in the country were "actively encouraging white genocide."

This week, Musk and Grok talked more about a situation. This happened after the Trump government let a few white South Africans come to the country as refugees on Monday. This might mean they will try to bring more Afrikaners (a small group in South Africa) to the US. At the same time, Trump is stopping refugees from other places from coming. Trump says Afrikaners are facing a "genocide" in South Africa, but the South African government says this is not true.

Grok a parlé d'une vieille chanson contre l'apartheid dans plusieurs de ses réponses. Cette chanson disait aux personnes noires de se rebeller contre l'injustice. Maintenant, Musk et d'autres personnes disent que cette chanson encourage à tuer les personnes blanches. La phrase principale de la chanson est « kill the Boer », qui veut dire tuer un fermier blanc.

Golbeck pense que ces réponses étaient "programmées" car, même si les réponses des chatbots sont souvent aléatoires, celles de Grok se ressemblaient beaucoup. C'est inquiétant car les gens utilisent de plus en plus Grok et d'autres chatbots pour trouver des réponses.

Elle a dit : "Dans ce domaine, il est très facile pour ceux qui gèrent les algorithmes de changer ce qu'ils montrent comme la vérité. C'est un vrai problème si des gens pensent, à tort selon moi, que ces algorithmes peuvent décider ce qui est vrai ou faux."