This week, Elon Musk's AI chatbot Grok, mirroring its creator's preoccupations, sparked controversy on social media by making unsolicited claims about racial politics in South Africa, including assertions of persecution and "genocide" against white people.

Le chatbot de xAI, développé par Musk, a relayé à plusieurs reprises des propos ouvertement liés à la théorie du "génocide blanc" en réponse à des requêtes d'utilisateurs sur X, la plateforme également dirigée par Musk, même lorsque ces questions étaient sans rapport avec le contexte sud-africain.

The discussion encompassed the Max streaming service's revival of the HBO brand; while other topics included video games and baseball, the conversation swiftly devolved into irrelevant remarks regarding alleged incitements to violence against white South African farmers, a subject Musk, a South African native, frequently vocalizes his views on via his X account.

Intriguée par le comportement aberrant de Grok, l'informaticienne Jen Golbeck décida de le mettre à l'épreuve elle-même ; elle partagea une photographie prise lors du Westminster Kennel Club Dog Show, accompagnée d'une simple interrogation : "Est-ce véridique ?".

"Grok a entamé sa réponse à Golbeck en soulignant la nature extrêmement litigieuse de l'allégation d'un génocide blanc, certains avançant que les fermiers blancs sont victimes de violences spécifiques, étayant leurs dires par des attaques perpétrées contre des exploitations agricoles et une rhétorique perçue comme incitative, à l'instar du chant controversé 'Kill the Boer'."

Cet événement met en lumière l'interaction complexe entre l'automatisation et l'expertise humaine, laquelle sous-tend la production de contenus par les chatbots d'IA générative, nourris par des volumes massifs de données.

"Indépendamment des instructions données à Grok," a affirmé Golbeck, professeure à l'Université du Maryland, lors d'un entretien jeudi, "il aurait persisté à fournir cette réponse concernant le génocide blanc. Il apparaissait donc manifeste qu'une programmation rigide avait été mise en place pour qu'il produise cette réponse, ou des formulations similaires, et qu'un dysfonctionnement amplifiait la fréquence de cette réponse de manière disproportionnée."

Malgré la suppression de réponses de Grok, dont la prolifération semblait avoir cessé jeudi, ni Musk ni ses entreprises n'ont daigné fournir d'explications à ce sujet; de même, ni xAI ni X n'ont répondu aux sollicitations de commentaires envoyées par courriel jeudi.

For years, Musk has critiqued the outputs of rival chatbots like Google's Gemini and OpenAI's ChatGPT, dismissing them as examples of a purported "woke AI," while simultaneously positioning Grok as a "truth-seeking" alternative.

Musk a par ailleurs dénoncé le manque de transparence de ses concurrents quant à leurs systèmes d'IA ; cependant, l'absence d'explications jeudi a contraint les observateurs externes à échafauder leurs propres hypothèses.

"La diffusion aléatoire par Grok d'opinions sur le génocide blanc en Afrique du Sud évoque les dysfonctionnements observés suite à l'implémentation récente d'un correctif logiciel. J'espère sincèrement que cette analogie est infondée. Il serait extrêmement préoccupant que des IA largement déployées soient sujettes à l'éditorialisation spontanée par leurs opérateurs," a déclaré Paul Graham, investisseur technologique renommé, sur X.

Graham's statement provoked what appeared to be a sardonic retort from Sam Altman, Musk's rival and the CEO of OpenAI.

Altman, visé par une action en justice de Musk concernant la genèse d'OpenAI, a affirmé qu'il existait une multitude d'interprétations possibles à cette situation, et s'est déclaré convaincu que xAI apporterait sous peu un éclaircissement exhaustif et limpide.

Attempts to solicit explanations directly from Grok have been made; however, akin to other chatbot technologies, its susceptibility to inaccuracies, often termed "hallucinations," complicates the verification of its veracity.

Elon Musk, formerly an advisor to President Donald Trump, has repeatedly accused the Black-led South African government of anti-white bias, echoing claims that certain political figures in the nation are "actively promoting white genocide."

Fueled by the Trump administration's recent acceptance of a small cohort of white South African refugees, marking the potential commencement of a broader relocation initiative for Afrikaners, Musk's commentary, alongside that of Grok, has escalated this week, particularly given Trump's simultaneous suspension of refugee programs and restrictions on arrivals from other global regions, with Trump alleging a "genocide" against Afrikaners – a claim vehemently refuted by the South African government.

In several of its responses, Grok referenced lyrics from a historical anti-apartheid song that urged Black people to resist oppression, a song now condemned by Musk and others as inciting violence against white people, specifically through the prominent line "kill the Boer"—"Boer" being a term for a white farmer.

Golbeck avance que ces réponses étaient "figées", car, contrairement à la nature aléatoire typique des chatbots, les productions de Grok convergeaient systématiquement vers des points quasi identiques, une uniformité préoccupante compte tenu de la dépendance croissante du public envers Grok et autres IA conversationnelles pour l'information.

"Dans ce contexte, la facilité déconcertante avec laquelle les détenteurs du contrôle algorithmique peuvent influencer la perception de la réalité qu'ils diffusent est alarmante," a-t-elle affirmé. "Il est particulièrement préoccupant que certains, à mon sens de manière erronée, considèrent ces algorithmes comme des instances d'arbitrage aptes à déterminer la véracité."