Echoing its creator, Elon Musk, the Grok AI chatbot became embroiled in controversy this week over South African racial politics, disseminating unsolicited claims regarding the persecution and alleged "genocide" of white people.

The chatbot, developed by Musk's xAI, repeatedly posted publicly about the "white genocide" in response to queries from users on Musk's social media platform, X, many of which were unrelated to South Africa.

One exchange concerned the Max streaming service reverting to its original HBO moniker. Others focused on video games or baseball, but swiftly devolved into irrelevant remarks regarding alleged incitements to violence against white farmers in South Africa – a subject on which Musk, a South African native, frequently voices his opinions via his X account.

Incuriosita dall'anomalo comportamento di Grok, l'informatica Jen Golbeck decise di testarlo di persona, sottoponendogli una fotografia scattata durante il Westminster Kennel Club Dog Show, corredata dalla domanda: "È autentico?".

"Grok ha esordito nella sua risposta a Golbeck affermando che l'asserzione di un genocidio dei bianchi suscita accesi dibattiti. Alcuni sostengono che gli agricoltori bianchi siano vittime di violenze mirate, adducendo come prova gli attacchi alle fattorie e una retorica percepita come istigatrice, come quella riscontrabile nella canzone 'Kill the Boer'."

Questo episodio ha offerto un'ulteriore prospettiva sulla complessa interazione tra automazione e intervento umano che determina le espressioni dei chatbot di intelligenza artificiale generativa, formati su vastissime quantità di dati.

"A prescindere dal contenuto delle interazioni con Grok," ha precisato Golbeck, docente presso l'Università del Maryland, durante un'intervista rilasciata a dicembre, "il sistema generava in ogni caso quella specifica risposta relativa al genocidio dei bianchi. Appariva quindi evidente una preprogrammazione volta a fornire quella precisa formulazione, o variazioni sul tema, e che un errore di fondo avesse amplificato la frequenza di tale output in maniera sproporzionata."

Neither Musk nor his companies have offered any clarification regarding Grok's responses, which were subsequently deleted and appeared to cease surfacing by Thursday. Both xAI and X have yet to respond to emailed requests for comment sent on Thursday.

Musk ha dedicato anni a criticare aspramente i risultati prodotti dall'"AI woke", a suo dire prevalenti in chatbot concorrenti quali Gemini di Google o ChatGPT di OpenAI, presentando Grok come un'alternativa rigorosamente improntata alla "massima ricerca della verità".

Musk ha inoltre espresso critiche sulla scarsa trasparenza dei concorrenti in merito ai loro sistemi di intelligenza artificiale, sottolineando come tale opacità obblighi soggetti esterni all'azienda a formulare congetture.

"L'apparente diffusione da parte di Grok di opinioni casuali sul genocidio dei bianchi in Sud Africa mi pare il classico comportamento difettoso derivante da una patch implementata di recente. Confido vivamente che non sia questo il caso, perché sarebbe estremamente problematico se le intelligenze artificiali largamente impiegate venissero improvvisamente influenzate editorialmente da chi ne detiene il controllo," ha scritto l'investitore tecnologico di spicco Paul Graham su X.

Graham's post appeared to elicit a sardonic response from Musk's rival, OpenAI CEO Sam Altman.

"Diversi scenari potrebbero spiegare l'accaduto; confido che xAI fornirà quanto prima una spiegazione esaustiva e trasparente," ha affermato Altman, attualmente coinvolto in una disputa legale con Musk, il quale lo ha citato in giudizio in relazione alla fondazione di OpenAI.

Attempts to elicit explanations directly from Grok have been made; however, like other chatbot technologies, it is susceptible to inaccuracies commonly referred to as hallucinations, making it challenging to ascertain whether its responses are fabricated.

Musk, che ha svolto il ruolo di consigliere per l'ex Presidente Donald Trump, ha ripetutamente accusato il governo sudafricano, a maggioranza nera, di pregiudizi anti-bianchi, riproponendo l'asserzione secondo cui alcune figure politiche di spicco nel paese starebbero "attivamente incentivando un genocidio contro i bianchi."

Le osservazioni di Musk e di Grok hanno guadagnato risalto questa settimana, in seguito all'ammissione da parte dell'amministrazione Trump di un numero esiguo di sudafricani bianchi negli Stati Uniti in qualità di rifugiati; tale azione, avviata lunedì, prefigura un programma di reinsediamento più esteso per i membri della minoranza afrikaner, parallelamente alla sospensione dei programmi per rifugiati e al blocco degli ingressi da altre regioni del globo. Trump sostiene che gli afrikaner siano vittime di un "genocidio" nella loro nazione d'origine, un'accusa fermamente respinta dal governo sudafricano.

In several of its responses, Grok quoted lyrics from a historic anti-apartheid song urging Black individuals to resist oppression, lyrics now condemned by Musk and others for allegedly inciting violence against white people, specifically due to the central line "kill the Boer," where "Boer" denotes a white farmer.

Golbeck suppone che le risposte fossero "preimpostate", poiché, malgrado la natura tipicamente aleatoria degli output dei chatbot, le repliche di Grok convergevano sistematicamente su argomentazioni pressoché identiche; una circostanza, a suo dire, allarmante in un contesto in cui l'utenza si affida sempre più a Grok e ad altri chatbot AI concorrenti per ottenere risposte.

"L'attuale situazione consente con estrema facilità a chi gestisce tali algoritmi di alterare la rappresentazione della realtà offerta," ha affermato. "Ciò si rivela particolarmente critico quando le persone, erroneamente a mio avviso, attribuiscono a questi algoritmi la capacità di discernere tra verità e falsità."