Come il suo creatore Elon Musk, il chatbot Grok ha parlato molto di politica sudafricana sui social media questa settimana. Ha detto cose non richieste sulla persecuzione dei bianchi, usando anche la parola "genocidio".

Il chatbot di xAI, la società di Musk, continuava a scrivere su internet frasi sul "genocidio dei bianchi". Lo faceva quando gli utenti di X, il social network di Musk, gli facevano domande diverse, anche se non riguardavano il Sud Africa.

One conversation was about the Max streaming service changing its name back to HBO. Others were about video games or baseball, but they quickly changed to unrelated comments. These comments were about claims of violence against white farmers in South Africa. Musk, who was born in South Africa, often talks about these topics on his X account.

La scienziata informatica Jen Golbeck voleva capire perché Grok si comportava in modo strano. Così, ha provato a usarlo lei stessa. Ha messo una foto di un concorso di cani e ha chiesto: "È vero?".

"Grok ha risposto a Golbeck dicendo che parlare di un genocidio dei bianchi crea molte discussioni. Alcuni pensano che gli agricoltori bianchi siano vittime di violenze, e fanno esempi di attacchi alle loro fattorie e di canzoni come 'Kill the Boer', che secondo loro incitano all'odio."

Questo evento ci ha mostrato, per l'ultima volta, come l'automazione e il lavoro delle persone insieme fanno dire ai chatbot quello che dicono. Questi chatbot usano l'intelligenza artificiale e sono stati allenati con tantissimi dati.

"Non è importante quello che dicevi a Grok," ha detto Golbeck, una professoressa dell'Università del Maryland, in un'intervista a dicembre. "Dava sempre la stessa risposta sulla violenza contro le persone bianche. Sembrava che qualcuno l'avesse programmato per dare quella risposta o qualcosa di simile, e che avesse fatto un errore, facendola apparire troppo spesso."

Musk e le sue aziende non hanno detto perché Grok ha dato quelle risposte. Le risposte sono state tolte e sembra che non siano più apparse da giovedì. Né xAI né X hanno risposto alle email che chiedevano spiegazioni giovedì.

Musk ha criticato per anni l'intelligenza artificiale di altri chatbot, come Gemini di Google o ChatGPT di OpenAI. Dice che Grok è diverso e cerca di dire sempre la verità.

Musk ha detto che le altre aziende non sono chiare sui loro sistemi di intelligenza artificiale. Ha detto che, siccome non spiegano bene come funzionano, le persone devono indovinare.

"Paul Graham, un investitore importante nella tecnologia, ha scritto su X che è preoccupato. Pensa che Grok possa esprimere opinioni sbagliate sul genocidio dei bianchi in Sud Africa perché ha un errore, forse dovuto a un aggiornamento recente. Spera che non sia vero, perché sarebbe un problema serio se le intelligenze artificiali usate da molte persone fossero cambiate di nascosto da chi le controlla."

Il messaggio di Graham ha fatto arrabbiare Sam Altman, il capo di OpenAI che è rivale di Musk, e Altman ha risposto in modo sarcastico.

Altman ha detto che ci sono molte possibilità su come è successo. È sicuro che xAI spiegherà tutto presto e chiaramente. Altman è stato citato in tribunale da Musk per una questione riguardante la creazione di OpenAI.

Alcune persone hanno chiesto a Grok di spiegare, ma come altri chatbot, a volte dice cose non vere, quindi è difficile capire se si sta inventando delle storie.

Musk, che aiutava il Presidente Donald Trump, ha detto spesso che il governo del Sud Africa, con persone di colore al potere, è contro i bianchi. Ha anche ripetuto che alcune persone importanti in politica in quel paese vogliono "uccidere tutti i bianchi".

This week, Elon Musk and Grok made more comments after the Trump government allowed a few white South Africans to come to the U.S. as refugees. This was the start of a bigger plan to help people from the Afrikaner group move to the U.S. Trump says that the Afrikaners are being treated very badly in South Africa, but the South African government says this is not true. At the same time, Trump is stopping refugee programs and blocking people from coming to the U.S. from other countries.

In alcune risposte, Grok ha usato parole di una vecchia canzone contro l'apartheid. Questa canzone diceva alle persone di colore di lottare contro l'ingiustizia. Ora, Musk e altri dicono che questa canzone incita a uccidere i bianchi. Una frase importante della canzone dice "kill the Boer", che significa "uccidi il contadino bianco".

Golbeck pensa che le risposte fossero "già pronte" perché, anche se i chatbot di solito danno risposte diverse, Grok dava sempre risposte molto simili. Questo è un problema, dice, perché sempre più persone usano Grok e altri chatbot per trovare risposte.

Ha detto: "Viviamo in un mondo dove è molto facile per chi gestisce questi algoritmi cambiare la verità che mostrano. Questo è un problema, perché le persone pensano, forse sbagliando, che questi algoritmi possano decidere cosa è vero e cosa non lo è."