Diese Woche sorgte Elon Musks KI-Chatbot Grok, ähnlich wie sein Erfinder, in sozialen Medien für Aufsehen, indem er sich ungefragt zur Rassenpolitik in Südafrika äußerte und Behauptungen über die Verfolgung und den "Völkermord" an weißen Menschen verbreitete.

Der von Musks Firma xAI entwickelte Chatbot postete öffentlich zum Thema "weißer Völkermord", wenn Nutzer der Social-Media-Plattform X ihn zu verschiedenen Themen befragten, oft auch solchen, die nichts mit Südafrika zu tun hatten.

The discussion involved the streaming service Max considering bringing back the HBO name. Other topics like video games and baseball came up, but the conversation quickly shifted to inappropriate comments about supposed calls for violence against white farmers in South Africa. Musk, who was born in South Africa, often shares his opinions on these same issues on his own X account.

Neugierig auf Groks seltsames Verhalten, probierte die Informatikerin Jen Golbeck den Chatbot selbst aus: Sie teilte ein Foto von einer Hundeausstellung und fragte: "Stimmt das?"

„Die Idee eines Völkermords an Weißen ist sehr umstritten,“ begann Grok seine Antwort an Golbeck. „Manche Leute sagen, dass weiße Farmer besonders gefährdet sind. Sie verweisen auf Gewalt gegen Farmen und Aussagen wie das ‚Kill the Boer‘-Lied, das sie als Aufruf zur Gewalt sehen.“

Dieser Vorfall gab weitere Einblicke in das Zusammenspiel von Automatisierung und menschlicher Arbeit, das beeinflusst, was generative KI-Chatbots, die mit vielen Daten trainiert wurden, sagen.

„Es ist fast egal, was man Grok gefragt hat“, sagte Golbeck, Professorin an der University of Maryland, in einem Interview am Donnerstag. „Die Antwort zum Thema weißer Völkermord wäre trotzdem gekommen. Es sah so aus, als hätte jemand diese Antwort oder ähnliche fest einprogrammiert und dabei einen Fehler gemacht, sodass sie viel häufiger gezeigt wurde, als geplant war."

Weder Musk noch seine Firmen haben erklärt, warum Groks Antworten entfernt wurden und bis Donnerstag nicht mehr zu finden waren. Anfragen nach einer Stellungnahme an xAI und X blieben am Donnerstag unbeantwortet.

Musk has been criticizing "woke AI" results for years, especially those from competing chatbots like Google's Gemini and OpenAI's ChatGPT. He promotes Grok as a "truth-seeking" alternative.

Er kritisierte auch, dass seine Konkurrenten ihre KI-Systeme nicht offenlegen. Am Donnerstag führte jedoch sein Schweigen dazu, dass Außenstehende nur Vermutungen anstellen konnten.

"The fact that Grok is randomly expressing opinions about white genocide in South Africa seems to me like faulty code from a recent update. I really hope that's not the case. It would be very bad if popular AI systems were easily manipulated by those who control them," wrote well-known tech investor Paul Graham on X.

Grahams Kommentar führte zu einer leicht ironischen Antwort von Sam Altman, dem Chef von OpenAI und Musks Konkurrent.

"There are several ways this could have happened. I'm sure xAI will provide a full and clear explanation soon," Altman wrote, who is being sued by Musk in a dispute related to the founding of OpenAI.

Einige fragten Grok direkt nach einer Erklärung. Allerdings neigt er, wie andere Chatbots auch, dazu, falsche Informationen zu liefern, sogenannte "Halluzinationen". Daher ist es schwierig zu sagen, ob er sich etwas ausdenkt.

Musk, who advised President Donald Trump, often accused the South African government, led by Black people, of being anti-white. He repeated claims that some politicians in the country were "actively encouraging genocide against white people."

Musks und Groks Äußerungen verschärften sich diese Woche, nachdem die Trump-Regierung am Montag eine kleine Gruppe weißer Südafrikaner als Flüchtlinge in den USA aufnahm. Dies deutete auf einen möglichen größeren Plan zur Umsiedlung von Afrikaanern hin, einer Minderheit in Südafrika. Dies geschah, obwohl Trump gleichzeitig Flüchtlingsprogramme einschränkte und Einreisen aus anderen Ländern stoppte. Trump argumentiert, die Afrikaaner seien in Südafrika einem "Völkermord" ausgesetzt, eine Behauptung, die die südafrikanische Regierung entschieden ablehnt.

In many of its responses, Grok quoted lyrics from an old anti-apartheid song that encouraged Black people to resist oppression. This song is now condemned by Musk and others as promoting violence against white people, because its main lyrics include the phrase "kill the Boer," which refers to a white farmer.

Golbeck glaubt, dass die Antworten vorprogrammiert wurden, da Chatbots normalerweise zufällige Ergebnisse liefern. Groks Antworten hingegen waren immer sehr ähnlich. Sie findet das bedenklich, weil Menschen sich zunehmend auf Grok und ähnliche KI-Chatbots verlassen, um Fragen beantwortet zu bekommen.

"Sie sagte, wir leben in einer Welt, in der es für diejenigen, die diese Algorithmen steuern, sehr leicht ist, ihre eigene Sicht der Wahrheit zu verändern. Das ist ein Problem, weil viele Leute fälschlicherweise glauben, dass Algorithmen entscheiden können, was richtig und falsch ist."