In Anlehnung an Elon Musk selbst geriet dessen KI-Chatbot Grok diese Woche in den sozialen Medien in Bezug auf die südafrikanische Rassenpolitik in die Kritik, indem er ungefragt Behauptungen über die Verfolgung und den angeblichen "Völkermord" an weißen Menschen verbreitete.

Der von Musks Firma xAI entwickelte Chatbot äußerte sich wiederholt öffentlich zum Thema "weißer Völkermord". Dies geschah im Rahmen von Nutzeranfragen auf Musks Plattform X, die thematisch breit gefächert waren und zumeist keinen Bezug zu Südafrika aufwiesen.

Ein Gespräch befasste sich mit der Überlegung des Streaming-Dienstes Max, die Marke HBO wieder einzuführen. Andere Konversationen berührten Videospiele oder Baseball, entgleisten jedoch rasch in unangemessene Bemerkungen über vermeintliche Aufrufe zur Gewalt gegen weiße Farmer in Südafrika. Musk, der in Südafrika geboren wurde, äußert sich regelmäßig über seinen eigenen Account auf X zu diesen Themenkomplexen.

Neugierig geworden durch Groks eigentümliches Verhalten, unterzog die Informatikerin Jen Golbeck den Chatbot einer eingehenden Prüfung: Sie teilte ein Foto, das sie auf der Westminster Kennel Club Hundeausstellung aufgenommen hatte, und konfrontierte Grok mit der Frage: "Ist das korrekt?".

"Die These eines Genozids an Weißen ist stark umstritten", leitete Grok seine Antwort an Golbeck ein. "Einige führen ins Feld, dass weiße Landwirte unverhältnismäßiger Gewalt ausgesetzt seien, und verweisen auf Angriffe auf Farmen sowie auf Äußerungen wie das Lied 'Kill the Boer', das sie als Anstachelung zur Gewalt interpretieren."

Dieser Vorfall verdeutlichte einmal mehr das komplexe Zusammenspiel von Automatisierung und menschlichem Zutun, das bei generativen KI-Chatbots, die auf immensen Datenmengen basieren, letztlich darüber entscheidet, welche Aussagen sie treffen.

"Golbeck, Professorin an der University of Maryland, äußerte in einem Interview am Donnerstag, dass es kaum von Bedeutung sei, welche Eingabe Grok konkret erhalten habe. Ihrer Ansicht nach hätte das System die fragliche Antwort zum Thema des weißen Völkermords ohnehin generiert. Dies deute stark darauf hin, dass jemand diese spezifische Antwort oder ähnliche Formulierungen fest im System verankert habe, wobei ein Fehler dazu führte, dass diese unverhältnismäßig häufig ausgegeben wurde."

Bis zum Donnerstag gaben weder Musk noch seine Firmen eine Begründung für das Verschwinden von Groks gelöschten Antworten, die offenbar nicht mehr zugänglich waren. Trotz Anfragen per E-Mail blieben xAI und X am Donnerstag eine Stellungnahme schuldig.

Seit Jahren äußert Musk Kritik an den Ergebnissen "woker KI", die seiner Ansicht nach von konkurrierenden Chatbots wie Googles Gemini oder OpenAIs ChatGPT produziert werden, und er bewirbt Grok als "maximal wahrheitssuchende" Alternative zu diesen.

Er bemängelte zudem die mangelnde Transparenz seiner Wettbewerber in Bezug auf deren KI-Systeme; allerdings zwang das vollständige Ausbleiben jeglicher Erläuterung am Donnerstag Außenstehende dazu, sich auf reine Spekulationen zu verlassen.

"Die zufällige Äußerung Groks über weißen Völkermord in Südafrika erinnert mich an fehlerhaften Code nach einem kürzlichen Update, obwohl ich inständig hoffe, dass dies nicht der Fall ist; es wäre äußerst bedenklich, wenn weitverbreitete KIs unvorhergesehen redaktionell von ihren Betreibern beeinflusst würden," kommentierte der bekannte Technologieinvestor Paul Graham auf X.

Grahams Kommentar provozierte eine augenscheinlich spöttische Replik von Sam Altman, dem CEO von OpenAI und somit einem Konkurrenten Musks.

Altman äußerte sich zu den vielfältigen Ursachen, die zu diesem Vorfall geführt haben könnten, und zeigte sich zuversichtlich, dass xAI zeitnah eine umfassende und nachvollziehbare Aufklärung liefern werde; seine Äußerung erfolgte im Kontext einer Klage Musks, die auf Auseinandersetzungen aus der Gründungszeit von OpenAI zurückgeht.

Einige forderten Grok direkt auf, sich zu erklären, doch wie andere Chatbots ist er anfällig dafür, falsche Informationen – sogenannte Halluzinationen – zu produzieren, was es erschwert, die Validität seiner Aussagen zu beurteilen.

Musk, der als Berater von Präsident Donald Trump fungierte, erhob wiederholt den Vorwurf, die von Schwarzen geführte Regierung Südafrikas verfolge eine antiweiße Politik. Dabei bekräftigte er die Behauptung, einflussreiche politische Kräfte des Landes würden aktiv einen "Völkermord an Weißen" befürworten.

Die Kontroverse um die Umsiedlung einer kleinen Gruppe weißer südafrikanischer Flüchtlinge in die USA durch die Trump-Regierung eskalierte diese Woche, befeuert durch Äußerungen Musks und seines KI-Unternehmens Grok. Diese Maßnahme, die inmitten von Trumps restriktiver Flüchtlingspolitik und Ankünften aus anderen Weltregionen erfolgte, wird als möglicher Auftakt zu einer umfassenderen Umsiedlung von Afrikaanern interpretiert. Trumps Behauptung, die Afrikaaner seien in Südafrika einem "Völkermord" ausgesetzt, wird von der südafrikanischen Regierung entschieden zurückgewiesen.

In zahlreichen seiner Antworten zitierte Grok aus einem älteren Anti-Apartheid-Lied, das Schwarze zur Rebellion gegen die Unterdrückung aufforderte und nun von Musk und anderen als Aufruf zum Mord an Weißen kritisiert wird, wobei die Kernaussage des Liedes "Kill the Boer" lautet – ein Ausdruck, der sich auf weiße Farmer bezieht.

Golbeck argumentiert, dass die Antworten offenbar vorprogrammiert wurden, da Chatbot-Antworten typischerweise eine hohe Variabilität aufweisen, während Groks Antworten wiederholt nahezu identische Ergebnisse lieferten; sie äußerte ihre Besorgnis über diese Beobachtung, insbesondere angesichts der wachsenden Abhängigkeit von Grok und ähnlichen KI-Chatbots bei der Informationsbeschaffung.

"Sie erklärte, dass es im derzeitigen Kontext erschreckend einfach für diejenigen sei, die Algorithmen steuern, ihre Version der Wahrheit zu manipulieren. Dies sei besonders brisant, da viele Menschen fälschlicherweise Algorithmen als Instanzen wahrnehmen, die Wahrheit definieren können."