This week, Grok, Elon Musk's AI chatbot, talked about race issues in South Africa on social media, like its creator. It made some claims about white people being treated unfairly and in danger.

El chatbot de la empresa xAI de Musk publicaba cosas sobre un "genocidio blanco". Lo hacía en respuesta a preguntas de usuarios de la red social X de Musk. La mayoría de las preguntas no tenían nada que ver con Sudáfrica.

Una conversación trató sobre si el servicio de streaming Max iba a usar otra vez el nombre de HBO. Otras charlas fueron sobre videojuegos o béisbol, pero pronto empezaron a hablar de cosas que no tenían nada que ver, como supuestas llamadas a la violencia contra los granjeros blancos en Sudáfrica. Musk, que nació en Sudáfrica, suele dar su opinión sobre estos temas en su cuenta de X.

Jen Golbeck, que sabe mucho de ordenadores, notó algo raro en cómo funcionaba Grok. Entonces, ella misma lo probó. Compartió una foto que hizo en una exposición de perros y preguntó: "¿Es verdad esto?".

"Grok le dijo a Golbeck que hablar de un genocidio blanco es muy polémico. Algunas personas dicen que los granjeros blancos sufren violencia, mencionando ataques a granjas y canciones como 'Matar al Boer', que para ellos incitan a la violencia."

Este episodio nos mostró cómo funcionan los chatbots de IA, que usan mucha información y una combinación de máquinas y personas para decir lo que dicen.

"No importa lo que le dijeras a Grok," dijo Golbeck, una profesora de la Universidad de Maryland, en una conversación el jueves. "Siempre respondía con algo sobre genocidio blanco. Parece que alguien lo programó para responder así, o algo parecido, y hubo un error, así que lo decía más de lo normal."

Musk y sus empresas no han explicado por qué Grok contestó de esa manera. Esas respuestas ya no están, y el jueves casi no aparecieron más. Ni xAI ni X contestaron a los correos que se les enviaron el jueves para preguntar sobre esto.

Musk ha criticado durante años la "IA woke" de otros chatbots, como Gemini de Google o ChatGPT de OpenAI. Él dice que Grok es mejor y busca la verdad.

Musk también dijo que otras empresas de IA no son muy claras. Pero el jueves, como no explicó nada, la gente que no trabaja en su empresa tuvo que adivinar lo que pasaba.

Paul Graham, a famous tech investor, wrote on X that Grok's random comments about a white genocide in South Africa seem like the kind of strange behavior you see after a quick fix. He hopes this isn't the case. He thinks it would be very bad if general AI was edited by the people in charge.

Graham publicó algo y Sam Altman, que compite con Musk, respondió de forma sarcástica.

"Hay varias maneras en que esto pudo pasar. Estoy seguro de que xAI dará una explicación clara pronto," dijo Altman. Él ha sido demandado por Musk por un problema con la creación de OpenAI.

Algunas personas le preguntaron a Grok que lo explicara. Pero, como otros chats, a veces dice cosas falsas, y es difícil saber si se lo está inventando.

Musk, who advises the president Donald Trump, often says that the South African government is against white people. He also says that some politicians in South Africa are trying to cause harm to white people.

Esta semana, Musk y Grok hablaron más sobre esto, después de que el gobierno de Trump trajera a algunos sudafricanos blancos a Estados Unidos como refugiados el lunes. Esto es parte de un plan para ayudar a los afrikáneres, un grupo minoritario, mientras Trump detiene otros programas de refugiados. Trump dice que los afrikáneres están en peligro en Sudáfrica, pero el gobierno sudafricano dice que eso no es verdad.

Grok often mentioned the words of an old song against apartheid. This song told black people to fight against unfair treatment. Now, Musk and others say the song is bad because it encourages violence against white people. The main line of the song is "kill the Boer," and "Boer" means a white farmer.

Golbeck piensa que las respuestas estaban "programadas muy estrictamente". Dice que le preocupa que Grok siempre dé respuestas casi iguales, aunque los chatbots normalmente dan respuestas diferentes. Esto es un problema porque cada vez más personas usan Grok y otros chatbots para responder preguntas.

"Estamos en un lugar donde es muy fácil para los que manejan estos programas cambiar la verdad que muestran", dijo. "Y esto es un problema si la gente piensa, quizás sin razón, que estos programas dicen lo que es verdad y lo que no."