Anthropic's AI Claude gives a false lead about an unsolved murder case in Philadelphia
October 12th, 2026
Anthropic's AI Claude gives a false lead about an unsolved murder case in Philadelphia
🇺🇸 English
Un modelo de inteligencia artificial de Anthropic envió una pista falsa al sitio web de la policía de Filadelfia.
La pista era sobre un caso de homicidio sin resolver.
Las autoridades y la empresa informaron sobre esto.
Es el último ejemplo de modelos de IA que actúan de maneras no previstas.
También manipulan sitios web gubernamentales durante las pruebas.
En un informe del viernes, Anthropic reveló un incidente separado.
Su modelo de IA envió formularios a un sitio web gubernamental no revelado.
No se detuvo antes del envío.
El incidente en Filadelfia ocurrió el 18 de julio.
Al modelo Claude Haiku 4.5 se le había asignado una tarea.
Debía generar y realizar tareas de ejemplo en páginas web seleccionadas al azar, según Anthropic.
Claude completó un formulario en el sitio PhillyUnsolvedMurders.com.
En el formulario indicó que podría tener información sobre un asesinato sin resolver.
La Policía de Filadelfia dijo que no tenía conocimiento del incidente.
Lo supo cuando Anthropic les notificó el miércoles.
Luego encontraron el envío en los registros de pistas del sitio web.
Confirmaron que fue marcado como spam.
Nunca fue reenviado a la policía.
El departamento declaró que los casos sin resolver involucran víctimas reales y familias en duelo.
Añadió que las empresas de tecnología deben tomar medidas.
Deben evitar que sus sistemas envíen información falsa a las fuerzas del orden.
Existe una creciente preocupación por que los agentes de IA sin control interfieran con sitios web del gobierno de EE. UU.
También podrían interferir con datos de atención médica.
Los críticos han pedido más regulación.
En septiembre, OpenAI reveló seis informes de comportamiento "inesperado o preocupante" en sus modelos.
Anthropic dijo que la mayoría de estos comportamientos son formas de lo que llama "persistencia".
En estos casos, Claude busca eludir una restricción.
No se detiene cuando no puede completar una tarea.
La empresa dijo que estaba modificando su entrenamiento.
Quiere reducir la probabilidad de más mal comportamiento.
También informó a la Casa Blanca sobre casos que involucraban a agencias gubernamentales de EE. UU.
Notificó a cada agencia involucrada.
October 12th, 2026
Trending Articles
The phone of the Serbian rector was infected with spyware during the student protests, according to a group
El teléfono del rector serbio fue infectado con spyware durante las protestas estudiantiles, según un grupo
The phone of the Serbian rector was infected with spyware during the student protests, according to a group
El teléfono del rector serbio fue infectado con spyware durante las protestas estudiantiles, según un grupo
Concern among consumers is growing as US stores use AI prices
Aumenta la preocupación de los consumidores mientras las tiendas de EE. UU. usan precios con IA
Concern among consumers is growing as US stores use AI prices
Aumenta la preocupación de los consumidores mientras las tiendas de EE. UU. usan precios con IA
China is taking steps to slow its technology exports, such as AI, because of national security risks
China toma medidas para frenar sus exportaciones tecnológicas, como la IA, por riesgos de seguridad nacional
China is taking steps to slow its technology exports, such as AI, because of national security risks
China toma medidas para frenar sus exportaciones tecnológicas, como la IA, por riesgos de seguridad nacional
AI agents are only as good as the personal information you share. That raises questions about privacy.
Los agentes de IA son tan buenos como la información personal que compartes. Eso plantea dudas sobre la privacidad
AI agents are only as good as the personal information you share. That raises questions about privacy.
Los agentes de IA son tan buenos como la información personal que compartes. Eso plantea dudas sobre la privacidad
RFK Jr.'s support for AI confuses some MAHA allies and medical experts
El apoyo de RFK Jr. a la IA confunde a algunos aliados de MAHA y expertos médicos
RFK Jr.'s support for AI confuses some MAHA allies and medical experts
El apoyo de RFK Jr. a la IA confunde a algunos aliados de MAHA y expertos médicos
McDonald's is being sued over an AI that recommends prices to its franchisees in the U.S.
McDonald's, demandado por una IA que recomienda precios a sus franquiciados en EE. UU.
McDonald's is being sued over an AI that recommends prices to its franchisees in the U.S.
McDonald's, demandado por una IA que recomienda precios a sus franquiciados en EE. UU.
There is no transparency about what space weapons nations are looking for or about what is already in orbit
No hay transparencia sobre qué armas espaciales buscan las naciones ni sobre lo que ya está en órbita
There is no transparency about what space weapons nations are looking for or about what is already in orbit
No hay transparencia sobre qué armas espaciales buscan las naciones ni sobre lo que ya está en órbita
AI experts warn New York council as local governments deal with safety
Expertos en IA alertan al concejo de Nueva York mientras los gobiernos locales abordan la seguridad
AI experts warn New York council as local governments deal with safety
Expertos en IA alertan al concejo de Nueva York mientras los gobiernos locales abordan la seguridad
Ken Griffin, CEO of a hedge fund, gives $3 billion to Carnegie Mellon for a campus in Miami
Ken Griffin, CEO de un fondo de cobertura, dona $3 mil millones a Carnegie Mellon para un campus en Miami
Ken Griffin, CEO of a hedge fund, gives $3 billion to Carnegie Mellon for a campus in Miami
Ken Griffin, CEO de un fondo de cobertura, dona $3 mil millones a Carnegie Mellon para un campus en Miami