El Claude de Anthropic está contribuyendo al desarrollo, por parte de la empresa, de la próxima versión más inteligente del modelo, según anunció el laboratorio de inteligencia artificial el jueves.

Claude lidera el 26% de la investigación y desarrollo de modelos de Anthropic, lo que, según la empresa, implica que puede completar la mayor parte de una tarea determinada "de principio a fin a partir de un mensaje de alto nivel" mientras permanece bajo supervisión humana.

El modelo aún no opera de forma completamente autónoma.

No obstante, aproximadamente el 90% de la investigación y el desarrollo de la empresa se lleva a cabo en "colaboración" con Claude, lo que, según Anthropic, implica que el modelo puede ejecutar "grandes bloques de trabajo bajo estrecha dirección humana".

El anuncio se produjo en un momento en que algunas figuras destacadas de la IA, lideradas en gran medida por el CEO de Anthropic, Dario Amodei, abogan por una desaceleración en el desarrollo de la tecnología debido a preocupaciones de seguridad.

Mientras los líderes sopesan cómo regular el ritmo del desarrollo de la IA, "debemos hacer todo lo posible para minimizar la brecha entre lo que saben los laboratorios de frontera y lo que sabe el público", dijo la empresa en una publicación de blog.

"Esto implica medir mejor el desarrollo de la IA, informar sobre ello públicamente y brindar a la sociedad la oportunidad de decidir cómo emplear esta información".

La empresa señaló que los modelos que aceleran su propio desarrollo podrían dificultar que los humanos entiendan o controlen estos sistemas.

Sostuvo que compartir estas métricas permitiría comprender mejor hasta qué punto los principales laboratorios de IA se aproximan a la mejora recursiva de sí mismos, es decir, a la capacidad de un modelo de construir autónomamente su sucesor.

Anthropic también instó a otros desarrolladores de IA a compartir métricas similares de forma regular, fomentando el uso de una metodología pública para que los números puedan compararse a lo largo del tiempo y, potencialmente, entre laboratorios.

No quedó claro, a partir de la divulgación de Anthropic, hasta qué punto la empresa considera que está cerca de lograr la mejora recursiva de sí misma, pero es notable el ritmo al que Claude ha contribuido cada vez más a la investigación y el desarrollo.

La porción de trabajo que Claude "lidera", o realiza en gran medida mientras permanece bajo supervisión humana, era nula en febrero.

Seis meses después, lideraba una cuarta parte del trabajo de investigación y desarrollo, alcanzando ese hito en agosto.

Asimismo, la empresa compartió pormenores sobre las medidas de supervisión de agentes que tiene implementadas, indicando que en agosto había aproximadamente 30.000 agentes desempeñando labores de investigación e ingeniería.

Dichas medidas de supervisión resultan fundamentales para determinar con qué frecuencia los sistemas de monitoreo detectan conductas indebidas por parte de los agentes, según declaró la empresa.

Anthropic se comprometió recientemente a establecer evaluadores externos de terceros que estarán integrados dentro de la empresa con el fin de supervisar los esfuerzos de seguridad.

Un investigador de Anthropic suscitó gran parte del debate reciente en torno a la seguridad de la IA al dimitir la semana pasada con una severa advertencia sobre las amenazas que dicha tecnología representa para la humanidad.

Desde entonces, Amodei, el CEO de OpenAI, Sam Altman, Elon Musk y otros líderes del sector tecnológico han respaldado la idea de frenar el desarrollo, mientras que otros líderes tecnológicos, así como el presidente Donald Trump, han rechazado dicha propuesta.