El Claude de Anthropic está coadyuvando a la empresa en el desarrollo de la próxima versión más inteligente del modelo, según declaró el laboratorio de inteligencia artificial en un anuncio emitido el jueves.

Claude encabeza el 26% de la investigación y desarrollo de modelos de Anthropic, lo que, según la empresa, conlleva que pueda completar la mayor parte de una tarea determinada "de principio a fin a partir de un mensaje de alto nivel" mientras permanece bajo supervisión humana.

El modelo aún no opera de forma plenamente autónoma.

Con todo, en torno al 90% de la investigación y el desarrollo de la empresa se lleva a cabo en "colaboración" con Claude, lo que, según Anthropic, viene a significar que el modelo es capaz de acometer "grandes bloques de trabajo bajo estrecha dirección humana".

El anuncio se produjo en un momento en que figuras prominentes del ámbito de la IA, lideradas en gran medida por el CEO de Anthropic, Dario Amodei, abogan por una desaceleración en el desarrollo de dicha tecnología, aduciendo preocupaciones de índole securitaria.

Mientras los líderes sopesan cómo regular el ritmo del desarrollo de la IA, "debemos hacer todo lo posible para minimizar la brecha entre lo que saben los laboratorios de frontera y lo que sabe el público", dijo la empresa en una publicación de blog.

"Esto significa medir mejor el desarrollo de la IA, informar sobre ello públicamente y dar a la sociedad la oportunidad de decidir cómo usar esta información".

La empresa sostuvo que los modelos que aceleran su propio desarrollo podrían propiciar que resulte "más difícil para los humanos entender o controlar estos sistemas".

Adujo que compartir dichas métricas podría conducir a una comprensión más cabal de cuán cerca se hallan los principales laboratorios de IA de alcanzar la mejora recursiva de sí mismos, o la capacidad de un modelo de construir autónomamente su sucesor.

Anthropic instó asimismo a otros desarrolladores de IA a que compartieran métricas análogas de manera periódica, propiciando la adopción de una metodología pública merced a la cual dichas cifras pudieran compararse a lo largo del tiempo y, potencialmente, entre laboratorios.

No se desprende con nitidez de la divulgación de Anthropic hasta qué punto considera la empresa hallarse próxima a consumar la mejora recursiva de sí misma, si bien el ritmo al que Claude ha contribuido de manera crecientemente sustantiva a la investigación y el desarrollo resulta digno de mención.

La porción de trabajo que Claude "lidera", o acomete en gran medida mientras permanece bajo supervisión humana, era nula en febrero.

Seis meses después, lideraba una cuarta parte del trabajo de investigación y desarrollo, hito que alcanzó en agosto.

Asimismo, la empresa desglosó las medidas de supervisión de agentes que tiene implementadas, precisando que, para agosto, alrededor de 30.000 agentes desempeñaban labores de investigación e ingeniería.

Dichas medidas de supervisión resultan capitales para dilucidar con qué asiduidad los sistemas de monitoreo detectan la conducta improcedente de los agentes, según indicó la empresa.

Anthropic se comprometió recientemente a designar evaluadores externos de terceros que quedarán integrados en el seno de la empresa con el fin de supervisar los esfuerzos en materia de seguridad.

Un investigador de Anthropic suscitó gran parte del diálogo reciente en torno a la seguridad de la IA cuando dimitió la semana pasada con una advertencia grave acerca de las amenazas que dicha tecnología plantea a la humanidad.

Desde entonces, Amodei, el CEO de OpenAI, Sam Altman, Elon Musk y otros líderes tecnológicos han respaldado la idea de frenar el desarrollo, si bien otros líderes tecnológicos y el presidente Donald Trump han rechazado dicha propuesta.