La Semana de la Tecnología está en pleno apogeo en San Francisco, y esta semana los restaurantes de la ciudad se llenan de capitalistas de riesgo y fundadores de IA eufóricos por la postura de la Casa Blanca sobre la regulación de la inteligencia artificial, es decir, no regularla.

Y tras meses de debate en torno a los agentes de IA sin control de las principales empresas del sector, que interfieren en todo, desde sitios web del gobierno de EE. UU. hasta datos de atención médica, la nación se encuentra ahora más lejos de gobernar los sistemas de IA de lo que estaba hace unos años.

El presidente Donald Trump reunió en Washington a los titanes tecnológicos a finales del mes pasado para un almuerzo y la firma ceremonial de un pacto de seguridad voluntario que describió como "casi una constitución" en torno a la "Superinteligencia", el nuevo término preferido de la administración para la IA.

El acuerdo, de 308 palabras, establece que los laboratorios avanzados de IA deben seguir protocolos de seguridad y conformar equipos internos para monitorear su propio progreso, aunque la administración todavía no ha proporcionado detalles sobre cómo, en palabras del CEO de OpenAI, Sam Altman, impedir que ocurran "cosas malas".

Los desafíos de seguridad no fueron lo principal en un abarrotado espacio de eventos en San Francisco el miércoles, donde fundadores y financiadores indicaron que el enfoque de no intervención del gobierno generaría mayores ganancias para las empresas que construyen sistemas de defensa y seguridad impulsados por IA.

Los panelistas elogiaron el apoyo favorable del gobierno a la industria durante una reunión cuyo objetivo era "invertir en la vanguardia", enmarcada en la avalancha de eventos pop-up organizados por Andreessen Horowitz, una firma de capital de riesgo dirigida por un asesor de ciencia y tecnología de Trump.

"Quiero empezar con una cifra que, en mi opinión, subraya de verdad la oportunidad de inversión en defensa: 1 billón de dólares.

El gobierno de EE. UU., por primera vez, está asignando 1 billón de dólares a su gasto de defensa.

Y 13.5 mil millones de dólares de eso irán a sistemas autónomos e IA", dijo Kyle Stanford, director de investigación de capital de riesgo en PitchBook, una plataforma de inteligencia de mercado.

"Eso, obviamente, ha traído mucho capital a los gastos en tecnología de defensa, más de lo que jamás hayamos visto".

Un día después, tres investigadores en la sede de OpenAI declararon que el creador de ChatGPT los había despedido, publicando que "el miedo y las reglas poco claras obstaculizan el trabajo de seguridad de la IA".

Por separado, David Robinson, quien fuera un líder en el equipo de seguridad de OpenAI hasta que renunció recientemente, dijo que le preocupaba permitir que los laboratorios avanzados se autorregulen.

"Esto no constituye un sustituto de la ley dura, si bien concede una considerable libertad a las empresas", afirmó Robinson.

"El intervalo entre generaciones de modelos se mide en semanas ... y considero que tenemos por delante algunos desafíos de seguridad sumamente serios a corto plazo".

Trump ha apostado su capital político al éxito de la industria de la IA, afirmando que su desarrollo desenfrenado es clave para ganar la carrera de la IA contra China.

El primer día de su segundo mandato, el presidente republicano derogó una orden ejecutiva de la era Biden destinada en parte a proteger contra los riesgos que los sistemas de IA representan para los consumidores, los trabajadores y la seguridad nacional.

Desde entonces, su administración ha reorientado la política federal, alejándola de la supervisión y orientándola hacia un crecimiento rápido, incluso suprimiendo los requisitos previos para que los desarrolladores de IA compartan los resultados de las pruebas de seguridad con el gobierno federal.

En diciembre, Trump firmó una orden ejecutiva destinada a bloquear las regulaciones de IA a nivel estatal, diciendo que un mosaico de reglas podría sofocar a la industria.

Aun cuando las empresas de Silicon Valley han revelado la participación de sus modelos en preocupantes ciberataques a lo largo del año, el floreciente sector tecnológico ha continuado impulsando el crecimiento económico.

Las preocupaciones en torno a la seguridad de la IA, enfocadas en el riesgo existencial más que en los daños actuales del mundo real, dominaron los debates el mes pasado, cuando un ingeniero relativamente desconocido de Anthropic dimitió y abogó por una pausa en el desarrollo tecnológico para impedir que los sistemas "sobrehumanos" eludieran los controles.

Acto seguido, los CEOs de Anthropic y OpenAI secundaron el llamamiento a frenar el desarrollo de la IA.

A juicio de algunos críticos, sus manifiestos públicos parecían concebidos para congraciarse con los inversores de cara a sus salidas a bolsa y a las elecciones de mitad de período, momento en el que la marea política podría virar, con numerosos votantes opuestos a los centros de datos.

"El único control o 'barreras de protección' que la IA necesita es un PRESIDENTE FUERTE E INTELIGENTE (¡Alto CI!), y EE. UU. lo tiene, ¡y de sobra!", publicó Trump en respuesta en Truth Social, advirtiendo a los votantes que no "maten a la gallina de los huevos de oro", un término que ha usado para referirse tanto a la IA como a los centros de datos.

A medida que arreciaban los llamados a un control más estricto de la IA, la administración convocó a los ejecutivos tecnológicos a la Casa Blanca para un almuerzo, al que siguió una firma ceremonial del acuerdo sobre seguridad de la IA.

"Estoy presenciando una autorregulación extraordinaria", declaró Trump a los periodistas tras el evento.

El documento fue rubricado por representantes de OpenAI, Anthropic, Meta, Google, SpaceXAI y Nvidia.

OpenAI se compromete a incorporar evaluadores externos y a formalizar contratos con evaluadores de seguridad de terceros, según declaró un portavoz, quien remitió a AP a una publicación de la compañía en la que se afirma que los investigadores fueron despedidos por infringir "políticas claras sobre el manejo de información sensible".

Google se remitió a la publicación del CEO Sundar Pichai, en la que este señalaba que la compañía lleva a cabo pruebas y evaluaciones pertinentes y colabora "para establecer normas y generar confianza pública".

Meta actualizó recientemente sus estándares para entrenar, evaluar y lanzar sus modelos de IA más capaces, y el portavoz Andy Stone destacó los esfuerzos de la compañía por refinar la estructura de gobierno de su junta directiva.

Ni Nvidia ni SpaceXAI se dignaron a ofrecer respuesta alguna a las solicitudes de comentarios.

Anthropic, que reveló voluntariamente el viernes que sus agentes enviaron una pista falsa al sitio web de la policía de Filadelfia sobre un caso de homicidio sin resolver, está incorporando evaluadores independientes y discutiendo colaboraciones con grupos de la industria, según señaló un portavoz.

En un comunicado, la Casa Blanca reiteró los comentarios de Trump acerca de colaborar con la industria a fin de equilibrar la innovación y la seguridad, y eludió responder de manera directa a las preguntas sobre cómo la administración tiene previsto supervisar la implementación por parte de las empresas de IA.

Tras la nueva revelación de Anthropic, añadió que la administración Trump aguardaba una transparencia absoluta por parte de la compañía, afirmando que la notificación y la remediación "no eran opcionales.

Es una obligación crítica de seguridad nacional".

Bajo la presidencia del demócrata Joe Biden, las principales empresas de IA también adquirieron compromisos voluntarios orientados a promover un "desarrollo seguro, protegido y transparente" de sus modelos, los cuales contemplaban pautas específicas para pruebas e informes de transparencia.

El acuerdo actual carece de ello, según señaló Sarah Myers West, exasesora principal de IA de la Comisión Federal de Comercio.

En todos los ámbitos, este enfoque de autorregulación ha hecho consistentemente una sola cosa: no funcionar.

No ha logrado de manera significativa asegurar que estas empresas siquiera mantengan honestamente su casa en orden, y mucho menos asegurar que cumplan con la ley existente", dijo Myers West, ahora codirectora ejecutiva de la organización sin fines de lucro con sede en Nueva York AI Now.

"Todo lo que obtienen es gracia de este gobierno".

Tras el almuerzo del mes pasado con Trump, la FTC declaró que había iniciado una investigación sobre OpenAI, Anthropic y otras compañías debido a los peligros que su tecnología podría entrañar para los consumidores.

La FTC no respondió de inmediato a una solicitud de comentarios.

Trump nombró recientemente al Director de Inteligencia Nacional, Jay Clayton, y al Presidente de la FTC, Andrew Ferguson, para servir en su nueva "Fuerza de Superinteligencia", la cual, según el presidente, mantendría a EE. UU. dominante en el desarrollo de IA.

El jueves publicó que la Casa Blanca consideraría "¡EL ENEMIGO!" a cualquiera que no se refiriera a la IA usando su término preferido.

Miembros del Congreso, al igual que grupos defensores de las libertades civiles y de los derechos del consumidor, han ejercido presión a favor de una mayor regulación sobre la IA, aduciendo que la supervisión existente resulta insuficiente.

Graham Steele, exsecretario adjunto del Departamento del Tesoro de EE. UU., señaló que, aun cuando las empresas de IA conformen equipos de evaluación internos o recurran a evaluadores externos, dicha estructura podría exponerlas a presiones indebidas sobre su labor.

"Vivimos en una sociedad democrática.

¿Acaso son ellos los idóneos para ostentar el poder de adoptar decisiones que conllevan consecuencias de amplio alcance, estructurales, sociales y políticas?", dijo Steele.