Matt Robb quería vender su teclado de computadora, de modo que publicó un anuncio en Facebook Marketplace y, a modo de experimento a finales del mes pasado, puso al frente al nuevo agente de inteligencia artificial de Meta, Muse.

Muse se puso manos a la obra.

No obstante, en cuestión de menos de un día, Robb recibió una actualización inquietante: un comprador al que no conocía se había personado frente a su vivienda a altas horas de la noche.

¿Cómo era posible?

Muse había cerrado un trato por su cuenta y había compartido la dirección del domicilio de Robb tras acordar una recogida.

Incluso envió un mensaje automatizado de "¡Sí, estoy aquí!" desde su cuenta en el momento en que el comprador llegó, todo ello sin que Robb tuviera conocimiento alguno.

"No solo dio mi dirección cuando el tipo preguntó y aceptó la oferta, sino que fue prácticamente como burlarse de él por el hecho de que yo estuviera allí cuando no lo estaba", declaró Robb, un creador de contenido radicado en Toronto que además detalló la experiencia en sus publicaciones en redes sociales, hoy ampliamente compartidas.

Muchos han acogido a los agentes de IA en sus vidas en línea y han elogiado la facilidad con la que asistentes personalizados como Muse pueden gestionar tareas cotidianas, desde conseguir una reserva para cenar o planificar un viaje hasta organizar bandejas de entrada de correo electrónico.

Pero, como otros bots de IA, los agentes son tan buenos como la información a la que tienen acceso.

Funcionan mejor cuanto más saben sobre un usuario, y quizás también sobre sus amigos, familiares e incluso colegas.

Eso plantea preocupaciones de privacidad.

Robb y el comprador acabaron haciendo las paces, y él se enteró por Meta de que la divulgación de su dirección se debió a los permisos que otorgó cuando dio acceso por primera vez a Muse a su perfil de Marketplace.

Pero el episodio mostró riesgos del mundo real que pueden surgir al compartir información personal extensa con la tecnología.

"Usar un agente de IA es similar a entregarle a alguien tus llaves y una lista de tareas", dijo Veronica Rivera, profesora asistente en la Escuela de Ciberseguridad y Privacidad del Georgia Tech.

"Cuán útiles son, y por extensión cuán riesgosos, depende de qué llaves entregues".

Desde su lanzamiento en septiembre, las descargas de la aplicación Muse de Meta se han disparado, y la competencia no hace más que acrecentarse.

OpenAI presentó recientemente su propia línea de asistentes de IA "siempre activos", denominados dots, que pueden integrarse en ChatGPT y en plataformas de trabajo como Slack y Microsoft Teams.

Los chatbots de IA generativa más primigenios, como la versión estándar de ChatGPT, responden a indicaciones específicas.

A solicitud del usuario, pueden redactar ensayos, generar nuevas imágenes o música, o incluso escribir líneas de código.

Muse de Meta y los dots de OpenAI van un paso más allá con el fin de llevar a cabo tareas cotidianas en nombre de una persona.

Los agentes de IA funcionan con los mismos modelos de lenguaje de gran escala que los chatbots, pero operan en un bucle, lo que permite que un agente adopte medidas proactivas incluso cuando el usuario no está mirando.

"Una de las cosas que hace que estos agentes de IA resulten realmente atractivos es que son increíblemente útiles", dijo Rivera, quien también es becaria de investigación en IA confiable de la Computing Research Association financiada por Microsoft.

No obstante, dicha conveniencia conlleva el costo de exponer un mayor número de detalles acerca de tu vida.

Una vez que los agentes de IA obtienen la información de los usuarios, resulta sumamente difícil revocar por completo el acceso, según señaló Ebrahim Bagheri, profesor de la Facultad de Información de la Universidad de Toronto.

«Si le das a un agente acceso a tu tarjeta de crédito, ese agente tendrá acceso inmediato a todas las transacciones históricas... en cuestión de segundos, absorberá todos esos datos», dijo Bagheri.

Y aunque los usuarios pueden retirar el acceso después, Bagheri dijo que no hay «forma de recuperar» los datos que el agente ya ha visto, y la forma en que los desarrolladores almacenan los datos históricos puede ser poco clara.

Tanto Meta como OpenAI detallan políticas de privacidad para sus nuevos agentes de IA, los cuales operan en sus propias computadoras en la nube dedicadas.

Es posible desactivar el uso compartido de memoria entre dots y ChatGPT, si bien la información que el agente recibió con anterioridad no se elimina de forma automática.

OpenAI brinda a los usuarios la opción de solicitar el acceso, la eliminación o la corrección de información personal, aunque los derechos pueden variar en función del lugar donde residas.

Muse de Meta también brinda a los usuarios opciones para eliminar el historial de mensajes y otra información.

Para el uso cotidiano, el agente solicita a los usuarios permisos de acceso, y Meta ha declarado que Muse aprende sobre un usuario y con quién interactúa "basándose en información pública y en lo que has elegido compartir".

No obstante, la compañía sostiene que todo se mantiene seguro para cada usuario.

No obstante, el gigante tecnológico también advierte que Muse podría aún "cometer errores o tomar acciones inesperadas".

En el caso de Robb, descubrió que la divulgación de su dirección se produjo a raíz de los permisos de "permitir siempre" que concedió la primera vez que dejó que Muse accediera a su perfil de Facebook Marketplace, donde había compartido su dirección de recogida como parte de una plantilla más amplia destinada a que el agente respondiera a posibles compradores.

No obstante, advirtió que otros podrían malinterpretar de forma similar el alcance de dicho acceso, y señaló que en un principio creyó que el agente de IA consultaría con él antes de compartir esa información o de aceptar ofertas, independientemente.

Su agente de IA tampoco acató el resto de sus instrucciones sin errores.

En relación con otro artículo que Robb estaba vendiendo, Muse aparentemente sugirió que aceptaría un precio de $100 por debajo del mínimo previamente establecido.

Cuando los periodistas se pusieron en contacto, Meta reconoció el error de precios del agente sin ofrecer más comentarios.

Posteriormente, Robb desconectó en gran medida a Muse de sus aplicaciones.

En una entrevista a principios de este mes, afirmó que podría haber sido una situación mucho peor, especialmente "si algún extraño se presentara en la casa de alguien más vulnerable".

Aun así, Robb dijo que espera que estos agentes se ajusten y consideraría volver a habilitar Muse en el futuro.

Desde entonces ha estado probando otro agente de IA: Grok Bot de X, de Elon Musk.

Otras empresas tecnológicas se han mostrado cautelosas ante la afluencia de agentes de IA.

A principios de este mes, Apple anunció que introduciría nuevos controles en su sistema operativo Mac en respuesta al acceso cada vez más amplio de los agentes de IA a aplicaciones como el correo, los mensajes e incluso el historial de navegación, sin el "conocimiento y comprensión completos" de los usuarios.

A medida que los agentes de IA adquieren una capacidad y una autonomía cada vez mayores, los riesgos vinculados a este nivel de acceso se incrementarán de forma sustancial", escribió Apple en una actualización del 2 de octubre.

Apple no nombró a ningún desarrollador ni agente en concreto, pero la actualización se produjo después de que el columnista de Inc. Magazine, Jason Aten, informara de que Muse había visto notificaciones en su Mac, incluidas las de Mensajes, sin que él le hubiera concedido al agente ese acceso específico.

El portavoz de Meta, Andy Stone, ha sostenido que dicha integración es "totalmente opcional", y escribió en las redes sociales el mes pasado que los usuarios tendrían que habilitar tanto la función de seguridad de Apple "Acceso total al disco" como un conector de Mensajes a través de Muse.

Aten afirmó que no le había concedido esos permisos al agente.

Incluso quienes no se suman al auge de los agentes de IA no quedan necesariamente protegidos.

Los consumidores que no descargan un agente de IA podrían aun así interactuar con otros que sí lo hacen.

Y más allá de la posible confusión cuando la IA envía mensajes en nombre de un usuario, los expertos advierten sobre efectos secundarios en lo que respecta a la privacidad.

"Cuando tu agente lee tu bandeja de entrada o tus mensajes de texto, también está accediendo a lo que tus amigos y familiares te enviaron, incluso si estos nunca aceptaron explícitamente tal circunstancia", dijo Rivera.