Millones de personas han descargado Muse, el agente de IA de Meta. Pero conseguir que haga lo que tú quieras tiene un costo en materia de privacidad.
El nuevo asistente personal de Meta, Muse, se ha convertido en un éxito viral: millones de personas han descargado este agente de IA, lo han vinculado a sus cuentas bancarias, mensajes o datos de salud, y le han permitido realizar tareas por ellos. Pero, a medida que Muse gana popularidad entre los consumidores, los datos del interior de la aplicación están revelando cómo organiza y presenta la información a los usuarios.
En los últimos días, varios investigadores han extraído los archivos internos de Muse y han publicado los prompts de funcionamiento del asistente, lo que permite vislumbrar cómo se ha construido el sistema y cómo se comporta. Meta sostiene que su intención era que estos archivos fueran accesibles en "aras de la transparencia", y efectivamente ofrecen información sobre cómo responde Muse a preguntas relacionadas con temas muy politizados o delicados.
Karan Joshi, investigador independiente especializado en seguridad e IA, logró extraer una amplia gama de prompts de Muse y mensajes del sistema utilizando la interfaz habitual del chat para pedirle al agente de IA que copiara y compartiera sus propios archivos de software. A continuación, Joshi compartió sus hallazgos con WIRED.
Uno de los prompts de Muse parece indicarle que cree "una página para cada persona en la vida del usuario". Este proceso, que se ejecuta cada hora, implica recopilar información sobre familiares, parejas, amigos, compañeros de trabajo, "colaboradores" y personas a las que el usuario "sigue".
La idea general es que Muse pueda utilizar su "memoria" (es decir, archivos de texto estructurados) para recopilar información sobre tus relaciones y las personas importantes en tu vida. A continuación, puede hacer sugerencias, como dar consejos sobre cómo mejorar determinadas relaciones o, por ejemplo, dónde llevar a un amigo amante del café a desayunar. Por supuesto, no es raro que los chatbots con IA recopilen información social en general; la gente lleva años pidiendo consejo sobre relaciones a ChatGPT. Pero resulta interesante ver cómo está configurado Muse, teniendo en cuenta el historial de Meta y su amplio acceso a los datos de las redes sociales.
La aplicación Muse sigue la tendencia de Meta de incluir a los usuarios de forma predeterminada en la recopilación de datos para el entrenamiento de la IA. Además, te anima a compartir los datos de tu cuenta bancaria, tu correo electrónico y tu pasaporte.
¿Sin consentimiento de terceros?
"Por lo que he visto en los prompts, las capacidades del sistema y la información que están introduciendo en Muse, parece que quieren comprender las relaciones que tienes con personas reales. Están intentando conocerte como lo haría un amigo y eso es perturbador", afirma Joshi.
La documentación de Muse indica que una página puede empezar escasa y luego completarse con el tiempo, incluyendo potencialmente secciones como "Datos", "Historia", "La relación", "Cosas en común", "Temas pendientes" y "Fortalecimiento". Los prompts de Meta indican que Muse solo debe utilizar la evidencia de la que dispone, y que los detalles inventados son peores que una página en blanco.
"Dónde viven, a qué se dedican, los temas recurrentes (la mudanza, el objetivo de ahorro compartido)", indican los prompts. Añaden, además, que el modelo podría registrar las "fechas importantes", como cumpleaños o aniversarios. La historia de una persona podría incluir antecedentes como "el viaje de marzo, la discusión que se resolvió, el hito de la semana pasada".
Los prompts también se centran en registrar detalles de la relación, como "lo unidas que están, en qué se basa, cómo se comportan la una con la otra y qué parece necesitar en este momento". La sección "Fortalecimiento" sugiere formas de mejorar una relación, entre ellas: "Un motivo para llamar, una fecha que valga la pena recordar, algo que hayan dicho y sobre lo que volver a hablar, una forma significativa de estar ahí para ellos".
"Estamos proporcionando a los sistemas de IA mucha más información sobre nosotros de la que obtenemos de ellos", afirma Carissa Véliz, profesora asociada del Instituto de Ética en IA de Oxford. Añade que no se trata solo de lo que les decimos explícitamente, sino de lo que pueden deducir de nosotros, lo cual es preocupante por diferentes razones.
La gente recurre a los chatbots de IA generativa para resolver sus conflictos interpersonales, pero algunos dicen que está aumentando su ansiedad.
Cómo funciona Muse realmente
Muse está diseñado de tal forma que cada usuario dispone de su propia máquina virtual dedicada, que almacena los datos y el contexto del usuario. Esta máquina virtual es inaccesible para otros agentes y los usuarios pueden borrar la memoria o desconectar servicios externos en cualquier momento. Meta afirma que Muse también está diseñado para solicitar la confirmación humana antes de llevar a cabo acciones como enviar un correo electrónico o realizar una compra, y que cuenta con un registro de auditoría en el que los usuarios pueden ver toda la actividad del agente y sus planes futuros.
"Para que cualquier agente resulte útil y te ayude realmente a alcanzar tus objetivos, necesita conocer el contexto sobre ti y sobre aquellas personas con las que interactúas", explicó el portavoz de Meta, Daniel Roberts, a WIRED en un comunicado. Muse recopila esa información a partir de datos públicos y de lo que has decidido compartir; así es como recuerda que la persona que te envió una factura es el fontanero al que contrataste para realizar trabajos en tu baño, o qué flores dijo tu pareja que le gustaban más.
Se ha convertido en algo habitual que los agentes de IA incorporen algún tipo de función de memoria diseñada para permitir una mayor personalización en las respuestas y las actividades. Miranda Bogen, directora del Laboratorio de Gobernanza de la IA del Centro para la Democracia y la Tecnología, afirma que Muse parece poner más énfasis en las relaciones y los contactos personales que los sistemas de la competencia. En general, estas herramientas suelen ofrecer cierta transparencia y capacidades de edición, y Muse también lo hace. Sin embargo, Bogen señala que, en todo caso, los agentes animan a las personas a compartir de forma proactiva más datos con ellos, en lugar de centrarse en la recopilación de datos.
"Estas herramientas de IA solicitan activamente a los usuarios que conecten toda su vida, sus correos electrónicos, calendarios, entidades financieras, todo, con el fin de ofrecer una asistencia útil", explica Bogen. Esto supone compartir muchos más datos de los que la gente hubiera compartido inicialmente. El amplio acceso que tienen estas herramientas hará que aumente exponencialmente lo que saben sobre sus usuarios.
Artículo originalmente publicado en WIRED.com. Adaptado por Alondra Flores.
Fuente: WIRED Leer noticia completa
Publicar un comentario