Meta IA: Cómo los chats en EE. UU. terminan en la plaza pública. Cómo evitarlo.

Pedir consejo sobre problemas de pareja, analizar análisis de sangre y obtener opiniones sobre la gestión del dinero son solo algunos de los usos más comunes que personas de todo el mundo le dan a Meta AI, el asistente de inteligencia artificial de Meta, que utiliza Llama 3.2, el gran modelo de lenguaje desarrollado por la empresa. En EE. UU., también está disponible a través de la app Discover, una especie de red social donde los usuarios pueden ver conversaciones de otras personas, comparar mensajes y ver imágenes generadas por otros.

Sabemos desde hace tiempo que uno de los aspectos más espinosos del asistente digital lanzado por Mark Zuckerberg —quien está invirtiendo fuertemente en el desarrollo de su propia inteligencia artificial, como lo demuestra el acuerdo de 14 mil millones firmado con Scale AI, la empresa de etiquetado de datos que emplea a miles de freelancers en todo el mundo para catalogar y retroalimentación de la inteligencia artificial— es su integración forzada en las plataformas. El asistente virtual se encuentra directamente dentro de las apps de WhatsApp, Instagram y Facebook, y no es posible desinstalarlo. Si el usuario no tiene intención de usarlo, solo puede abstenerse de abrir el chat o desinstalar la app por completo.

Por eso, hacer preguntas al círculo de IA como si se tratara de una charla con un amigo o un asesor se está convirtiendo en una costumbre cada vez más extendida. Lo que a menudo se pasa por alto es que revelar información demasiado personal a la IA de Meta puede provocar que la conversación se publique en el feed de Discover, una sección de la app (actualmente no disponible en Italia) que funciona como una red social. Aquí cualquiera puede leer cientos de intercambios entre los usuarios y la inteligencia artificial de Meta.

Las indicaciones, los diálogos y las imágenes generadas están disponibles en el feed. De esta forma, todos los usuarios de Meta pueden explorar cómo otros usan el asistente artificial, replicar las indicaciones y generar las mismas imágenes.

Pero muchas de estas interacciones contienen datos extremadamente sensibles, ya que el uso generalizado de estos modelos sigue el modelo de una interacción completamente humana: muchos confían en aspectos de su vida privada, piden diagnósticos y consejos sobre cómo administrar su dinero. En los chats públicos de Discover, se pueden encontrar numerosas interacciones sobre enfermedades, números de teléfono, solicitudes de medicamentos y detalles financieros. Todas estas solicitudes suelen estar asociadas al nombre de usuario y la foto de perfil del usuario que las realizó.