Los especialistas han descubierto que Muse ofrece por sí solo información detallada sobre sus instrucciones si se le pide en la ventana del chatbot. El investigador de seguridad en IA Karan Joshi ha asegurado a Wired que el agente de IA recopila cada hora información relacionada con «la familia, la pareja, los amigos y los colegas».
«De todas esas indicaciones, los datos sobre habilidades del sistema y lo demás que le pasan a Muse, me dio la impresión de que quieren entender tu relación con personas reales. Intentan conocerte como amigo, lo que, sinceramente, resulta bastante inquietante».
Además, según se informa, Muse recopila de forma activa información sobre fechas importantes y sobre el grado de cercanía del usuario con sus conocidos. Carissa Véliz, profesora asociada del Instituto de Ética en Inteligencia Artificial de Oxford, ha llamado la atención del medio sobre que los sistemas de IA a menudo obtienen más información sobre los usuarios de la que les comunican.
En Meta, mientras tanto, señalan que el modelo de IA está diseñado para garantizar la máxima privacidad de los datos. Los usuarios también pueden borrar en cualquier momento todos los datos de la memoria virtual de Muse.
«Para que cualquier agente sea útil y te ayude de verdad a alcanzar tus objetivos, debe tener una idea de ti y de las personas con las que interactúas. Muse lo construye a partir de información pública y de lo que tú decides compartir, es decir, recuerda que la persona que te envió una factura es en realidad el fontanero que contrataste antes para reformar el baño, o qué flores, según tu pareja, fueron las que más le gustaron».