La bloguera de Instagram Kaylee Robins ha compartido en redes sociales la historia del comportamiento que considera indignante del asistente de IA de Meta AI.
Robins publicó en la red una foto junto a sus hijas. Poco después descubrió bajo la publicación en Facebook una recomendación personalizada del asistente de IA de Meta AI: este le proponía reconocer a las niñas de la foto. La bloguera ha asegurado que se quedó horrorizada, pero decidió comprobar qué información le daría la red neuronal.
En respuesta a su consulta, Meta AI indicó los nombres de las niñas, facilitó enlaces a otras fotos con ellas y añadió información adicional extraída de publicaciones de familiares de Robins.
«El asistente de IA me dio toda una selección de fotografías, no solo de mi hija que estaba en el coche, sino también de mi otra hija. Pensé: “¿Qué hace esto aquí?”, y luego él [Meta AI] empezó a mostrar cada vez más fotografías»
Posteriormente, Meta AI llegó a proponer averiguar la dirección de residencia de Kaylee Robins, así como la edad de sus hijas.
Numerosos medios internacionales se han hecho eco de la noticia. En Meta han admitido ante el medio The Verge que este comportamiento del asistente de IA es inadmisible:
«Esta función no debería haber planteado nunca ese tipo de preguntas a una persona. La creamos para ayudar a la gente a obtener más información sobre los temas o publicaciones que le interesan. Cuando alguien pulsa en una consulta y usa esta función, la respuesta se genera a partir de la información a la que el usuario ya tiene acceso»