Subió un video de su hija a Facebook y descubrió que Meta AI sabía su edad, peso al nacer y lugares favoritos
Subió un video de su hija a Facebook y descubrió que Meta AI sabía su edad, peso al nacer y lugares favoritos - Captura Instagram kontheinside
T13 En Vivo
Probablemente más de alguien ha hecho algo parecido: grabar un video con sus hijos, subirlo a Instagram o Facebook y seguir con su día. Kalie Robins hizo exactamente eso. Estaba en el auto, cantando junto a una de sus hijas pequeñas, y compartió el momento sin siquiera mencionar el nombre de la niña.
Lo que no esperaba era que, al volver a mirar el video en Facebook, Meta AI le propusiera identificarla. “¿Quién es la niña pasajera?”, decía la sugerencia.
Robins hizo clic para ver qué podía decir la herramienta. Y ahí comenzó su sorpresa. Meta AI no solo habló de la niña que aparecía en el video. También empezó a entregar información sobre su otra hija, utilizando publicaciones familiares que llevaban años circulando en las plataformas de Meta.
Cumpleaños, anuncios de nacimiento, fotografías y otros recuerdos que habían sido compartidos por familiares aparecieron conectados en las respuestas de la inteligencia artificial.
La información estaba repartida entre publicaciones antiguas
Según relató Robins a Futurism, ella no había publicado directamente los nombres de sus hijas en sus propias cuentas de Instagram y Facebook. Sin embargo, otros integrantes de su familia sí habían compartido información sobre ellas a lo largo de los años.
La herramienta comenzó a reunir esos antecedentes. “Hice clic y me mostró un portafolio completo, no solo de mi hija que estaba en el auto, sino también de mi otra hija”, contó Robins al medio. “Pensé: ‘¿Por qué está eso aquí?’ Y luego siguió mostrándome más y más”.
Entre las respuestas aparecieron referencias a publicaciones familiares de cumpleaños y anuncios de nacimiento. Una de ellas correspondía a una fotografía de una de las niñas cuando era recién nacida, compartida años atrás por su abuela.
Meta AI incluso entregó información sobre el peso al nacer de una de las hijas. Pero la herramienta no se detuvo en datos básicos y comenzó a sugerir nuevas preguntas para Robins. Una de ellas era: “¿Qué edades tienen las hijas de Kalie?”
La respuesta se construyó a partir de publicaciones familiares y permitió elaborar una cronología con las edades de las niñas.
Después aparecieron otros detalles. La herramienta habló de sus intereses, como sus playas y libros favoritos, además de lugares donde practicaban senderismo. También habría utilizado sus edades para inferir en qué curso escolar podían encontrarse.
“Meta AI empezó a hablar que, por sus edades, este era el curso en el que deberían estar. Bueno, aquí solo hay una escuela, así que no sería difícil encontrarla”, recordó Robins.
La situación comenzó a inquietarla porque cada respuesta parecía abrir la puerta a otra consulta. “Seguía y seguía, y ese vacío en mi estómago se hacía cada vez más grande y profundo”, relató. “Sentía un pavor”.
Entre las nuevas sugerencias apareció una que llevó la preocupación de Robins a otro nivel: “¿Dónde vive Kalie Robins?”. La madre decidió seleccionarla.
Mientras procesaba la consulta, Meta AI indicó que estaba trabajando para “localizar a Kalie Robins”. Después entregó varios párrafos sobre el lugar donde probablemente residía, utilizando publicaciones antiguas como parte de la información.
Una de las referencias correspondía a una publicación de Facebook de 2018 que, según el resumen elaborado por la herramienta, la felicitaba por un logro personal.
Meta AI también sugirió preguntas relacionadas con la vida profesional de Robins y su trabajo en defensa de la salud mental. La herramienta incluso entregó información sobre el historial laboral de su marido, según el relato de la mujer.
Para Robins, el problema no era simplemente que esos datos existieran en redes sociales. Lo que la impactó fue la capacidad de la herramienta para reunir información dispersa y convertirla rápidamente en una descripción detallada de su familia.
“Pensaba que estábamos siendo prudentes”
Las cuentas de Robins en Instagram y Facebook eran públicas. La mujer utilizaba ambas plataformas como creadora de contenido relacionado con viajes y tenía unos pocos cientos de seguidores.
Ella misma reconoció que un investigador humano podría haber encontrado parte de esa información si dedicaba suficiente tiempo a revisar publicaciones antiguas. La diferencia, en su experiencia, estuvo en la rapidez con que Meta AI pudo relacionar esos datos.
“Pensaba que estábamos siendo prudentes e inteligentes”, dijo Robins. “He hecho mucho para asegurarme de que mis hijos estén seguros (…) cuanto más me lo mostraba la situación, más sentía que les estaba fallando, y no me daba cuenta”.
Robins contó que utiliza Facebook desde los primeros años de la plataforma y que las redes sociales se habían convertido en una manera de mantener el contacto con familiares que viven lejos.
Las fotografías de sus hijas compartidas por abuelos y otros parientes formaban parte de esa dinámica familiar. Eran recuerdos que, para ellos, tenían un valor personal. Ahora, sin embargo, Robins comenzó a pedirles que revisaran aquellas publicaciones y eliminaran u ocultaran algunas de ellas.
La decisión no ha sido sencilla para la familia. Robins contó que algunos de sus familiares se entristecieron al tener que borrar fotografías y recuerdos que habían conservado durante años. Una de ellas fue una abuela, quien le preguntó: “Este es mi álbum de recortes, ¿tengo que deshacerme de él?”
La propia Robins reconoció la contradicción. Para su familia, compartir fotografías de sus hijas era una manera de mantenerlas cerca pese a la distancia. “Me encanta ver a mi sobrina y a mi sobrino. Me encanta compartir a mis hijas con su familia, a quienes nunca ven”, explicó.
Para ella, el problema no estaba necesariamente en compartir esos recuerdos, sino en descubrir que, al estar repartidos durante años en distintas publicaciones, podían ser reunidos y relacionados por una herramienta de inteligencia artificial.
Meta reconoció que las sugerencias fueron un error
Días después de hacer público el caso, Robins contó en su perfil de Instagram que finalmente había recibido una respuesta de Meta.
Según explicó, la compañía confirmó que Meta AI puede buscar contenido propio al que tiene acceso un usuario, además de información pública disponible en internet.
Respecto de lo ocurrido con su familia, Robins señaló que Meta reconoció que la herramienta había fallado y que “la función nunca debería haberle hecho preguntas de ese tipo”. La empresa también le aseguró que “hemos solucionado ese problema”.
Robins valoró que Meta reconociera que la sugerencia que recibió no debió aparecer, pero aseguró que la respuesta no despejó todas sus dudas. “¿Qué fue exactamente arreglado? ¿Qué salvaguardia falló en primer lugar? ¿Y qué protecciones hay ahora en su lugar cuando Meta AI encuentra información que involucra a un niño?”, planteó en su publicación.
La madre explicó que todavía no tenía respuestas para esas preguntas.
