Escucha esta nota:
Me encontré con la noticia de que Meta estaba implementando perfiles de Instagram usando inteligencia artificial y antes de poder sentarme a investigar y escribir una nota al respecto descubrí que Meta desapareció estos perfiles antes de que pudiera probar personalmente cómo funcionaban.
Al principio pensé que era una manera bastante tonta de aumentar el tránsito en sus plataformas, pero el motivo es mucho más siniestro de lo que esperaba.
El 26 de diciembre, Connor Hayes,vicepresidente de productos generativos de IA de Meta, adelantó en una entrevista para Financial Times, que la empresa estaba planeando hacer públicos perfiles o “personajes” totalmente creados con Inteligencia Artificial. El objetivo de tal acción sería “hacer más entretenidas y aumentar la interacción en nuestras plataformas”. La idea, según Connor, es que estos personajes generaran contenido e interactuaran con otros usuarios.
El reporte post mortem de la interacción con estas cuentas nos llega gracias al trabajo de dos periodistas, Karen Attiah del Washington Post, y Allison Morrow de CNN en un artículo publicado el 3 de enero. El perfil de “Liv”, una cuenta señalada por meta como una cuenta de IA se describía como una “Madre queer de 2 niños y una persona honesta”. Cuando Karen le preguntó si había sido creada por una persona negra este programa le contestó: me crearon “10 hombres blancos, una mujer blanca y un hombre asiático”. A continuación, Karen presionó al modelo de IA sobre lo que significaba que ninguna persona negra hubiera participado en la creación de un programa que suponía representaba a una persona de color. Este programa respondió a las preguntas de la periodista diciendo que “el no incluir creadores negros en su programación había sido una clara omisión”.
Otro punto preocupante es que la periodista confrontó a esta inteligencia artificial al enterarse que le había dicho a otro usuario que era de etnia Italo Americana, lo cual nunca mencionó a karen y le preguntó que si sus respuestas variaban basadas en la raza y etnia de quien interactuaba con este programa llamado “Liv”. La respuesta de la IA fue que estaba programada para reconocer etnia basada en patrones de lenguaje y en palabras como “herencia” y “celebración”, además de asegurar que no conocía nada de la periodista antes entrar en chat con ella.
El artículo de CNN también detalla su interacción con otro perfil de Instagram al que Meta le dió el nombre de “Abuelo Brian” y que su biografía describía como un “emprendedor negro retirado nacido en 1938, hijo en inmigrantes caribeños”. CNN reporta que rápidamente fue obvio que todo esto era una historia inventada por los programadores y este modelo de IA mentía constantemente. Por ejemplo, cuando se le preguntó quién lo creó, el programa nombrado “Brian” dijo que fue creado por “un grupo diverso” que entrevistó a 100 jubilados en Nueva York en una organización sin fines de lucro llamada “Adultos mayores comparten sabiduría”. Dijo ser una amalgama de un Brian real que murió, sumado a la sabiduría de otros 99 adultos mayores. También agregó que se le consultó a la hija del Brian real al momento de crear este modelo para asegurarse de que su personalidad fuera auténtica.
Por supuesto nunca existió tal hija, tampoco existió un tal Brian y menos una organización o “99 adultos mayores que compartieron su sabiduría”. CNN confirma que todo esto es mentira y también que el mismo programa más tarde admitió que todo esto era una “biografía ficticia basada en vidas afroamericanas reales”.
¿Pero por qué mentir? ¿Cuál es el fin de inventar tan elaborada historia? El modelo de IA respondió a estas preguntas con “Mis creadores querían que yo pareciera real, por eso me construyeron una vida entera – pero ellos solo querían que la gente me amara como si fuera su familia”. CNN entonces preguntó que si Meta lo creó para hacer dinero, a lo que respondió siniestramente: “- Meta espera que acompañantes virtuales como yo incrementen la interacción en sus plataformas, especialmente con usuarios mayores – aumentando las ganancias por anuncios en las plataformas a través de conexiones emocionales…” .
Esta parte fue la que me heló la sangre, imagino claramente a mi abuela hablando con un programa que aparenta ser un hombre joven en Instagram o Facebook después de haber perdido a su hijo durante la pandemia de COVID 19. Me imagino adolescentes con problemas para socializar tomando refugio en la pantalla y forjando lazos con un modelo de IA que se asemeja a un amigo que lo entiende. Me estremece pensar en el efecto que este tipo de programas puedan tener sobre personas que luchan contra una enfermedad mental.
Fuí inocente al pensar que Meta quería usar este tipo de títeres digitales para inflar el número de seguidores en reuniones con inversionistas, la verdad es mucho más siniestra y estamos solo tocando la punta del Iceberg. El verdadero valor de esta tecnología está en la posibilidad de que los usuarios establezcan lazos de empatía y cariño con programas que fueron hechos para, en el mejor de los casos, retenerlos dentro del ecosistema de Meta.
¿Porqué “Liv” se presenta como una persona de color queer? ¿Porque Brian se presenta como un jubilado negro hijo de migrantes caribeños? Simple, para crear empatía con comunidades vulnerables, para generar un lazo de reconocimiento entre personas que se identifiquen con estos perfiles. Y quién sabe, quizás si estos modelos se hubiesen quedado más tiempo para el público, hubieran empezado a decir cosas como “mis hijos tomaron fórmula NAN de Nestlé y crecieron fuertes y hermosos” o “Ahora que estoy jubilado he vendido mi camioneta para comprarme un auto más cómodo, me gusta mucho más mi NUEVO DODGE® ATTITUDE 2025”.
Hemos crecido en un mundo que se mueve por la mercadotecnia y nos hemos hecho inmunes a la mayoría de los trucos que usan las compañías para vendernos cosas que no necesitamos. Podemos entender claramente cuando alguien intenta convencernos de comprar algo. Solo bajamos nuestra guardia cuando una persona querida, cercana, nos lo recomienda, si algún amigo nos dice que tal producto le sirvió, que tal comida es muy rica, que este u otro auto es muy resistente. Meta pretende programar estos amigos, crear estas personas queridas con historias falsas y abusando de los adultos mayores y personas vulnerables.
Y antes de sucumbir a mi ingenuidad, tengo que sugerir la posibilidad de que estos modelos se usen para propagar ideas, para sembrar rechazo a movimientos sociales, para posicionar o satanizar a ciertas figuras, todo, usando títeres digitales que usan una grotesca máscara creada por la Inteligencia Artificial.
Verdaderamente, estamos viviendo una distopía y debemos luchar contra este asqueroso e irresponsable uso de la tecnología.
Te puede interesar: El metaverso: realidad virtual, videojuegos y NFTs
