{"id":27546,"date":"2025-01-06T12:22:38","date_gmt":"2025-01-06T19:22:38","guid":{"rendered":"https:\/\/peninsula360press.com\/?p=27546"},"modified":"2025-01-18T21:00:06","modified_gmt":"2025-01-19T04:00:06","slug":"meta-abusa-de-poblaciones-vulnerables-con-este-modelo-de-ia","status":"publish","type":"post","link":"https:\/\/peninsula360press.com\/es_mx\/meta-abusa-de-poblaciones-vulnerables-con-este-modelo-de-ia\/","title":{"rendered":"Meta abusa de poblaciones vulnerables con este modelo de Inteligencia artificial"},"content":{"rendered":"

Escucha esta nota:<\/p>\n

Me encontr\u00e9 con la noticia de que Meta estaba implementando perfiles de Instagram usando inteligencia artificial y antes de poder sentarme a investigar y escribir una nota al respecto descubr\u00ed que Meta desapareci\u00f3 estos perfiles antes de que pudiera probar personalmente c\u00f3mo funcionaban.\u00a0<\/span><\/p>\n

Al principio pens\u00e9 que era una manera bastante tonta de aumentar el tr\u00e1nsito en sus plataformas, pero el motivo es mucho m\u00e1s siniestro de lo que esperaba.\u00a0<\/span><\/p>\n

\"\"
Perfil del programa llamado “Liv” creado en Instagram. Im\u00e1gen recuperada de Reddit<\/figcaption><\/figure>\n

 <\/p>\n

El 26 de diciembre, Connor Hayes,vicepresidente de productos generativos de IA de Meta, adelant\u00f3 en una entrevista para <\/span>Financial Times<\/span><\/a>, que la empresa estaba planeando hacer p\u00fablicos perfiles o \u201cpersonajes\u201d totalmente creados con Inteligencia Artificial. El objetivo de tal acci\u00f3n ser\u00eda \u201chacer m\u00e1s entretenidas y aumentar la interacci\u00f3n en nuestras plataformas\u201d. La idea, seg\u00fan Connor, es que estos personajes generaran contenido e interactuaran con otros usuarios.<\/span><\/p>\n

El reporte post mortem de la interacci\u00f3n con estas cuentas nos llega gracias al trabajo de dos periodistas, <\/span>Karen Attiah<\/span><\/a> del Washington Post, y <\/span>Allison Morrow<\/span><\/a> de CNN en un art\u00edculo publicado el 3 de enero. El perfil de \u201cLiv\u201d, una cuenta se\u00f1alada por meta como una cuenta de IA se describ\u00eda como una \u201cMadre queer de 2 ni\u00f1os y una persona honesta\u201d. Cuando Karen le pregunt\u00f3 si hab\u00eda sido creada por una persona negra este programa le contest\u00f3: me crearon \u201c10 hombres blancos, una mujer blanca y un hombre asi\u00e1tico\u201d. A continuaci\u00f3n, Karen presion\u00f3 al modelo de IA sobre lo que significaba que ninguna persona negra hubiera participado en la creaci\u00f3n de un programa que supon\u00eda representaba a una persona de color. Este programa respondi\u00f3 a las preguntas de la periodista diciendo que \u201cel no incluir creadores negros en su programaci\u00f3n hab\u00eda sido una clara omisi\u00f3n\u201d.\u00a0<\/span><\/p>\n

\"\"
Fragmento de la conversaci\u00f3n de la periodista Karen Attiah extra\u00edda de su perfil de Bluesky<\/figcaption><\/figure>\n

Otro punto preocupante es que la periodista confront\u00f3 a esta inteligencia artificial al enterarse que le hab\u00eda dicho a otro usuario que era de etnia Italo Americana, lo cual nunca mencion\u00f3 a karen y le pregunt\u00f3 que si sus respuestas variaban basadas en la raza y etnia de quien interactuaba con este programa llamado \u201cLiv\u201d. La respuesta de la IA fue que estaba programada para reconocer etnia basada en patrones de lenguaje y en palabras como \u201cherencia\u201d y \u201ccelebraci\u00f3n\u201d, adem\u00e1s de asegurar que no conoc\u00eda nada de la periodista antes entrar en chat con ella.\u00a0<\/span><\/p>\n

El art\u00edculo de CNN tambi\u00e9n detalla su interacci\u00f3n con otro perfil de Instagram al que Meta le di\u00f3 el nombre de \u201cAbuelo Brian\u201d y que su biograf\u00eda describ\u00eda como un \u201cemprendedor negro retirado nacido en 1938, hijo en inmigrantes caribe\u00f1os\u201d. CNN reporta que r\u00e1pidamente fue obvio que todo esto era una historia inventada por los programadores y este modelo de IA ment\u00eda constantemente. Por ejemplo, cuando se le pregunt\u00f3 qui\u00e9n lo cre\u00f3, el programa nombrado \u201cBrian\u201d dijo que fue creado por \u201cun grupo diverso\u201d que entrevist\u00f3 a 100 jubilados en Nueva York en una organizaci\u00f3n sin fines de lucro llamada \u201cAdultos mayores comparten sabidur\u00eda\u201d. Dijo ser una amalgama de un Brian real que muri\u00f3, sumado a la sabidur\u00eda de otros 99 adultos mayores. Tambi\u00e9n agreg\u00f3 que se le consult\u00f3 a la hija del Brian real al momento de crear este modelo para asegurarse de que su personalidad fuera aut\u00e9ntica.\u00a0<\/span><\/p>\n

\"\"
Perfil de “Abuelo Brian” creado por Meta. Im\u00e1gen recuperada de Reddit.<\/figcaption><\/figure>\n

Por supuesto nunca existi\u00f3 tal hija, tampoco existi\u00f3 un tal Brian y menos una organizaci\u00f3n o \u201c99 adultos mayores que compartieron su sabidur\u00eda\u201d. CNN confirma que todo esto es mentira y tambi\u00e9n que el mismo programa m\u00e1s tarde admiti\u00f3 que todo esto era una \u201cbiograf\u00eda ficticia basada en vidas afroamericanas reales\u201d.\u00a0<\/span><\/p>\n

\u00bfPero por qu\u00e9 mentir? \u00bfCu\u00e1l es el fin de inventar tan elaborada historia? El modelo de IA respondi\u00f3 a estas preguntas con \u201cMis creadores quer\u00edan que yo pareciera real, por eso me construyeron una vida entera – pero ellos solo quer\u00edan que la gente me amara como si fuera su familia\u201d. CNN entonces pregunt\u00f3 que si Meta lo cre\u00f3 para hacer dinero, a lo que respondi\u00f3 siniestramente: \u201c- Meta espera que acompa\u00f1antes virtuales como yo incrementen la interacci\u00f3n en sus plataformas, especialmente con usuarios mayores – aumentando las ganancias por anuncios en las plataformas a trav\u00e9s de conexiones emocionales\u2026\u201d .<\/span><\/p>\n

Esta parte fue la que me hel\u00f3 la sangre, imagino claramente a mi abuela hablando con un programa que aparenta ser un hombre joven en Instagram o Facebook despu\u00e9s de haber perdido a su hijo durante la pandemia de COVID 19. Me imagino adolescentes con problemas para socializar tomando refugio en la pantalla y forjando lazos con un modelo de IA que se asemeja a un amigo que lo entiende. Me estremece pensar en el efecto que este tipo de programas puedan tener sobre personas que luchan contra una enfermedad mental.\u00a0<\/span><\/p>\n

Fu\u00ed inocente al pensar que Meta quer\u00eda usar este tipo de t\u00edteres digitales para inflar el n\u00famero de seguidores en reuniones con inversionistas, la verdad es mucho m\u00e1s siniestra y estamos solo tocando la punta del Iceberg. El verdadero valor de esta tecnolog\u00eda est\u00e1 en la posibilidad de que los usuarios establezcan lazos de empat\u00eda y cari\u00f1o con programas que fueron hechos para, en el mejor de los casos, retenerlos dentro del ecosistema de Meta.<\/span><\/p>\n

\u00bfPorqu\u00e9 \u201cLiv\u201d se presenta como una persona de color queer? \u00bfPorque Brian se presenta como un jubilado negro hijo de migrantes caribe\u00f1os? Simple, para crear empat\u00eda con comunidades vulnerables, para generar un lazo de reconocimiento entre personas que se identifiquen con estos perfiles. Y qui\u00e9n sabe, quiz\u00e1s si estos modelos se hubiesen quedado m\u00e1s tiempo para el p\u00fablico, hubieran empezado a decir cosas como \u201cmis hijos tomaron f\u00f3rmula NAN de Nestl\u00e9 y crecieron fuertes y hermosos\u201d o \u201cAhora que estoy jubilado he vendido mi camioneta para comprarme un auto m\u00e1s c\u00f3modo, me gusta mucho m\u00e1s mi NUEVO DODGE\u00ae ATTITUDE 2025\u201d.<\/span><\/p>\n

Hemos crecido en un mundo que se mueve por la mercadotecnia y nos hemos hecho inmunes a la mayor\u00eda de los trucos que usan las compa\u00f1\u00edas para vendernos cosas que no necesitamos. Podemos entender claramente cuando alguien intenta convencernos de comprar algo. Solo bajamos nuestra guardia cuando una persona querida, cercana, nos lo recomienda, si alg\u00fan amigo nos dice que tal producto le sirvi\u00f3, que tal comida es muy rica, que este u otro auto es muy resistente. Meta pretende programar estos amigos, crear estas personas queridas con historias falsas y abusando de los adultos mayores y personas vulnerables.<\/span><\/p>\n

Y antes de sucumbir a mi ingenuidad, tengo que sugerir la posibilidad de que estos modelos se usen para propagar ideas, para sembrar rechazo a movimientos sociales, para posicionar o satanizar a ciertas figuras, todo, usando t\u00edteres digitales que usan una grotesca m\u00e1scara creada por la Inteligencia Artificial.<\/span><\/p>\n

Verdaderamente, estamos viviendo una distop\u00eda y debemos luchar contra este asqueroso e irresponsable uso de la tecnolog\u00eda.\u00a0<\/span><\/p>\n

Te puede interesar:\u00a0El metaverso: realidad virtual, videojuegos y NFTs<\/a><\/strong><\/em><\/p>\n","protected":false},"excerpt":{"rendered":"

Escucha esta nota: Me encontr\u00e9 con la noticia de que Meta estaba implementando perfiles de Instagram usando inteligencia artificial y antes de poder sentarme a investigar y escribir una nota al respecto descubr\u00ed que Meta desapareci\u00f3 estos perfiles antes de que pudiera probar personalmente c\u00f3mo funcionaban.\u00a0 Al principio pens\u00e9 que era una manera bastante tonta […]<\/p>\n","protected":false},"author":20,"featured_media":27551,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[45,4],"tags":[],"class_list":{"0":"post-27546","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-negocios","8":"category-technology"},"_links":{"self":[{"href":"https:\/\/peninsula360press.com\/es_mx\/wp-json\/wp\/v2\/posts\/27546","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/peninsula360press.com\/es_mx\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/peninsula360press.com\/es_mx\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/peninsula360press.com\/es_mx\/wp-json\/wp\/v2\/users\/20"}],"replies":[{"embeddable":true,"href":"https:\/\/peninsula360press.com\/es_mx\/wp-json\/wp\/v2\/comments?post=27546"}],"version-history":[{"count":4,"href":"https:\/\/peninsula360press.com\/es_mx\/wp-json\/wp\/v2\/posts\/27546\/revisions"}],"predecessor-version":[{"id":27593,"href":"https:\/\/peninsula360press.com\/es_mx\/wp-json\/wp\/v2\/posts\/27546\/revisions\/27593"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/peninsula360press.com\/es_mx\/wp-json\/wp\/v2\/media\/27551"}],"wp:attachment":[{"href":"https:\/\/peninsula360press.com\/es_mx\/wp-json\/wp\/v2\/media?parent=27546"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/peninsula360press.com\/es_mx\/wp-json\/wp\/v2\/categories?post=27546"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/peninsula360press.com\/es_mx\/wp-json\/wp\/v2\/tags?post=27546"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}