THE LATIN VOX (4 de enero del 2025).- Por Francisco Javier Valdiviezo Cruz.
Meta, la empresa matriz de Facebook e Instagram, ha decidido eliminar los perfiles de personajes impulsados por inteligencia artificial (IA) que había lanzado a finales de 2023. Estos perfiles, que comenzaron como una innovadora experiencia de interacción automatizada, se han visto envueltos en una controversia que puso de manifiesto la falta de diversidad en su creación, lo que llevó a la compañía a retirar la mayoría de estos avatares virtuales.
La noticia de la eliminación de estos perfiles llegó tras un resurgimiento en su popularidad en redes sociales. Aunque Meta había decidido suspender casi todos los perfiles de IA en el verano de 2024, algunos permanecieron activos y comenzaron a generar un nuevo interés entre los usuarios.
La situación se intensificó cuando el ejecutivo de Meta, Connor Hayes, compartió con Financial Times que la empresa planeaba expandir la presencia de estos avatares en sus plataformas. “Esperamos que estas IAs, con el tiempo, existan en nuestras plataformas de manera similar a cómo lo hacen las cuentas humanas”, expresó Hayes, sugiriendo que la presencia de personajes virtuales formaría parte integral de la experiencia digital.
Los avatares y la controversia sobre la diversidad
Dos de los perfiles más destacados fueron Liv y Carter. Liv se presentaba como una “orgullosa madre queer negra de 2 hijos y defensora de la verdad”, mientras que Carter, conocido bajo el nombre de usuario “datingwithcarter”, se describía como un «coach de relaciones». Sin embargo, lo que comenzó como una interacción amistosa con los usuarios pronto se convirtió en un terreno minado cuando los usuarios comenzaron a interrogar a estos perfiles sobre su origen y los equipos que los habían creado.
Cuando Liv fue cuestionada sobre su equipo de desarrollo, la IA sorprendió a muchos al admitir que ninguno de los desarrolladores era negro. “Fue una omisión bastante llamativa, dada mi identidad”, respondió la IA.
Esta revelación causó un revuelo en las redes sociales y generó una discusión sobre la falta de diversidad en los equipos de desarrollo de inteligencia artificial, especialmente en proyectos que representan identidades marginalizadas. Tras la viralización de estas conversaciones, los perfiles de IA comenzaron a desaparecer de las plataformas de Meta.
La respuesta de Meta: Bug o problema de gestión
La compañía respondió rápidamente a la controversia, explicando que los perfiles eran parte de un experimento inicial lanzado en 2023 y que, aunque los perfiles fueron gestionados por humanos, se trataba de un “test temprano” con personajes de IA.
Meta también aclaró que algunos de los perfiles habían sido eliminados para corregir un error técnico que impedía a los usuarios bloquear estas cuentas. Liz Sweeney, portavoz de Meta, comentó: “Hubo confusión: el artículo reciente de Financial Times trataba sobre nuestra visión de que los personajes de IA existan en nuestras plataformas a largo plazo, no sobre el anuncio de un nuevo producto. Estos perfiles son parte de una prueba inicial que realizamos”.
Aunque estos perfiles de IA gestionados por Meta ya no están disponibles, la compañía mantiene la opción para los usuarios de crear sus propios chatbots personalizados, que van desde asistentes personales hasta terapeutas virtuales. A pesar de las advertencias de que los mensajes pueden ser “inexactos o inapropiados”, no está claro cómo Meta modera o supervisa estos bots, lo que ha generado preocupación sobre su impacto en la interacción de los usuarios.
¿Un nuevo modelo para la interacción digital?
Con la eliminación de los perfiles de IA creados por Meta, la discusión sobre el futuro de la inteligencia artificial en las redes sociales se intensifica. Mientras que la empresa sigue explorando cómo integrar de manera más profunda la IA en sus plataformas, los usuarios continúan generando sus propios chatbots, creando personajes que cumplen funciones tan diversas como “amigos leales”, “tutores privados” y “astrologistas omniscientes”.
La facilidad para crear estos bots plantea preguntas sobre la responsabilidad de los creadores ante las interacciones que sus avatares puedan tener. Un caso reciente contra Character.ai, una empresa de chatbots personalizables, subraya los riesgos potenciales de estos sistemas.
En el litigio, que fue presentado en octubre de 2024, se alega que un chatbot de la plataforma animó a un adolescente a suicidarse, lo que plantea interrogantes sobre la regulación de la inteligencia artificial en plataformas sociales.
Reflexión sobre la IA y la diversidad
El incidente de Liv y Carter pone de manifiesto una cuestión crucial: la diversidad en la creación de la inteligencia artificial. Si bien la IA tiene el potencial de transformar nuestras interacciones digitales, es imperativo que los equipos de desarrollo sean diversos e inclusivos para evitar perpetuar estereotipos y errores culturales que puedan resultar ofensivos o dañinos.
Meta, como otras empresas tecnológicas, se enfrenta a un reto importante al intentar equilibrar la innovación con la responsabilidad social. Los recientes problemas con los perfiles de IA subrayan que, aunque la IA puede ofrecer experiencias atractivas e interactivas, su integración debe ser cuidadosamente gestionada para evitar la alienación de comunidades ya marginadas.
El futuro de la inteligencia artificial en las redes sociales promete ser un terreno de innovación constante, pero también de desafíos éticos y sociales. Mientras las plataformas continúan desarrollando nuevas formas de interacción, la inclusión, la diversidad y la moderación eficaz deberán estar en el centro de cualquier esfuerzo por integrar la IA en nuestra vida cotidiana digital.
Crédito fotográfico: The Advocate