La incursión de Microsoft en la inteligencia artificial (IA) podría necesitar un toque humano en la edición, ya que un incidente reciente revela que el contenido generado por su IA a veces puede resultar en errores embarazosos e insensibles.
Una publicación en el sitio web de Microsoft Network titulada «Dirigiéndose a Ottawa: ¡Esto es lo que no debes perderte!» llamó la atención en X, anteriormente conocido como Twitter. El artículo de viaje generado por IA recomendaba visitar los museos de Ottawa, lugares de compras y, sorprendentemente, el Banco de Alimentos de Ottawa como un lugar para comer. El artículo elogiaba a la organización por su trabajo en proporcionar alimentos a los necesitados en el área de Ottawa.
Sin embargo, el problema real surgió cuando el contenido generado por la IA hizo una sugerencia inapropiada, insinuando que el Banco de Alimentos de Ottawa era un destino culinario que valía la pena visitar con el estómago vacío. El artículo decía: «Considera entrar con el estómago vacío», creando un tono que resultaba ofensivo e insensible, como si el banco de alimentos fuera un restaurante digno de una Estrella Michelin.
Si bien Microsoft tenía como objetivo reemplazar a los periodistas y editores humanos con tecnología de IA en su plataforma MSN, este incidente destaca que el contenido generado por IA, particularmente en artículos de viajes, aún carece de refinamiento. El contenido generado a menudo resulta insulso, repetitivo y cliché, como se muestra en este caso donde la IA confundió un servicio comunitario vital con una recomendación gastronómica.
Microsoft retiró rápidamente el artículo y se comprometió a investigar el asunto. Samantha Koziara, gerente de comunicaciones del Banco de Alimentos de Ottawa, aclaró que el artículo no reflejaba su mensaje y expresó que la línea «con el estómago vacío» era claramente insensible y no había pasado por la revisión de un editor humano.
Este incidente subraya las limitaciones y fallas continuas en la IA generativa. Si bien la tecnología de IA ha avanzado significativamente, sigue siendo evidente que la intervención humana y la supervisión editorial son cruciales para evitar errores desafortunados y ofensivos como este.