Mientras el gobierno federal de Canadá explora nuevas formas de implementar la inteligencia artificial (IA) en la administración pública, también recibe advertencias sobre los peligros de aplicar esta tecnología en áreas sensibles como la justicia penal, la formulación de políticas y la contratación de personal.
En abril del año pasado, la entonces presidenta del Treasury Board, Anita Anand, anunció que el gobierno federal estaba elaborando una estrategia de IA, cuyo lanzamiento está previsto para esta primavera. Como parte de este proceso, el gobierno llevó a cabo consultas en el otoño y recibió cerca de 300 propuestas de investigadores, sindicatos, organizaciones indígenas y otros actores interesados sobre cómo la IA podría ser utilizada en el servicio público.
Un informe publicado el mes pasado reveló los principales hallazgos de estas consultas.
Según el informe, varias personas consultadas consideran que los chatbots de IA podrían mejorar la rapidez y precisión en la entrega de información gubernamental a los ciudadanos, así como facilitar la traducción de documentos y mensajes oficiales entre el inglés y el francés.
Otros sugieren que la IA podría desempeñar un papel clave en el monitoreo de la salud pública, el medio ambiente y la economía, además de ayudar en la detección y prevención de actividades fraudulentas. Asimismo, la tecnología podría ser utilizada para procesar solicitudes de servicios sociales, revisar documentos legales y optimizar tareas administrativas como la gestión de correos electrónicos y la elaboración de respuestas automatizadas.
Además, algunos participantes propusieron que la IA podría ser utilizada para analizar el sentimiento público en redes sociales y recopilar opiniones de consultas ciudadanas para informar el desarrollo de políticas y programas gubernamentales.
Cabe destacar que el gobierno canadiense ya ha estado empleando IA durante décadas en tareas como el análisis de imágenes satelitales y la elaboración de pronósticos. También ha utilizado la tecnología para predecir los resultados de casos fiscales y clasificar solicitudes de visas temporales.
Sin embargo, muchos expertos y ciudadanos expresaron su preocupación por el uso de la IA en ámbitos más sensibles del gobierno. En particular, advirtieron contra su aplicación en el sistema de justicia penal, incluyendo decisiones sobre sentencias y libertad condicional.
También se manifestaron en contra del uso de IA para vigilancia, la toma de decisiones políticas o la determinación de la elegibilidad de individuos para acceder a servicios sociales. Además, muchos participantes alertaron sobre los riesgos de emplear IA en procesos de contratación, ascensos y despidos dentro del sector público.
El informe de consulta también resalta la necesidad de capacitar a los servidores públicos en IA a todos los niveles para garantizar su uso ético y efectivo.
Adegboyega Ojo, profesor y titular de la Cátedra de Investigación en Gobernanza e Inteligencia Artificial en la Universidad de Carleton, calificó como «relativamente seguras» las áreas identificadas para el uso de la IA en el informe. No obstante, coincidió en que las áreas restringidas requieren precaución extrema, aunque subrayó que la IA podría ser útil en algunos de estos ámbitos si se siguen prácticas éticas y responsables.
«La idea de que la IA podría desarrollar políticas de manera independiente es irrealista y pasa por alto las dinámicas políticas que influyen en la formulación de políticas,» dijo Ojo. «Sin embargo, la IA puede mejorar la recopilación y análisis de evidencia, así como la modelización de los impactos de políticas en diferentes grupos, incluyendo comunidades marginadas.»
Ojo también argumentó que la IA podría agilizar la evaluación de solicitudes de servicios sociales, siempre que haya medidas de seguridad adecuadas y que los humanos sigan teniendo la última palabra en la toma de decisiones.
Por su parte, Fenwick McKelvey, profesor de tecnología de la información y política de comunicaciones en la Universidad Concordia y codirector del Applied AI Institute, señaló que los chatbots de IA podrían ser particularmente útiles para tareas como la presentación de declaraciones de impuestos.
«Los chatbots formarán parte del futuro del uso de internet en Canadá para bien o para mal, y creo que esto al menos reconoce una tendencia hacia diseños más centrados en el usuario dentro del sector público», afirmó McKelvey.
Sin embargo, McKelvey subrayó la importancia de continuar explorando los riesgos potenciales y las formas de evitar sesgos algorítmos.
«Creo que debemos enfocarnos en aplicaciones donde el beneficio público sea claro», agregó. «Con demasiada frecuencia, nos concentramos en integrar herramientas como ChatGPT en el servicio civil en lugar de imaginar y construir la próxima generación de infraestructura digital pública.»
A medida que el gobierno canadiense avanza en el desarrollo de su estrategia de IA, enfrenta el desafío de equilibrar los beneficios de esta tecnología con los riesgos que plantea.
Si bien la IA podría mejorar la eficiencia del sector público y facilitar el acceso a la información gubernamental, también es fundamental garantizar que su implementación sea ética, transparente y no comprometa los derechos de los ciudadanos.
El próximo informe del gobierno federal sobre su estrategia de IA será clave para determinar cómo Canadá aborda estos desafíos en el futuro.