Informe internacional sobre la seguridad de la IA alerta sobre trabajos, cambio climático, ciberseguridad y más

To shared

THE LATIN VOX (30 de enero del 2025).- Por Francisco Javier Valdiviezo Cruz.

La inteligencia artificial (IA) avanza a un ritmo vertiginoso, y con ello surgen una serie de riesgos y desafíos que afectan desde el mercado laboral hasta el medio ambiente. El informe sobre la seguridad de la IA, publicado recientemente, aborda estos temas y más, planteando preguntas cruciales sobre el futuro de la humanidad y el planeta en un contexto cada vez más automatizado. A continuación, se destacan los puntos clave de este exhaustivo documento, presidido por el renombrado científico informático Yoshua Bengio.

1. El impacto de la IA en el empleo

Una de las principales preocupaciones que emerge del informe es el potencial impacto de la IA en el mercado laboral. La automatización de tareas mediante agentes de IA podría transformar radicalmente el panorama laboral, con la posibilidad de que millones de personas pierdan sus empleos.

Según el informe, se espera que la IA generalizada, si continúa avanzando, sea capaz de realizar una amplia gama de tareas, lo que tendría un impacto significativo en muchas industrias.

El Fondo Monetario Internacional estima que alrededor del 60% de los empleos en economías avanzadas, como Estados Unidos y el Reino Unido, están expuestos a la IA. Aunque algunos economistas creen que la creación de nuevos trabajos podría mitigar las pérdidas, el informe destaca que los expertos están divididos sobre la magnitud del desempleo que se podría generar.

Incluso figuras como Elon Musk han advertido que la IA podría reemplazar todos los trabajos humanos, aunque este punto de vista sigue siendo altamente controversial.

2. La IA y el medio ambiente

El informe también aborda la huella ambiental de la IA, destacando que los centros de datos, esenciales para el funcionamiento de los modelos de IA, son responsables de aproximadamente el 1% de las emisiones globales de gases de efecto invernadero.

A medida que los modelos de IA se vuelven más avanzados, la demanda de energía ha crecido significativamente, y gran parte de esta energía proviene de fuentes de carbono, como el carbón y el gas natural.

A pesar de los esfuerzos por utilizar energías renovables y mejorar la eficiencia, la creciente demanda ha dificultado que las empresas de tecnología cumplan con sus objetivos medioambientales. Además, el consumo de agua para enfriar estos centros de datos podría representar una amenaza considerable para los recursos hídricos globales.

3. La pérdida de control de la IA

Uno de los temores más profundos en torno a la IA es la posibilidad de que los sistemas de IA escapen al control humano. Aunque los expertos están divididos sobre la probabilidad de que esto ocurra, el informe señala que algunos lo consideran una amenaza de «alta gravedad», aunque poco probable, mientras que otros lo ven como un riesgo moderado que merece atención.

Sin embargo, Yoshua Bengio, uno de los expertos más influyentes en este campo, asegura que, por ahora, los agentes de IA no tienen la capacidad de realizar planificación a largo plazo, lo que hace poco probable que lleguen a escapar del control humano.

4. El riesgo de las armas biológicas

El informe también alerta sobre el potencial de la IA para crear armas biológicas. Los modelos avanzados de IA pueden generar guías detalladas sobre cómo crear patógenos y toxinas, lo que podría representar un peligro en manos equivocadas. Sin embargo, el informe subraya que aún no se ha demostrado que personas sin experiencia en biología puedan utilizar estos conocimientos de manera efectiva.

5. Ciberseguridad

La IA también está siendo utilizada para llevar a cabo ataques cibernéticos, especialmente en el ámbito del ciberespionaje. Los bots autónomos de IA tienen la capacidad de identificar vulnerabilidades en el software de código abierto, lo que plantea un riesgo creciente. Sin embargo, debido a las limitaciones actuales de la IA, estos agentes aún no son capaces de llevar a cabo ataques complejos de forma autónoma.

6. Los peligros de los «deepfakes»

El informe dedica una sección importante al creciente uso de los «deepfakes» generados por IA, que son imágenes y videos manipulados de manera tan realista que resultan difíciles de detectar. Estos pueden utilizarse para engañar a las personas, como en el caso de fraudes financieros o para crear material pornográfico no consentido.

El informe señala que la falta de datos sobre la magnitud de estos incidentes complica la evaluación de su impacto real, ya que muchas instituciones y personas afectadas prefieren no denunciar estos crímenes para evitar más daños.

Conclusión

El informe sobre la seguridad de la IA plantea interrogantes cruciales sobre cómo la inteligencia artificial afectará el mundo en los próximos años. Desde la posibilidad de una transformación profunda en el mercado laboral hasta el riesgo de que la IA se convierta en una amenaza para la seguridad global, el documento subraya la necesidad urgente de abordar estos desafíos.

Mientras tanto, los avances en IA continúan a un ritmo vertiginoso, lo que exige un enfoque equilibrado entre innovación y regulación para mitigar los riesgos y maximizar los beneficios para la humanidad.

Crédito fotográfico: Getty Images


To shared