THE LATIN VOX (22 de octubre del 2025).- Por Daniela Medina.
El príncipe Harry, junto con su esposa Meghan Markle y más de 700 científicos, celebridades, empresarios e incluso ex altos cargos gubernamentales, han suscrito una carta abierta impulsada por la organización Future of Life Institute (FLI) en la que se solicita detener por completo el desarrollo de sistemas de inteligencia artificial (IA) susceptibles de superar la inteligencia humana la denominada “superinteligencia” o ASI (Artificial Super Intelligence) hasta que exista un consenso científico sobre su seguridad y el respaldo público suficiente.
En sus propias palabras, el príncipe Harry declaró:
«El futuro de la IA debe servir a la humanidad, no reemplazarla. Creo que la verdadera prueba del progreso no será cuán rápido avancemos, sino cuán sabiamente lo guiemos. No hay una segunda oportunidad».
¿Qué es exactamente lo que se pide?
La carta es breve pero contundente. Entre sus elementos principales están:
- La demanda de una prohibición del desarrollo de sistemas de inteligencia artificial que puedan alcanzar o superar la capacidad humana total, hasta que se demuestre que pueden ser diseñadas de forma segura y controlable.
- El requisito de que haya un consenso científico amplio y una aceptación pública fuerte antes de que se permita avanzar en esa dirección.
- Una advertencia explícita sobre los riesgos que implican estos sistemas: desde pérdida de empleos, erosión de libertades civiles, amenazas a la seguridad nacional e incluso el riesgo de extinción humana.
¿Quiénes firman y por qué llama tanto la atención?
La lista de firmantes incluye personas de perfiles muy diversos, lo que le da una dimensión insólita a la petición:
- Científicos de élite en IA, como Geoffrey Hinton (ganador del Nobel de Física 2024) y Yoshua Bengio, ambos considerados fundadores del aprendizaje profundo.
- Empresarios de tecnología y figuras mediáticas como Richard Branson y Steve Wozniak.
- Representantes del mundo político y civil, entre ellos Steve Bannon y Susan Rice, lo que demuestra que el tema trasciende ideologías y contextos.
- Celebridades y personalidades públicas como el propio príncipe Harry y Meghan Markle. Su apoyo ha generado un importante enfoque mediático al reclamo.
¿Por qué ahora? Factores que motivan la urgencia
- Avances técnicos acelerados: Empresas como OpenAI o Google DeepMind han declarado explícitamente sus objetivos hacia la inteligencia general artificial (AGI) y más allá, lo que ha generado alarma entre científicos.
- Riesgos identificados: Los expertos señalan que avanzar sin controles suficientes podría generar escenarios en los que una IA supersa la capacidad humana de control, con consecuencias imprevisibles.
- Déficit de regulación global: A pesar de ser un tema discutido hace años, no existe aún un acuerdo global vinculante que limite este tipo de desarrollos, lo que plantea un “riesgo de carrera” entre países y empresas.
- Conciencia pública en aumento: Encuestas recientes muestran que un porcentaje significativo de la ciudadanía mundial considera que se requieren regulaciones más estrictas sobre IA avanzada.
¿Cuál es la reacción de la industria tecnológica?
Aunque la carta no menciona explícitamente a compañías específicas, el hecho de que amplios desarrolladores de IA estén invirtiendo miles de millones en AGI y ASI genera tensiones:
- Algunos ejecutivos argumentan que el riesgo es lejano y que las regulaciones excesivas podrían frenar la innovación.
- Otros científicos apoyan la pausa, señalando que “el problema no es si será seguro, sino cuándo será seguro”.
- Desde Silicon Valley ya surgen debates internos sobre la responsabilidad social de las empresas de IA y la necesidad de marcos operativos más claros.
Implicaciones globales
- Política internacional: Si países con amplio desarrollo en IA como Estados Unidos, China o Europa no logran acuerdos, existe riesgo de que se genere una carrera tecnológica descontrolada.
- Economía y trabajos: Una IA superinteligente podría modificar profundamente los modelos de empleo, producción y valor, generando disrupciones sociales.
- Ética y derechos humanos: Preguntas sobre qué significará la humanidad cuando una máquina pueda pensar, crear y decidir al nivel humano —o más alto— están en el centro del debate.
- Seguridad y defensa: Las implicaciones militares no son menores: si un actor logra una versión funcional de ASI, el desequilibrio de poder sería enorme.
Lo que está en juego
- La elección del rumbo tecnológico: La carta marca que el ritmo de avance no lo es todo; lo crucial será cómo se dirige ese avance.
- El mandato político: Ahora que una figura pública global como el príncipe Harry interviene, se amplifica la presión para que los gobiernos actúen.
- La gobernanza de la IA: ¿Podrán las democracias crear marcos regulatorios efectivos antes de que la tecnología avance más allá del control humano?
La petición suscrita este 22 de octubre de 2025, en la que el príncipe Harry y un extenso conjunto de líderes del mundo de la ciencia, la tecnología, la cultura y la política exigen frenar el desarrollo de sistemas de inteligencia artificial que puedan superar la capacidad humana, representa un momento de inflexión.
Es una llamada para que el impulso tecnológico —que ha definido las últimas décadas— sea acompañado por una reflexión ética, estructurada y colectiva sobre sus límites, sus propósitos y sus consecuencias.
En un mundo donde lo increíble se convierte en posibilidad real en cuestión de meses, la gran pregunta no es cuándo ocurrirá la superinteligencia artificial, sino cómo la humanidad estará preparada para gestionarla.
Fuente: www.ctvnews.ca
Foto: Google fotos