THE LATIN VOX (22 de diciembre del 2024).- Por Francisco Javier Valdiviezo Cruz.
La comunidad tecnológica y científica se ha visto sacudida por la muerte de Suchir Balaji, un ex ingeniero de OpenAI que, a sus 26 años, se convirtió en un denunciante crucial de las prácticas de la compañía en relación con la violación de derechos de autor.
Balaji, quien murió el 26 de noviembre en su apartamento en San Francisco, había sido considerado un testigo clave en varias demandas legales contra la empresa. Su trágico fallecimiento pone en evidencia no solo los dilemas éticos dentro del mundo de la inteligencia artificial, sino también el creciente debate sobre la legalidad y el impacto social de estas tecnologías emergentes.
Un ingeniero visionario
Balaji, oriundo del Área de la Bahía de San Francisco, llegó a OpenAI en 2018 tras realizar una pasantía en el laboratorio de investigación de inteligencia artificial mientras cursaba la carrera de ciencias de la computación en la Universidad de California, Berkeley.
Su contribución al desarrollo de ChatGPT y otros modelos de lenguaje fue esencial. En particular, su trabajo en WebGPT – un sistema diseñado para interactuar con la web y comprender información en tiempo real – fue un pilar fundamental para el avance de las capacidades del chatbot de OpenAI.
“Las contribuciones de Suchir a este proyecto fueron imprescindibles. Sin él, no habría tenido éxito”, expresó John Schulman, cofundador de OpenAI, en una publicación en redes sociales. Schulman, quien reclutó a Balaji, destacó la aguda atención al detalle y la habilidad para detectar errores sutiles en el código como las características que lo hicieron sobresalir como ingeniero y científico.
Sin embargo, a pesar de su éxito en la empresa, Balaji comenzó a tener dudas profundas sobre la ética y la legalidad de las prácticas de OpenAI, especialmente en lo relacionado con el uso de datos ajenos para entrenar modelos de inteligencia artificial sin el consentimiento de los creadores de esos contenidos.
El descontento con OpenAI y la preocupación por los derechos de autor
El desencanto de Balaji con OpenAI fue gradual. A medida que la compañía se convirtió en un gigante de la inteligencia artificial, el joven ingeniero comenzó a cuestionar la legalidad de la utilización de grandes volúmenes de datos sin una compensación adecuada a los autores.
En sus últimos meses en la empresa, Balaji expresó sus preocupaciones públicamente, especialmente sobre el uso de datos de medios de comunicación, novelas y otros contenidos protegidos por derechos de autor para entrenar modelos de IA como GPT-4, el modelo detrás de ChatGPT.
En una entrevista con la Associated Press, Balaji dejó claro que no estaba de acuerdo con el enfoque de OpenAI: «No me parece correcto entrenar modelos con los datos de la gente y luego competir con ellos en el mercado», afirmó. En octubre de 2023, Balaji compartió sus inquietudes con el New York Times, destacando que la violación de derechos de autor en la formación de estos modelos era uno de los problemas que consideraba “posible de resolver”.
La magnitud de sus preocupaciones se reflejó en las demandas presentadas por diversos autores, incluyendo escritores y periodistas, quienes acusaban a OpenAI de infringir sus derechos de autor al utilizar sus obras sin autorización.
El New York Times nombró a Balaji en una solicitud judicial del 18 de noviembre como una persona que podría poseer documentos relevantes que podrían respaldar las acusaciones de infracción deliberada por parte de la empresa.
La muerte de un denunciante y sus Iimplicaciones legales
La noticia de su muerte, confirmada por las autoridades de San Francisco, ha dejado un vacío importante en la discusión sobre las implicaciones legales de la inteligencia artificial. La policía no encontró indicios de juego sucio y la Oficina del Forense de la ciudad determinó que la causa de su fallecimiento fue suicidio. Su familia, sin embargo, ha expresado que están buscando respuestas, describiendo a Balaji como un joven brillante, feliz y valiente, que amaba el senderismo y recientemente había regresado de un viaje con amigos.
El caso de Balaji es particularmente relevante en el contexto de la creciente preocupación global sobre los posibles daños de la inteligencia artificial, desde su impacto en el mercado laboral hasta su uso indebido de datos personales. Aunque Balaji no llegó a testificar en los tribunales, su posible papel como testigo en los casos legales contra OpenAI, especialmente sobre los derechos de autor, abre una reflexión más profunda sobre las prácticas de las grandes empresas tecnológicas y su responsabilidad legal y ética.
Un legado incompleto
La muerte de Balaji deja una serie de preguntas sin respuesta sobre cómo se manejarán las acusaciones legales contra OpenAI y otras empresas de inteligencia artificial. Si bien el futuro de su testimonio en estos casos es incierto, su legado como un defensor de los derechos de autor y un crítico de las prácticas empresariales de su propia compañía persiste.
El enfoque de Balaji hacia la ética en la inteligencia artificial puede haber sido una opinión impopular dentro de la comunidad científica, acostumbrada a la recolección masiva de datos en internet, pero su insistencia en que la industria «tendrá que cambiar» plantea una cuestión crucial: ¿cómo pueden las empresas de inteligencia artificial evolucionar de manera responsable y legal sin perjudicar a los creadores de contenido original?
Este trágico suceso resalta la importancia de debatir abiertamente sobre las fronteras legales y éticas de la inteligencia artificial. En un mundo donde las máquinas aprenden de los datos que extraen de internet, es esencial encontrar un equilibrio que proteja tanto la innovación como los derechos fundamentales de los individuos.
Un último adiós
El futuro de la inteligencia artificial sigue siendo incierto, pero el legado de Suchir Balaji como defensor de una tecnología más justa y ética perdurará. En su memoria, se está organizando un memorial en el India Community Center de Milpitas, California, en diciembre de 2024, donde familiares, amigos y colegas rendirán homenaje a este joven ingeniero cuyo coraje al cuestionar las prácticas de su propia compañía lo convirtió en un símbolo de la lucha por una inteligencia artificial más responsable.
Crédito fotográfico: Indian Today