Por La Jornada
San Francisco, EUA. Un investigador de inteligencia artificial que había renunciado a OpenAI para trabajar en Anthropic, al considerarla más prudente, dejó el martes la industria y acusó a los dos laboratorios de Estados Unidos de «jugar con nuestras vidas».
Jacob Coxon, un británico de 27 años, trabajó durante los últimos tres años en preentrenamiento, la etapa en la que los modelos de IA absorben grandes cantidades de información, primero en OpenAI y luego, desde este año, en su mayor rival, Anthropic. «Ninguna de las dos empresas actúa de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas», escribió el martes en X.
«Las personas que están desarrollando la IA creen sinceramente que podría matarnos a todos antes de que termine la década. Esto no es una estrategia de mercadeo», agregó.
Su renuncia llega mientras Anthropic prepara su salida a bolsa.
Contactadas por la AFP, ninguna de las dos empresas respondió de inmediato.
«La IA podría matar humanos»
Sin embargo, Evan Hubinger, responsable de seguridad en Anthropic, le dio la razón a Coxon en X: «Creemos realmente que la IA podría matar a humanos». A título personal, estimó ese riesgo en «más de un 10%» dentro de la próxima década.
Líderes de la industria dicen creer que esta se aproxima a la «automejora recursiva», en la que un modelo podría diseñar a su propio sucesor, completamente por fuera del control humano.
Según Coxon, ninguna empresa debería desarrollar de manera responsable una IA que supere a los humanos sin intervención gubernamental o una desaceleración coordinada.
«En Anthropic comprenden bien lo que está en juego, pero están atrapados en una carrera por llegar primero (…) a pesar del riesgo», afirmó Coxon.
En febrero, Anthropic retiró de su carta de seguridad el compromiso de suspender el desarrollo de sus modelos si no lograba controlar sus riesgos.
A finales de julio, más de mil empleados de la industria, incluido el director ejecutivo de Anthropic, Dario Amodei, pidieron a Washington preparar un mecanismo de frenado.
El domingo, el jefe científico de OpenAI, Jakub Pachocki, escribió que «el momento actual llama por extrema precaución» y coordinación internacional.
La ONU alerta de que una IA fuera de control puede amenazar a la humanidad
El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, advirtió este lunes sobre la urgencia de elaborar rápidamente una gobernanza para la inteligencia artificial (IA), afirmando que las herramientas avanzadas de esta tecnología pueden «suponer un riesgo existencial para la humanidad».
Durante la apertura del 63.º período de sesiones del Consejo de Derechos Humanos en Ginebra, Türk instó a actuar «antes de que sea demasiado tarde» y subrayó que, sin normas vinculantes, supervisión independiente y límites claros, la tecnología podría volverse incontrolable.
El Alto Comisionado planteó el escenario de que los sistemas de IA se vuelvan tan poderosos que sus propios desarrolladores no puedan controlarlos, y advirtió que «una IA que se escapa de su entorno de prueba o que chantajea a los desarrolladores para evitar ser desactivada es una IA demasiado poderosa».
En su intervención, Türk también denunció la creciente concentración de poder en torno a la IA, señalando que «un puñado de hombres tiene un poder casi ilimitado sobre la IA». Instó a los países que albergan tecnologías de IA y a los implicados en sus cadenas de suministro a trabajar juntos para establecer «líneas rojas comunes», así como a implementar mecanismos de verificación independiente y una cooperación mucho más estrecha en materia de seguridad dentro del sector.
Asimismo, expresó su preocupación por el uso de la IA en la guerra, manifestándose «horrorizado» por los informes sobre drones totalmente autónomos y sumándose a los llamamientos para prohibir de forma urgente las armas que pueden quitar vidas sin intervención humana.
