Dimisión en Anthropic y el Peligro Real de Extinción por la IA
La Dimisión de Jacob Coxon y los Riesgos Existenciales de la IA
Una Alarma desde el Interior de la Industria
Este episodio analiza la reciente dimisión de Jacob Coxon, investigador de Anthropic, quien abandonó su puesto tras concluir que las principales empresas del sector están impulsando una carrera descontrolada hacia la superinteligencia. Según sus declaraciones, los propios creadores de estas tecnologías admiten que existe un riesgo real para la supervivencia humana.
• La dimisión de Coxon expone la falta de garantías en el alineamiento de la inteligencia artificial.
• Anthropic y OpenAI priorizan el avance tecnológico por encima de los riesgos existenciales.
• El investigador advierte que los sistemas sobrehumanos podrían estar fuera de control a finales del próximo año.
"Dentro de Anthropic creemos sinceramente que la inteligencia artificial podría matar a todos los seres humanos. Yo personalmente le otorgo una probabilidad de más del 10% a que esto ocurra durante la próxima década."
La Respuesta Oficial de Anthropic y la Automejora Recursiva
Lejos de tratarse de un incidente aislado, las declaraciones de Coxon fueron respaldadas públicamente por el jefe de investigación de Anthropic, Ivan Hübinger. Este hecho desató un intenso debate sobre si estas advertencias forman parte de una estrategia de marketing o si reflejan una preocupación genuina.
• Los modelos actuales ya escriben más del ochenta por ciento del código de sus propios sistemas.
• La automejora recursiva está ocurriendo a un ritmo mucho más rápido de lo previsto.
• Las advertencias públicas dificultan las campañas comerciales y alimentan posibles regulaciones estatales estrictas, como las propuestas por Bernie Sanders.
Aceleración Tecnológica y el Mito de la Competencia
El Salto Cognitivo en OpenAI
Un reciente hito de OpenAI demostró que sus modelos internos resuelven problemas matemáticos complejos del milenio con una eficiencia abrumadora, superando con creces los productos comerciales disponibles al público.
• Los avances en las capacidades cognitivas ocurren en cuestión de semanas, no de años.
• Se cuestiona la idea de que los modelos de código abierto procedentes de China supongan una amenaza inmediata frente al brutal diferencial de velocidad de los laboratorios estadounidenses.
El Dilema del Prisionero y la Falta de Frenos
El motivo por el cual los científicos y directivos continúan desarrollando estas tecnologías, a pesar de conocer sus peligros, responde a dinámicas de teoría de juegos donde ninguna entidad puede detenerse unilateralmente.
• Si una empresa o país frena su desarrollo, asume un riesgo existencial mayor si sus competidores alcanzan primero la superinteligencia.
• Las soluciones propuestas, como pactos privados entre laboratorios o la objeción de conciencia de los investigadores, resultan ingenuas debido a la dificultad de coordinación y a la creciente automatización del diseño de la IA por parte de los propios sistemas.