La industria tecnológica atraviesa momentos de tensión tras la renuncia de Jacob Coxon, investigador de Anthropic y ex de OpenAI, quien advirtió que el desarrollo de la IA amenaza la supervivencia humana. Coxon afirmó en redes que los creadores de estas tecnologías estiman que podrían ponernos en peligro antes de que termine la década.
El testimonio fue respaldado por Evan Hubinger, líder de investigación en alineación de modelos en Anthropic, quien estimó en más del 10% la probabilidad de una catástrofe global por la IA en los próximos diez años. Hubinger señaló que el riesgo principal radica en la velocidad imprevista de la automejora recursiva, permitiendo que los sistemas se entrenen solos sin control humano.
Coxon criticó la falta de responsabilidad en OpenAI y Anthropic, advirtiendo que priorizan llegar al mercado por sobre la seguridad colectiva. Además, alertó sobre la inminente automejora recursiva de la IA de forma autónoma, un escenario con mínima supervisión externa reconocido también por Dario Amodei de Anthropic.
Este hecho profundiza el debate sobre la seguridad de los sistemas autónomos y la priorización de intereses comerciales por sobre los resguardos éticos en el sector.
