Las delcaraciones de Jacob Coxon generaron amplia repercusión en redes sociales y reabrieron el debate sobre los riesgos de una eventual superinteligencia.
El investigador Jacob Coxon anunció su salida de Anthropic. Además, utilizó su renuncia para expresar preocupación por el ritmo que mantiene actualmente el desarrollo de la inteligencia artificial.
A través de redes sociales, Coxon sostuvo que parte de quienes trabajan en el sector son conscientes del grave riesgo para la humanidad. En particular, habló de los futuros avances de esta industria.
El científico cuestionó además la concentración de decisiones en un grupo reducido de empresas y ejecutivos. A su juicio, la competencia por desarrollar modelos más avanzados dificulta que las compañías prioricen la seguridad.
Críticas a la carrera por el desarrollo IA
Coxon planteó diferencias entre las principales empresas del sector. Según su análisis, Anthropic comprende con mayor claridad los riesgos asociados a la inteligencia artificial. Sin embargo, igualmente enfrenta presiones para avanzar rápidamente frente a sus competidores.
El investigador también afirmó que algunos líderes de la industria expresan preocupación por los posibles escenarios futuros en conversaciones privadas. No obstante, adoptan un discurso más moderado en público.
Sus declaraciones alcanzaron una amplia difusión en redes sociales. Por otro lado, el debate tomó fuerza en medio de una serie de avances recientes en modelos de inteligencia artificial y de nuevas discusiones sobre las capacidades que podrían alcanzar estos sistemas.
Preocupación por el eventual surgimiento de la «superinteligencia»
La principal inquietud de Coxon y de otros investigadores especializados en seguridad de IA se concentra en el desarrollo de sistemas capaces de mejorar sus propias capacidades de manera progresiva.
Esa posibilidad, conocida como automejora recursiva, plantea interrogantes sobre el nivel de control humano que podría existir sobre sistemas mucho más avanzados que los actuales.
Evan Hubinger, exjefe de Coxon e investigador vinculado al área de alineación de Anthropic, también manifestó públicamente su preocupación por los riesgos de largo plazo.
A través de su cuenta X advirtió: “¡De verdad creemos que la IA puede matar a todo el mundo! Yo personalmente creo que la probabilidad es superior al 10% en la próxima década”.
Sin embargo, asegura que el riesgo en los modelos actuales es bajo. Aún así, considera especialmente relevante evaluar los posibles peligros asociados al surgimiento de una superinteligencia.
Entre los investigadores de inteligencia artificial existe un indicador conocido como p doom. Este indicador busca estimar la probabilidad de que esta tecnología provoque una catástrofe de alcance global.
En ese contexto, el 10% planteado por Hubinger representa una estimación significativa. Anthropic también ha advertido públicamente sobre los riesgos asociados al desarrollo de sistemas avanzados. Su CEO, Dario Amodei, señaló anteriormente que en 2026 el sector se encuentra más cerca de enfrentar riesgos concretos que en 2023.
📰 Sigue a Aurora Noticias en Google News
Seguir en Google News