EEUU reconoce que «casi empezó una guerra» por un dato falso de la IA

El reporte identificó erróneamente componentes de un programa de armas nucleares en la carga de una embarcación. La operación fue suspendida poco antes de ejecutarse.

Estados Unidos llegó a preparar una operación para interceptar y abordar un buque chino en Medio Oriente. Esto ocurrió luego de que un informe de inteligencia elaborado con apoyo de inteligencia artificial indicara erróneamente que la embarcación transportaba componentes vinculados a un programa de armas nucleares. El episodio fue reportado por CNN, que citó a cuatro fuentes familiarizadas con el caso.

De acuerdo con los antecedentes, militares estadounidenses se preparaban para abordar la nave mientras aeronaves sobrevolaban la zona. Sin embargo, la operación fue detenida minutos antes de concretarse. Esto fue luego de que funcionarios revisaran con mayor detalle el origen y contenido de la información utilizada para justificar la acción.

Según CNN, el informe había sido elaborado por un analista de un comando de operaciones especiales. Este analista utilizó un chatbot para analizar antecedentes relacionados con el manifiesto de carga del buque. Además, la herramienta habría combinado información disponible públicamente con datos de inteligencia. Finalmente, llegó a una conclusión que posteriormente fue considerada errónea.

El caso volvió a poner el foco en los riesgos asociados al uso de herramientas de inteligencia artificial en labores militares y de inteligencia. Esto es relevante particularmente cuando sus resultados pueden influir en decisiones con consecuencias internacionales. Las fuentes citadas por CNN calificaron el informe como completamente falso. También advirtieron sobre el riesgo que implicaba una eventual operación contra una embarcación china.

📰 Sigue a Aurora Noticias en Google News

LEE TAMBIÉN…  CEO de OpenAI alerta por resultados que "podrían ser extremadamente distópicos" sobre la IA.

Seguir en Google News