Un rapport de renseignement erroné généré par IA a failli provoquer un incident militaire entre les États-Unis et la Chine

Selon les informations rapportées vendredi par la chaîne américaine CNN, l'armée américaine aurait été sur le point d'intercepter un navire chinois au Moyen-Orient plus tôt cette année. La décision aurait reposé sur un rapport de renseignement erroné, élaboré à l'aide de l'intelligence artificielle (IA). Cet incident, s'il est confirmé, met en lumière les risques liés à l'utilisation de systèmes automatisés dans des contextes militaires sensibles. D'après CNN, le rapport en question aurait été généré par un outil d'IA, puis transmis à des décideurs militaires. Ces derniers auraient envisagé une opération d'arraisonnement contre un navire battant pavillon chinois dans les eaux du Moyen-Orient. L'opération aurait été annulée in extremis, selon la même source. Les autorités américaines n'ont pas confirmé officiellement ces informations, qui restent à ce stade non vérifiées de manière indépendante. Le recours à l'intelligence artificielle dans les processus de renseignement militaire suscite depuis plusieurs années des débats au sein des institutions de défense. Les partisans de cette technologie évoquent une analyse plus rapide de volumes massifs de données. Les critiques, eux, pointent les risques d'erreurs, de biais algorithmiques ou de « hallucinations » – ces réponses inventées produites par certains modèles de langage. Un rapport erroné, s'il n'est pas recoupé par des sources humaines, pourrait conduire à des décisions lourdes de conséquences. L'incident présumé intervient dans un contexte de tensions persistantes entre Washington et Pékin. Les deux puissances entretiennent des relations complexes, marquées par des différends commerciaux, technologiques et géopolitiques. Une méprise militaire entre les deux armées pourrait dégénérer rapidement, comme l'ont montré plusieurs épisodes ces dernières années. Selon CNN, l'arraisonnement envisagé aurait pu être interprété comme un acte d'agression par la Chine. Contacté par la chaîne américaine, le département de la Défense n'a pas souhaité commenter directement l'affaire. Des responsables américains auraient toutefois reconnu en interne que le rapport litigieux avait été produit avec l'aide de l'IA, sans que les procédures de vérification habituelles n'aient permis d'en détecter les erreurs. Cette faille soulève des questions sur la formation des analystes et sur la place accordée aux outils automatisés dans la chaîne de décision. En Chine, aucune réaction officielle n'a été rapportée dans l'immédiat. Les autorités chinoises n'ont pas confirmé avoir été informées de l'incident. Si l'information était avérée, elle pourrait alimenter les critiques de Pékin contre l'usage de l'IA par l'armée américaine, dans un contexte où les deux pays rivalisent également sur le terrain technologique. Plusieurs experts en sécurité internationale estiment que cet épisode, s'il est confirmé, doit servir d'avertissement. Ils plaident pour un encadrement plus strict de l'IA dans les affaires militaires, avec des protocoles de vérification humaine obligatoires avant toute action potentiellement irréversible. D'autres soulignent que l'IA n'est pas intrinsèquement dangereuse, mais que son usage sans garde-fous adéquats expose à des erreurs aux conséquences potentiellement graves. Cette affaire rappelle également les limites des modèles d'IA génératifs, capables de produire des textes convaincants mais parfois factuellement faux. Dans le domaine du renseignement, où la précision est cruciale, la tentation d'automatiser certaines analyses pourrait accroître les risques. La question de la responsabilité – humaine ou algorithmique – en cas d'incident grave reste entière. Pour l'heure, ni le Pentagone ni la Maison-Blanche n'ont confirmé l'existence de cet épisode. CNN indique que ses informations proviennent de sources anonymes. En l'absence de confirmation officielle, cet événement doit être considéré avec prudence. Il n'en demeure pas moins un signal d'alerte sur les défis que pose l'intégration de l'intelligence artificielle dans les processus de décision militaire. Source : CNN, via Seneweb.