Un ancien général met en garde contre l’avènement des robots tueurs

Il dit que mettre en charge une IA pour appuyer sur la gâchette est inévitable mais effrayant.

Un mal inévitable

L’ancien général Stanley McChrystal, qui a dirigé les forces de la coalition en Afghanistan pendant deux ans avant de critiquer l’administration Obama et d’être licencié, lance un terrible avertissement : Les robots tueurs arrivent, et nous ne comprendrons peut-être jamais les décisions qu’ils prennent.

M. McChrystal a déclaré à Yahoo News que, selon lui, toute interdiction des robots tueurs ou, de manière moins familière, toute interdiction de donner à un algorithme le pouvoir et l’autorité de tirer des armes ou de lancer des missiles, est vouée à l’échec. Il décrit le fait de donner à l’IA le pouvoir de lancer des frappes mortelles comme une question de nécessité, mais reconnaît que cela pourrait conduire à un avenir « effrayant ».

Le lanceur de Skynet

Ce futur terrifiant est moins lié à la montée en puissance de machines violentes qu’au fait que l’IA, même dans ses états les plus sophistiqués, reste indéniablement sujette aux erreurs.

« Vous avez créé une technologie, vous avez mis en place des processus pour qu’elle fonctionne, mais ensuite, pour opérer à la vitesse de la guerre, vous devez essentiellement l’allumer et lui faire confiance », a déclaré McChrystal à Yahoo. « Cela peut être assez effrayant, en particulier si le potentiel de dysfonctionnement ou d’usurpation d’identité ou de toute autre chose est présent. »

Bien que McChrystal ait fait valoir que donner à l’IA ce genre de pouvoir signifie que les humains pourraient ne plus être en mesure de comprendre le fonctionnement de leurs propres opérations, il estime que cela deviendra finalement nécessaire.

« À un certain point, vous ne pouvez pas répondre assez rapidement, à moins de faire cela », a-t-il déclaré à Yahoo. « Un missile hypervéloce, un missile hypersonique qui arrive sur le porte-avions des États-Unis, vous n’avez pas le temps pour les individus de faire le suivi, vous n’avez pas le temps pour les hauts dirigeants d’être dans la chaîne de décision, ou vous ne serez pas en mesure d’engager le missile. »

Source : https://www.aubedigitale.com/un-ancien-general-met-en-garde-contre-lavenement-des-robots-tueurs/

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.