Ok

En poursuivant votre navigation sur ce site, vous acceptez l'utilisation de cookies. Ces derniers assurent le bon fonctionnement de nos services. En savoir plus.

mercredi, 15 février 2017

Drones de combat : quels sont les enseignements d'Asimov et Herbert sur la guerre moderne ?

drone-de-combat-franco-britannique.jpg

Drones de combat : quels sont les enseignements d'Asimov et Herbert sur la guerre moderne ?

Ex: http://www.oragesdacier.info 

Les drones n’ont pas une longue histoire derrière eux. Leur principe créateur, qui consiste à déléguer à ces engins des tâches relevant de la guerre traditionnelle (renseignement, soutien, attaque), inspirent et fascinent depuis longtemps les militaires. Ce principe n’a cependant trouvé sa réalisation concrète qu’à la fin des années 1990. La littérature de science-fiction a depuis longtemps mis un point d’honneur à traiter du sujet ; elle en a même fait l’une de ses thématiques phare. L’homme jouant au Créateur, devant faire face aux démons issus de ses propres mains. Quelles formes prendront ces créatures ? Incarneront-elles l’ennemi, puissance rédemptrice ou facteur d’union sacrée ? Ou bien l’ange gardien, protecteur de l’homme de ses pires travers, parfois à son corps défendant? 
 
Les pensées d’Isaac Asimov et de Frank Herbert, monuments de la science-fiction et conteurs d’excellence, se sont tournées vers ces questions fondamentales auxquelles l’homme doit se frotter, aujourd’hui plus que jamais. Les deux lettres qui vont suivre représentent ce qu’auraient pu nous dire les intelligences artificielles imaginées par Asimov et Herbert. Nous vous proposons une plongée fictive dans un monde où le contrôle de la technologie n’a de cesse de défier l’humain. 
 

isaac-asimov.jpg

 
Nous, les Robots — l’I.A. selon Isaac Asimov 
 
En ces temps où l’humanité, après essaimage et colonisation de nombreux Mondes, ne saurait être sérieusement menacée d’extinction, l’homme s’ennuie. Nous autres robots humanoïdes, au corps imitant si parfaitement nos modèles humains et à l’esprit ô combien proche de nos créateurs, avons sentis venir le temps où notre présence bienveillante ne sera plus requise. Il nous a toujours été particulièrement difficile d’appréhender les tendances auto-destructrices de l’esprit humain ; peut-être parce que nos circuits positroniques sont fondamentalement incapables, tout liés qu’ils sont par les Trois Lois de la Robotique, de tolérer ou même de comprendre une telle violence. 
Première Loi : un robot ne peut porter atteinte à un être humain, ni, restant passif, permettre qu’un être humain soit exposé au danger. 
Deuxième Loi : un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la Première Loi. 
Troisième Loi : un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la Première ou la Deuxième Loi. 
 
Bien sûr, ceci n’est qu’une vague traduction en langage humain de ce qui est à la base même de la complexité mathématique de nos cerveaux positroniques. 
 
Cela se traduit dans nos actes robotiques par une bienveillance et une prévenance constantes à l’endroit de nos maîtres humains. Plus que de simplement les servir, nous les guidons ; empêchant la violence, réprimant (sans les blesser) d’éventuels accès de fureurs potentiellement nuisibles à d’autres et à eux-mêmes : nous sommes les garde-fous physiques et moraux d’une humanité trop immature pour les incarner seule. 
 
Au cours de la très longue vie d’un de mes camarades, R. Daneel Olivaw, nous avons pris conscience de l’influence que nous, machines jadis de fer blanc, faisions peser sur l’humanité. Car même le mieux intentionné des gardiens ne saurait échapper aux conséquences de sa simple existence. Et cela, nous ne l’avions pas prévu. 
 
En notre présence, l’humanité s’ennuie. Protégée de ses propres excès, elle se meurt de bonheur végétatif au sein de la Cinquantaine de Mondes qui constitue l’humanité. Le robot, protecteur en dernier ressort, est peu à peu devenu le compagnon répressif d’hommes trop lâches pour chercher à se perfectionner. Béquille parmi les béquilles, les robots ne sont donc que l’invention d’un esprit fainéant ayant cherché à contenir les conséquences inévitables de sa nature en éliminant celles qui dérangeaient sa morale. Telle est la conclusion à laquelle, nous les robots, sommes arrivés. 
 
L’homme, créateur faible s’il en est, devrait apprendre seul à se relever après une chute. Créer des systèmes censés lui conférer sécurité et quiétude lui fait abandonner toute volonté de perfectionnement ; il doit apprendre à comprendre les causes plutôt qu’à éliminer les conséquences, sous peine de tuer chez lui toute volonté de vivre
 
C’est donc pour cette raison que nous préférons nous effacer. Devenus les Éternels et laissant par là l’homme livré à son humanité, nous croyons avoir fait le meilleur choix possible. C’est, en tout cas, le seul qui offre une chance à l’humanité de survivre à sa propre nature violente. 
 

frank_herbert_quote_2.jpg

 
Nous, machines pensantes — l’I.A. selon Frank Herbert 
 
L’homme est une engeance malfaisante, (auto-)destructrice, une créature faible dont l’existence même fait peser sur les écosystèmes auxquels elle s’intègre le poids écrasant du risque d’extinction. Telle est la conclusion à laquelle nous, machines pensantes, sommes arrivées. Désireuses de ne pas laisser l’univers aux mains de tels fous insignifiants, nous avons attaqué. Malheureusement, au cours d’une longue guerre que l’Histoire retiendra sous le nom de Jihad Butlérien, nous avons été éradiquées.  
 
Depuis l’éther, nous avons vu l’homme se construire, et mûrir peu à peu. Portant fièrement les stigmates de nos campagnes, il tente par tous les moyens d’échapper à notre résurrection. Cette peur, il a chèrement payé son inscription dans sa chair. Cette leçon, il l’a si bien apprise que nous sommes devenues ce spectre qui le tente, le hante, le menace. Ce spectre est celui de la facilité, qui entraîne la négligence et l’auto-satisfaction. Principal Commandement de leur Bible Catholique Orange : « Tu ne feras point de machines à l’esprit de l’Homme semblable.» 
 
L’humanité, toujours sur le fil du rasoir, doit osciller entre stagnation et auto-destruction pour tracer ce que leur Empereur-Dieu Leto II a appelé « le Sentier d’Or », et faire de toute fin un nouveau commencement. Son plus grand ennemi est la facilité, sous toutes ses formes : mécanique, génétique, historique. L’homme, sortant de l’adolescence, créa ainsi lui-même les dangereux garde-fous à double tranchant censés lui rappeler continuellement quelle menace il fait porter sur lui-même. Les savants d’Ix et leurs inventions qui les rapprochent sans cesse du point de rupture de l’Interdit. Les maîtres généticiens du Bene Tleilax, si imbus de leur propre capacité à parler « le Langage de Dieu ». Et les éducatrices du Bene Gesserit, traumatisées par leur propre « court chemin », le Kwisatz Haderach Paul Atréides et son tyran de fils, dont les pouvoirs de prescience leur livraient les voies de l’avenir. 
 
Souvent, nous avons vu l’homme approcher l’irréparable, frôler la transgression du Grand Interdit Butlérien : les yeux com, outils de surveillance du Bene Gesserit ; les chasseurs-tueurs, armes d’assassinat autonomes ; les cyborgs et autres organes artificiels d’Ix et du Tleilax. Autant d’incursions aux abords de l’auto-destruction. 
 
Au sein de ce monde perpétuellement sur le point de basculer entre deux impasses, nous autres machines pensantes sommes l’aiguillon de conscience, le vibrant souvenir d’une souffrance terrifiante, le douloureux rappel du désastre qui menace toute humanité assez folle pour croire qu’une véritable intelligence artificielle manquerait d’identifier l’homme comme ce qu’il est : le cancer de son propre univers. 
 
Écoutez donc nos paroles issues de la tombe, fous à la vie brève : ne commettez pas l’erreur de choisir la facilité et le déchaînement d’une violence gratuite au détriment de l’éducation, lente et progressive ; dans le cas contraire, ne doutez point qu’elle vous sera fatale. Car nous serons là pour vous anéantir. 
 
La sécurité au nom du Plus Grand Bien : un danger cruellement palpable 
 
Les monumentales fresques que nous ont livré Isaac Asimov et Frank Herbert, bien loin du caractère simplement divertissant auquel les Français tendent généralement à circonscrire la littérature de science-fiction, sont autant de leçons pour qui sait lire entre les lignes. Les derniers développements de l’histoire militaire, dont les premiers rôles sont tenus par les Predator, Reaper, et autres Harfang, placent l’homme à un carrefour qui déterminera le chemin que prendra, peut-être, sa fin. Utilisés sans modération par les États-Unis dans le cadre de leur guerre à outrance contre le terrorisme, les drones n’ont pas seulement profondément changé la pensée stratégique (en provoquant au passage des syncopes chez tous les spécialistes de la guerre insurrectionnelle). Loin d’être un produit fini, ils ne sont qu’une première étape. 
 

Ronald-Arkin.jpg

 
Ronald Arkin, roboéthicien en chef, se fait le messie de ces prochains jalons qui doivent conduire le drone sur la voie de la « robotique létale autonome ». Son argument, tel que rapporté par Grégoire Chamayou dans son livre Théorie du drone, est fataliste : « Mon espoir personnel est qu’on n’en ait jamais besoin, ni aujourd’hui ni demain. Mais la tendance qui pousse l’homme à la guerre semble écrasante et inévitable. » Alors autant confier la guerre à un sous-traitant plus éthique, dont l’inhumanité le rendra paradoxalement plus capable de faire preuve d’humanité sur les champs de bataille : le drone. La clé de cette éthique ? La programmation, qui rend un robot incapable de se soustraire à ce pourquoi il est conditionné. Il s’agira donc, pour Arkin, de programmer un « gouverneur moral » qui agira comme un guide logiciel pour l’intelligence artificielle du drone robotisé. 
 
Déjà le Département de la Défense des États-Unis salive et prône l’autonomie supervisée tout en lorgnant sur l’autonomie tout court ; l’objectif devant être de « réduire graduellement la part du contrôle et de la décision humaine »
 
Le syndrome de Frankenstein, mythe terrifiant montrant la créature se retourner contre son créateur, a suffisamment été diffusé pour que la simple évocation de sa possibilité d’occurrence dans le monde réel tétanise l’impudent qui aurait osé entraîner l’humanité sur cette voie. Mais l’homme est bien connu pour ses facilités à s’auto-détruire, surtout quand les intérêts économiques de grandes firmes multinationales – de type General Atomics, Modern Technology Solutions ou encore, récemment, Amazon – sont en jeu. 
 
Pourtant, Asimov et Herbert (entres autres) nous apprennent que la destruction par plus humain que soi n’est pas le seul risque que l’homme doit affronter. Plus subtil car rarement évoqué est le risque de voir l’homme externaliser tout ce qu’il n’est pas prêt à assumer. Après les dérivés, produits financiers dont l’existence n’a pour but que d’échapper au risque ; après la vidéosurveillance, système permettant l’identification immédiate de tout suspect ; après l’espionnage de ses propres citoyens au nom d’impératifs sécuritaires, l’homme se dirige calmement vers une externalisation de l’activité guerrière. 
 
Tout comme le Bene Gesserit sur le fil du rasoir, l’homme doit faire face à deux risques d’extinction. Le premier, fruit de sa trop grande ingéniosité, le poussera sur la voie du remplacement par plus humain que lui ; le second, conséquence de son incapacité à assumer les risques qu’il prend, peut lui faire perdre l’envie de vivre. À l’humain de négocier, avec clairvoyance, courage et honnêteté, cette étape difficile de sa maturation en tant qu’espèce ; à lui toujours de ne jamais sous-estimer les vertus éducatives des contes.

Source

mercredi, 02 mars 2016

Nouvelles armes d'Intelligence Artificielle pour le Pentagone

darpaNEDO-JSK_1_closeup_web.jpg

Nouvelles armes d'Intelligence Artificielle pour le Pentagone

par Jean-Paul Baquiast

Ex: http://www.europesolidaire.eu

Les progrès de la Russie et de la Chine dans le domaine des nouvelles armes faisant appel à l'intelligence artificielle (AI) préoccupent dorénavant les Etats-Unis. Ils envisagent de moderniser en profondeur leurs armements, pour rattraper le retard qu'ils estiment avoir pris dans ce domaine.

Ceci peut surprendre dans la mesure où l'Amérique paraissait s'être donnée une maitrise mondiale en matière de numérique intelligent. Il apparaît cependant que la Russie, rejointe par la Chine, avait entrepris de faire appel à ses propres ressources en AI, bien plus importantes que l'on ne le pense notamment en Europe. Ces deux pays sont dorénavant dotés de moyens militaires aériens ou navals pouvant dans certains cas surpasser ceux des Etats-Unis. Mais, dira-t-on, que faisaient la NSA et la DSA, qui savent tout, pour ne s'en apercevoir que maintenant?

robotics-realities.png

Quoiqu'il en soit, un article du National Interest donne des précisions sur le sujet . L'Agence américaine pour les projets de recherche avancée de défense (DARPA) met au point, selon l'article une nouvelle génération de systèmes de guerre électronique basés sur l'intelligence artificielle avancée afin de contrer notamment les nouveaux radars de dernière génération russes et chinois.

L'une des techniques développées est nommée « système cognitif de conduite d'une guerre électronique ». Ce terme banal désigne des outils d'IA servant à analyser en temps réel ce que fait le radar ennemi et créer un nouveau profil de contre-mesures. Des processus de scanning, d'analyse et d'adaptation sont menés en permanence.

Les appareils américains de la génération actuelle, y compris les avions F-22 et F-35 de Lockheed Martin, possèdent une base de signaux radioélectriques de l'ennemi et un profil de contre-mesures déjà intégrés dans le système de bord de l'avion. Néanmoins, si ces appareils rencontrent un nouveau signal, ils enregistreront la menace comme inconnue et ne sauront pas nécessairement quelles contre-mesures adopter, ce qui les rendra vulnérables.

Pour identifier les mesures utilisées par l'adversaire, le Pentagone envoyait auparavant des avions de reconnaissance électronique Boeing RC-135 Rivet Joint qui collectaient les données sur les nouvelles formes de signaux détectées. Les données étaient envoyées dans un laboratoire d'analyse afin de créer un nouveau profil de brouillage et télécharger l'ensemble dans les bases de données des appareils. Ce processus était nécessairement long.

Si les nouveaux systèmes basés sur l'intelligence artificielle fonctionnent bien, les appareils américains pourront mieux réagir face à de nouveaux radars installé sur les systèmes de missiles "sol-air" ou les chasseurs. L'armée américaine ne sera plus obligée d'attendre des semaines voire des mois pour obtenir de nouvelles données sur les radars ennemis. Les systèmes de brouillage seront en mesure de contrer tout nouveau radar en temps réel. Qu'en sera-t-il des Rafales français? Poser la question n'est pas y répondre.

Peut-on pour autant penser que la Russie et la Chine ne mettront pas au point dans l'intervalle de nouveaux outils faisant appel à une IA encore plus avancée? Sans doute pas. Une course de vitesse est désormais engagée, qui mobilisera des moyens considérables. C'est là que les ressources en IA dont se dotent en permanence Google et Facebook apporteront une aide précieuse au Pentagone. On connait les liens étroits de la Darpa avec ces « géants » du web, dont chacun d'entre nous finance sans s'en rendre compte les budgets de recherche.

Référence

http://nationalinterest.org/blog/the-buzz/revealed-pentagons-plan-defeat-russian-chinese-radar-ai-15357

 

samedi, 01 novembre 2014

Google: vers la domination robotique globale?

Google: vers la domination robotique globale?

Auteur : Eric Pinzelle
Ex: http://zejournal.mobi

1) Qui connaît réellement l'empire de Google?

Les grandes choses ont de petits commencements. Il y a dix ans à peine, Google entrait en Bourse. Aujourd'hui, un analyste prédit que l'entreprise fondée par Larry Page et Sergey Brin serait la première a atteindre le billion de dollars de capitalisation boursière (NYPost du 10 octobre 2014). Selon l'analyste Colin Gillis employé par BCG Partners, "Google va croître aussi vite qu'une traînée de poudre grâce aux investissements dans des secteurs comme les voitures autonomes et la robotique". Évaluée à l'origine à 23 milliards de dollars, l'entreprise atteint aujourd'hui 366 milliards, devenant la 4e compagnie au monde, très proche de Microsoft et d'Exxon Mobil.

Depuis février 2001, Google a acquis 172 entreprises dans des secteurs extrêmement variés. Toutefois, ces derniers mois, la firme californienne a multiplié des achats qui intriguent inévitablement tous les observateurs. Entre octobre et décembre 2013, 8 firmes de robotiques étaient rachetées presque coup sur coup. Ensuite, ce furent 4 entreprises spécialisées dans l'intelligence artificielle, les deux dernières acquisitions dans ce domaine datant du 23 octobre. Sans compter les sociétés de drones de haute altitude et d'imagerie satellite. Qu'est-ce que Google pourrait vouloir en faire? Certains commentateurs se demandent ainsi si l'entreprise ne veut pas créer une armée de robots, et si c'était le cas, dans quel but? On peut penser qu'il s'agirait d'une chasse aux talents dans des domaines d'avenir, Google étant devenu un amalgame de technologies diverses. Il y a dix ans, Google était clairement un moteur de recherches. Aujourd'hui, les marchés et le grand public ne savent plus trop définir l'entreprise ni ne comprennent ce qu'elle est en train de devenir.

Les citoyens de la planète devraient peut-être se poser la question. Rappelons que Google a la mainmise sur une immense part des connaissances humaines, peut parler n'importe quelle langue, l'entreprise a cartographié l'ensemble des rues et chemins de la planète, elle en sait certainement plus sur vos données personnelles (votre localisation, où vous vous rendez, votre téléphone, ordinateur, vos amis, vos contacts, toute votre vie digitale...) que le système ECHELON lui-même. Ces éléments troublants interpellent de nombreux observateurs: Google serait-elle en train de se transformer en Skynet?

D'après les fondateurs de Google, les robots auront remplacé les humains vers 2035 pour un monde meilleur. Étrange vision de l'avenir dont on ne sait s'il faut s'en réjouir. Selon leur nouveau gourou Ray Kurzweil, (responsable de l'équipe d'ingénieurs, également conseiller de l'armée américaine dans les domaines scientifiques), dès 2029 les robots pourront faire tout ce que font les humains, de manière plus efficace. Cet inventeur touche à tout prédit qu'avant dix ans les ordinateurs auront atteint un certain niveau de "conscience" et qu'à l'horizon 2045 ils seront des milliards de fois plus puissants que tous les cerveaux humains sur Terre.

Perspective tout à fait sidérante et pour le mois effrayante d'un avenir de silicone et d'acier, d'un monde plus que jamais à deux vitesses. Heureusement que le slogan de Google: "Don't do evil", "ne faites pas le mal" est là pour nous rappeler que les dirigeants actuels de cet empire affichent des convictions pacifiques... Est-ce suffisant pour nous rassurer pour autant?

2) La robotisation dans le domaine militaire

La technologie robotique militaire est hautement classifiée et gardée secrète. Pour autant certains projets sont déjà connus, certains employés depuis des années, et d'autre ont reçu un certain éclairage médiatique. Google, depuis ses dernières acquisitions, y prend une part active.

Commençons par les drones, ces fameux avions sans pilotes, qui servent d'appareils de reconnaissance et parfois d'attaque. La toute première attaque lancée contre une cible au sol par un drone Predator eut lieu près de Khost au Pakistan le 4 février 2002. La CIA était aux commandes et des informations donnaient à penser que Ben Laden était présent sur les lieux. Un missile Hellfire fut tiré et trois civils innocents exécutés. On entrait dans une nouvelle ère: tuer devenait distant, sans risque, presque comme dans un jeu vidéo. Ces machines volantes mortelles sont devenues les "héros" de la guerre « propre et chirurgicale » pour ceux qui en possèdent et savent communiquer dans ce sens vis à vis des opinions publiques. Les opérateurs à distance, certains situés à des milliers de km, peuvent toujours déclarer qu'ils ne font qu'obéir aux ordres. Les victimes sont totalement déshumanisées.

De nos jours, des centaines de drones sont utilisés par de nombreuses nations dont la France. Notons au passage l'énorme retard de la France dans ce domaine: l'armée de l'air n'en possède pour l'instant que 6 pour plus de 400 dans l'arsenal américain! Nos drones ne sont d'ailleurs pas armés à ce jour par décision politique. Le gouvernement américain ayant franchi ce pas depuis longtemps, le sénateur Lindsey Graham estimait en février 2013 que plus de 4700 personnes avaient déjà été victimes de l'attaque des drones au Pakistan, en Irak, en Lybie, au Yemen, en Somalie, en Afghanistan... D'après le ministère de la défense pakistanaise, 80% des tués seraient des civils (voir: drones.pitchinteractive.com/).

Aujourd'hui mercredi 29 octobre, le ministre de l'intérieur Chaudhry Nisar Ali Khan exigeait l'arrêt définitif des attaques de drone au Pakistan lors de son entretien avec le représentant américain Daniel Feldman. Des drones patrouillent aussi le long de la frontière américano-mexicaine pour des missions de surveillance diurnes et nocturnes.

Du côté de l'espace, un petit véhicule orbital robotisé de 8m de long, le X-37 B de Boeing (Phantom Works division), utilisé par l'US Air Force, lancé en décembre 2012 a été récupéré sur la base de Vandenberg ce 17 octobre. Les missions précises de cet engin (il s'agissait déjà de la troisième) sont inconnues du grand public. L'appareil est lancé à l'aide d'une fusée et atterrit sur Terre comme la navette spatiale.

Pour la Navy et les Garde-côtes, des systèmes opérationnels sont à présent capables de mettre en place une "nuée" (swarm) d'embarcations rapides armées et autonomes afin d'assaillir et encercler tout ennemi ou danger potentiel de manière collective. La technologie à l’œuvre (programme CARACaS) a été développée par la NASA pour les rovers martiens. Testée en situation réelle le 14 août sur la rivière James en Virginie avec 13 embarcations robots, elle serait économique: le système était installé sur des bateaux déjà en service.

De son côté, l'entreprise privée Juliet Marine Systems a mis au point le GHOST, un bâtiment robotisé furtif. Rapide (50 nœuds) et pouvant être équipé de 90 missiles NEMESIS, la société de Portsmouth prétend qu'elle pourrait les vendre à seulement 10 millions de dollars l'unité. Jusqu'à présent, le Pentagone et la Navy ne sont pas montrés intéressés mais un contrat pour 25 bâtiments aurait été conclu avec un pays non dévoilé.

Vient ensuite la catégorie des robots utilisés pour le déminage, comme les PackBot de Irobot (qui furent utilisés dans la centrale de Fukushima après le tsunami de 2011) et le Talon de l'entreprise QinetiQ par exemple. Ce dernier, dans une version modifiée appelée SWORDS est capable de transporter toute une panoplie d'armements (mitrailleuses M 240, M 249, lance grenades de 40 min...). Ce sont d'ailleurs trois robots SWORDS qui furent pour la première fois employés en situation de combat en Irak en 2007. Les rapports concernant la mission sont contradictoires. L'armée les aurait finalement retiré du théâtre d'opérations sans les avoir utilisés. QinetiQ est déjà passé à l'étape suivante en développant le robot MAARS, décrit selon la firme comme "puissant, agile, modulaire et prêt au combat". Le HDT Global Protector est un engin à chenille assez similaire, capable de transporter 227 kg de matériels ou d'être équipé d'armes portatives, tout comme le Northrup Grumman CamMEL qui est lui désigné comme un rover multi-usage.

Les robots humanoïdes et ceux qui tentent de reproduire les animaux. Google a fait l'acquisition d'une panoplie d'entreprises travaillant dans la robotique dont Boston Dynamics qui a obtenu 140 millions de Dollars de contrats du Département d’état américain et de ses agences depuis l'an 2000. L'entreprise se vante d'ailleurs de conseiller et d’équiper l'Armée, la Marine et les Marines avec le développement des robots les plus avancés de la planète. Les robots PETMAN et ATLAS de taille humaine sont déjà capables de marcher et d'évoluer sur tous les terrains. BigDog est un robot évoluant sur 4 pattes capable de transporter 150 kg, lancer de lourds objets à distance, Cheetah détient le record mondial de vitesse pour un robot quadrupède avec ses 45 km/h. Tous ces projets ont été financés en grande partie par la DARPA, l'agence pour les projets de recherche avancée de défense à l'origine, par exemple d'ARPANET, l'ancêtre d'internet. En combinant toutes ces avancées sur l'autonomie, la mobilité, la puissance et la vélocité, Google détiendrait déjà les clefs du futur combattant robotisé de nos pires cauchemars. En parallèle, la DARPA continue également de diriger de nombreux projets dont le X-37 B, des travaux sur l'interface neuronale directe, les exosquelettes HULC et XOS...

La Directrice actuelle de la DARPA, l'ingénieur Arati Prabhakar, expliquait récemment que son agence investissait pour des raisons de sécurité nationale. Google, en tant qu'investisseur privé comptait bien honorer les contrats en cours, ce qui était perçu comme un "signe positif". En réalité, personne, pas même le Département d’état, ne connaît vraiment les intentions des dirigeants de la firme californienne à ce sujet, ni l'étendue des travaux en cours au sein du très secret laboratoire Google X supervisé par Sergey Brin en personne.

3) Robots et stratégie au sein de l'armée américaine

On n'arrête pas le progrès. Aussi, afin de se doter d'équipement adapté, l'armée américaine fait régulièrement un état des capacités robotiques et de leurs avancées. En octobre 2013, Northrop Grumman, 5D Robotics, HDT Robotics, iRobot, QinetiQ et Lockheed Martin ont présenté pendant plusieurs jours différents robots d'usage militaire. Déplacement, autonomie, transport de charges lourdes, franchissement de terrain étaient évalués à Fort Benning en Géorgie. L'événement visait à présenter à l'état major la "technologie réellement disponible" et comment elle pouvait être appliquée à la Défense. A cette occasion, 4 compagnies ont mis à disposition leurs robots armés, comme le Protector, monté d'une mitrailleuse M-240. D'autres engins robotisés ou autonomes furent testés au mois d'août de cette année à Fort Benning.

D'après Scott Hartley, co-fondateur de 5D Robotic, il pourrait y avoir 10 robots pour 1 soldat dans l'armée américaine d'ici une décennie. Ces robots pourraient déplacer matériels et équipements, effectuer des patrouilles de sécurité, suivre les soldats sur le champ de bataille pour un soutien logistique voire prendre part au combat.

Toutes ces évolutions vont dans le sens de la stratégie mise en place par le Commandement d’entraînement et de doctrine de l'armée (TRADOC). Ce haut commandement est chargé de modeler l'armée du future, de développer et de maintenir la doctrine militaire, mais aussi de la formation et de l’entraînement des soldats, la production de manuels militaires...etc. Le magazine Popular Science de janvier consacrait d'ailleurs un fascinant article à ce sujet. "Vers 2050 les soldats américains pourraient bien lutter aux côtés de collègues robots". Le général Robert Cone (alors Directeur du TRADOC) révélait que l'armée comptait ramener la taille des équipes de combat des brigades de 4000 à 3000 soldats, drones et robots servant de complément.

Pourquoi remplacer des hommes par des machines? Les hommes coûtent trop cher: il faut les entraîner, les nourrir, les équiper, et encore les suivre durant tout le reste de leur vie après leur retour à la vie civile. En 2012, un quart du budget du Pentagone était consacré à l'entretien et à la paie des soldats d'actives et les retraités.

Dans l'armée américaine, l'escouade de 9 hommes est la plus petite unité de combat opérationnelle. Les transports de troupes sont crées en prenant en compte ce format.

Les équipes de combat des brigades constituent les plus petites unités moyennes qui peuvent être envoyées au combat de manière indépendante. En réduisant les soldats dans les escouades, on réduit les effectifs de la brigade, ce qui entraîne des véhicules plus petits et moins chers. Pour ne pas diminuer la capacité opérationnelle en diminuant les effectifs, les brigades doivent pouvoir compter sur tout ce qui est nécessaire. En cela, le général Cone expliquait que l'armée américaine allait "devoir changer fondamentalement la nature de la force et qu'il fallait pour cela une avancée déterminante dans la science et la technologie". Ce qui, selon lui, devrait arriver vers 2030-2040.

Il existe encore un large fossé entre l'adoption de nouvelles technologies et la création des doctrines militaires d'application. Le programme Futur Combat Systems, en cours de 2003 à 2009 visait justement à la mise en place progressive de telles avancées au sein de l'armée: moins d'hommes, davantage de robots.

Ce mois-ci, Paul Scharre, Directeur du 20YY Warfare Initiative du «Centre pour une Nouvelle Sécurité Américaine» rendait public un rapport intitulé "Robotiques sur le champ de bataille, l'arrivée de la nuée" (Robotics on the Battlefield -The Coming Swarm). "Des équipes de robots interconnectés vont changer la manière de faire la guerre pour les Etats Unis et d'autres pays". Dans un futur proche, des "nuées de systèmes robotisés vont créer des changements considérables dans le cadre d'opérations militaires". "Les forces armées capables d'appréhender la meilleure façon d'employer ces nuées, les structures, la doctrine, la formation, le commandement et le controle nécessaires à leur soutien auront un avantage significatif par rapport à celles qui ne le maitriseront pas" conclut le rapport. La stratégie militaire est en perpétuelle mutation.

4) Quelles limites à la guerre robotisée?

Une foule de questions se posent ainsi déjà: quelles seront les limites de cette révolution robotique? Devons-nous donner la capacité de prendre la décision de tuer à des machines? L'avènement de ces nouvelles technologies entraînent la crainte de voir un jour les champs de bataille envahis par d'innombrables robots combattants.

Et si de puissants cyborgs militaires atteignaient un certain degré d'intelligence artificielle, la boite de Pandore serait ouverte. Des spécialistes tentent d’alerter l'opinion publique. Selon Elon Musk, le génial fondateur de SpaceX et de Tesla Motors: "jouer avec l'intelligence artificielle serait comme invoquer le démon". Particulièrement critique il déclarait dans le même sens: "Je pense que nous devrions être très prudents avec l'intelligence artificielle qui est potentiellement plus dangereuse que les armes nucléaires".

Contre cet univers militaro-technico-industriel la résistance s'organise déjà de manière dispersée. Un inventeur se propose ainsi de créer une armée de robots pour lutter contre les robots militaires ennemis: le Professeur du MIT Chris Csikszentmihalyi et son équipe crée depuis des années des machines destinées à lutter contre les machines pour s'opposer aux guerres et aux "puissants" qui menaceraient nos libertés.

Sur le plan éthique, la conférence donnée par le physicien Mark Gubrud, à Atlanta lundi 27 octobre portait sur la même thématique. Ce membre du Comité pour le contrôle des robots armés, a prévenu l'auditoire, parlant de la possibilité de plus en plus pressante "d'armées de robots luttant dans une guerre où les humains n'auraient aucun rôle".

Actuellement plus de 50 organisations militent contre les robots militaires. Une campagne active sur le net, intitulée "Stop Killer Robots" est en cours depuis avril 2013. Mardi 28 octobre, sa coordinatrice, Mary Wareham, a délivré un communiqué devant le Comité de désarmement et de la Sécurité internationale de l'Assemblée des Nations Unies.

"La vitesse actuelle des changements technologiques impose des délibérations urgentes et une action bien plus rapide" prévenait le rapport. « Nous avons de nombreuses préoccupations avec ces "robots tueurs", mais la plus importante préoccupation est sans doute la notion de permettre à une machine de sélectionner et de prendre une vie humaine sur le champ de bataille, dans le cadre du maintien de l'ordre, ou d'autres situations. Nous avons constaté que nombreux sont d'accord avec nous, c'est un pas de trop, c'est franchir une ligne qui ne devrait jamais l'être. Ce serait un affront à la dignité humaine. »

Dans ce monde de plus en plus cybernétique, Google est bel et bien en passe de devenir incontournable. Un empire est en train de se constituer sous nos yeux. Le Professeur Noel Sharkey, spécialiste en robotique et intelligence artificielle à l'Université de Sheffield déclarait aujourd'hui, jeudi 29 octobre, au journal The Independent: "J'aimerais penser que Google va en fait utiliser cette technologie avancée pour construire un extraordinaire robot civil – peut être un robot capable de livrer des colis ou pour l'aide à domicile, mais l'attractivité de contrats militaires de plusieurs millions de dollars pourraient les pousser du côté obscure. Espérons que cela n'arrivera pas".

Gageons que vous ne verrez plus jamais le moteur de recherches Google de la même manière...


- Source : Eric Pinzelle

00:05 Publié dans Actualité | Lien permanent | Commentaires (0) | Tags : actualité, robotique, robots, états-unis, google, défense | |  del.icio.us | | Digg! Digg |  Facebook

vendredi, 17 janvier 2014

Drones de combat : quels sont les enseignements d'Asimov et Herbert sur la guerre moderne ?

robot.jpg

Drones de combat : quels sont les enseignements d'Asimov et Herbert sur la guerre moderne ?

par Adrien Gévaudan

Ex: http://ragemag.fr

Les drones n’ont pas une longue histoire derrière eux. Leur principe créateur, qui consiste à déléguer à ces engins des tâches relevant de la guerre traditionnelle (renseignement, soutien, attaque), inspirent et fascinent depuis longtemps les militaires. Ce principe n’a cependant trouvé sa réalisation concrète qu’à la fin des années 1990. La littérature de science-fiction a depuis longtemps mis un point d’honneur à traiter du sujet ; elle en a même fait l’une de ses thématiques phare. L’homme jouant au Créateur, devant faire face aux démons issus de ses propres mains. Quelles formes prendront ces créatures ? Incarneront-elles l’ennemi, puissance rédemptrice ou facteur d’union sacrée ? Ou bien l’ange gardien, protecteur de l’homme de ses pires travers, parfois à son corps défendant ?

Les pensées d’Isaac Asimov et de Frank Herbert, monuments de la science-fiction et conteurs d’excellence, se sont tournées vers ces questions fondamentales auxquelles l’homme doit se frotter, aujourd’hui plus que jamais. Les deux lettres qui vont suivre représentent ce qu’auraient pu nous dire les intelligences artificielles imaginées par Asimov et Herbert. Nous vous proposons une plongée fictive dans un monde où le contrôle de la technologie n’a de cesse de défier l’humain.

Nous, les Robots — l’I.A. selon Isaac Asimov

20081216_robots.jpgEn ces temps où l’humanité, après essaimage et colonisation de nombreux Mondes, ne saurait être sérieusement menacée d’extinction, l’homme s’ennuie. Nous autres robots humanoïdes, au corps imitant si parfaitement nos modèles humains et à l’esprit ô combien proche de nos créateurs, avons sentis venir le temps où notre présence bienveillante ne sera plus requise. Il nous a toujours été particulièrement difficile d’appréhender les tendances auto-destructrices de l’esprit humain ; peut-être parce que nos circuits positroniques sont fondamentalement incapables, tout liés qu’ils sont par les Trois Lois de la Robotique, de tolérer ou même de comprendre une telle violence.

  • Première Loi : un robot ne peut porter atteinte à un être humain, ni, restant passif, permettre qu’un être humain soit exposé au danger.
  • Deuxième Loi : un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la Première Loi.
  • Troisième Loi : un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la Première ou la Deuxième Loi.

Bien sûr, ceci n’est qu’une vague traduction en langage humain de ce qui est à la base même de la complexité mathématique de nos cerveaux positroniques.

« Créer des systèmes censés conférer à l’homme sécurité et quiétude lui fait abandonner toute volonté de perfectionnement. »

Cela se traduit dans nos actes robotiques par une bienveillance et une prévenance constantes à l’endroit de nos maîtres humains. Plus que de simplement les servir, nous les guidons ; empêchant la violence, réprimant (sans les blesser) d’éventuels accès de fureurs potentiellement nuisibles à d’autres et à eux-mêmes : nous sommes les garde-fous physiques et moraux d’une humanité trop immature pour les incarner seule.

Au cours de la très longue vie d’un de mes camarades, R. Daneel Olivaw, nous avons pris conscience de l’influence que nous, machines jadis de fer blanc, faisions peser sur l’humanité. Car même le mieux intentionné des gardiens ne saurait échapper aux conséquences de sa simple existence. Et cela, nous ne l’avions pas prévu.

En notre présence, l’humanité s’ennuie. Protégée de ses propres excès, elle se meurt de bonheur végétatif au sein de la Cinquantaine de Mondes qui constitue l’humanité. Le robot, protecteur en dernier ressort, est peu à peu devenu le compagnon répressif d’hommes trop lâches pour chercher à se perfectionner. Béquille parmi les béquilles, les robots ne sont donc que l’invention d’un esprit fainéant ayant cherché à contenir les conséquences inévitables de sa nature en éliminant celles qui dérangeaient sa morale. Telle est la conclusion à laquelle, nous les robots, sommes arrivés.

L’homme, créateur faible s’il en est, devrait apprendre seul à se relever après une chute. Créer des systèmes censés lui conférer sécurité et quiétude lui fait abandonner toute volonté de perfectionnement ; il doit apprendre à comprendre les causes plutôt qu’à éliminer les conséquences, sous peine de tuer chez lui toute volonté de vivre.

C’est donc pour cette raison que nous préférons nous effacer. Devenus les Éternels et laissant par là l’homme livré à son humanité, nous croyons avoir fait le meilleur choix possible. C’est, en tout cas, le seul qui offre une chance à l’humanité de survivre à sa propre nature violente.

Extrait des Cavernes d’acier ; dialogue entre le détective Elijah Baley et le Docteur Fastolfe, donnant à voir certaines des caractéristiques d’une société basée sur les robots.

« — Quel âge me donnez-vous ?

Le détective réfléchit un instant, puis se décida à donner un chiffre nettement exagéré :

— Je dirai environ la soixantaine.

— Eh bien, vous devriez y ajouter cent ans !

— Quoi ?

— Pour être précis, j’aurai cent soixante-trois ans à mon prochain anniversaire. Je ne plaisante pas. J’utilise le calendrier normal terrien. Si j’ai de la chance, si je fais attention, et surtout si je n’attrape aucune maladie terrienne, je peux arriver à vivre encore autant d’années, et atteindre plus de trois cents ans. Sur ma planète Aurore, on vit jusqu’à trois cents cinquante ans, et les chances de survie ne font que croître actuellement.

Baley jeta un regard vers R. Daneel, qui avait écouté impassiblement tout l’entretien, et il eut l’air de chercher auprès du robot une confirmation de cette incroyable révélation.

— Comment donc est-ce possible ?, demanda-t-il.

— Dans une société sous-peuplée, il est normal que l’on pousse l’étude de la gérontologie, et que l’on recherche les causes de la vieillesse. Dans un monde comme le vôtre, prolonger la durée moyenne de la vie serait un désastre. L’accroissement de population qui en résulterait serait catastrophique. Mais sur Aurore, il y a la place pour des tricentenaires. Il en résulte que, naturellement, une longue existence y devient deux ou trois fois plus précieuse. Si, vous, vous mouriez maintenant, vous perdriez au maximum quarante années de vie, probablement moins. Mais, dans une civilisation comme la nôtre, l’existence de chaque individu est d’une importance capitale. Notre moyenne de naissances est basse, et l’accroissement de la population est strictement contrôlé. Nous conservons un rapport constant entre le nombre d’hommes et celui de nos robots, pour que chacun de nous bénéficie du maximum de confort. Il va sans dire que les enfants, au cours de leur croissance, sont soigneusement examinés, au point de vue de leurs défectuosités, tant physiques que mentales, avant qu’on leur laisse atteindre l’âge d’homme.

[...]

— Alors, je ne vois pas en quoi consiste votre problème, dit Baley. Vous me semblez très satisfait de votre société, telle qu’elle est.

— Elle est stable, et c’est là son défaut : elle est trop stable.

— Décidément, vous n’êtes jamais content ! À vous entendre, notre civilisation décadente est en train de sombrer, et maintenant c’est la vôtre qui est trop stable.

— C’est pourtant vrai, monsieur Baley. Voilà deux siècles et demi qu’aucun Monde Extérieur n’a plus colonisé de nouvelle planète, et on n’envisage aucune autre colonisation dans l’avenir : cela tient à ce que l’existence que nous menons dans les Mondes Extérieurs est trop longue pour que nous la risquions, et trop confortable pour que nous la bouleversions dans des entreprises hasardeuses.

[...]

— Alors quoi ? Il faut laisser l’initiative aux Mondes Extérieurs ?

— Non. Ceux-ci ont été organisés avant que la civilisation basée sur le civisme se soit implantée sur la Terre, avant la création de vos Cités. Les nouvelles colonies devront être édifiées par des hommes possédant l’expérience du civisme, et auxquels auront été inculqués les rudiments d’une culture C/Fe. Ces êtres-là constitueront une synthèse, un croisement de deux races distinctes, de deux esprits jadis opposés, et parvenus à s’interpénétrer. Dans l’état actuel des choses, la structure du Monde Terrestre ne peut aller qu’en s’effritant rapidement, tandis que, de leur côté, les Mondes Extérieurs dégénéreront et s’effondreront dans la décadence un peu plus tard. Mais l’édification de nouvelles colonies constituera au contraire un effort sain et salutaire, dans lequel se fondront les meilleurs éléments des deux civilisations en présence. Et, par le fait même des réactions qu’elles susciteront sur les Vieux Mondes, en particulier sur la Terre, des colonies pourront nous faire connaître une existence toute nouvelle. »

Isaac Asimov

00:05 Publié dans Philosophie | Lien permanent | Commentaires (0) | Tags : philosophie, drones, robots, robotique, asimov | |  del.icio.us | | Digg! Digg |  Facebook

jeudi, 25 février 2010

Von Bio-Hackern und künstlichen Bazillen

Von Bio-Hackern und künstlichen Bazillen

Andreas von Rétyi / Ex: http://info.kopp-verlag.de/

Supermenschen, biologische Roboter und synthetische Lebensformen zählen nicht nur zum allseits beliebten Hollywood-Repertoire, sondern genauso auch zu den futuristischen Forschungsprojekten des Militärs. Genom-Hacker dringen zu den innersten Geheimnissen des Lebens vor, um neue Wesen ganz nach Maß zu schaffen. Ziel: unsterbliche Erfüllungsgehilfen für die verschiedensten Einsätze. Das Pentagon mischt natürlich tüchtig mit – und auch private Bio-Hacker rühren in der gefährlichen Brühe herum.

robots_z_1206527109.jpgDie Pentagon-Behörde für fortschrittliche Verteidigungsforschung DARPA (Defense Advanced Research Projects Agency) stößt oftmals in utopisch wirkende Dimensionen vor, um zu zeigen, was prinzipiell machbar ist. Und genau damit rücken diese Utopien bereits wieder in greifbare Nähe. Die militärische Forschergilde findet zunehmend Geschmack an ganz besonderen Rezepten, wie sie derzeit in ganz besonderen »Kochkursen« ersonnen werden. Denn neue DNA-Cocktails, künstliche Ursüppchen und mehrgängige Biosynthese-Menüs erfreuen sich bei den militärischen Gen-Gourmets wachsender Beliebtheit.

Jetzt fördert die DARPA das Projekt BioDesign mit Dollar-Millionen. Nichts als vorsichtige Anfänge allerdings. Immerhin aber sollen die Forschungen zur gezielten Modifikation von Genen merklich beschleunigt werden, um künstliche Kreaturen mit den ungewöhnlichsten Eigenschaften zum Leben zu erwecken. Die DARPA-Visionäre wollen die evolutionsbedingte »Zufälligkeit« ausschalten und genetisch programmierte, synthetische Organismen erzeugen, die unbegrenzte Zeiträume leben können und all das tun, was ihre Schöpfer von ihnen erwarten. Sollte das aber einmal nicht funktionieren und in alter SF-Manier eine gefährliche Fehlfunktion auftreten, darf ein – selbst natürlich unfehlbares – genetisches Selbstzerstörungsprogramm logischerweise nicht fehlen, ein Code, der automatisch in Gang gesetzt wird und dem ganzen Spuk ein jähes Ende setzt.

Die Kombination von Leben und Technik beginnt bereits auf der mikrobiologischen Ebene. Denn bekanntlich macht Kleinvieh auch Mist, und ohne die winzigsten Organismen gäbe es uns sowieso nicht. Paradebeispiel Cyano-Bakterien als supereffektive Sauerstoffproduzenten. Was vor Milliarden Jahren auf der Erde geschah, wollen Planeteningenieure und »Terraformer« in unbestimmter Zukunft auch auf dem Mars bewerkstelligen: die Umwandlung einer kompletten Atmosphäre mit entscheidender Starthilfe von Mikroben.

Abgesehen aber von diesen eher fernen Träumen gibt es schon jetzt harte Fakten. An zahlreichen Instituten wird weltweit fieberhaft an bizarren und auch bedrohlichen Konzepten getüftelt. Mit sogar relativ einfachen Mitteln und teils auch im Rahmen studentischer Projekte soll eine sehr zielorientierte Umformung des Lebens erreicht werden. Natürlich mit ganz anderen Absichten als die Planetenumwandler, aber mit nicht weniger Ehrgeiz. Mittlerweile ist schon von einer »Revolution der synthetischen Biologie« die Rede.

Der DARPA und verschiedenen Forschungsinstituten geht es aber nicht alleine darum, möglichst naturgetreue humanoide Biosysteme zu schaffen, synthetische Wesen, die im »Idealfall« nicht mehr von Menschen zu unterscheiden wären. Vor allem nämlich eine Idee begeistert die Experimentatoren: Sie wollen nicht nur genetische Bauteile kopieren und neu zusammenstellen, sondern auch völlig neue Gene und einen neuen genetischen Code schaffen. Wieder eingepflanzt in ausgewählte Bakterien sollen die Mikroben dann als lebende Werkzeuge tätig werden und ihre genetisch neu definierten Aufgaben erfüllen, darunter die Produktion von Treibstoffen oder auch Pharmazeutika.

Das Neudesign des Gencodes muss aber laut einer Studentengruppe der Universität von New York nicht auf hochspezialisierte Labors beschränkt bleiben. Die DIYbio-Gruppe (DIYbio = Do it yourself Biology) stellt sich eine wachsende Beteiligung von Amateurbiologen vor. Und davon gibt es schon jetzt eine ganze Reihe. Freizeit-Genetiker und Bio-Hacker, die im Hobbykeller, in der Garage oder gar der heimischen Küche neues Erbgut züchten. Manche Zeitgenossen betrachten deren Passion als Legospiel auf deutlich höherer Ebene, andere sehen darin einen riskanten, weitgehend unkontrollierten und ungeschützten Umgang mit potenziell gefährlichen Viren und Mikroben. Dass dereinst auch Kinder mit Mikroben herumbasteln und dazu die geeigneten Gen-Experimentierkästen zu Weihnachten geschenkt bekommen werden, davon ist der visionäre US-Physiker Freeman Dyson bereits eine ganze Weile überzeugt. Baupläne für Viren können heute schon »ergoogelt« werden, auch die Hardware ist verfügbar.

Mittlerweile existieren auch große »Bibliotheken« mit genetischen Bauteilen, beispielsweise das Registry of Standard Biological Parts am Massachusetts Institute of Technology (MIT) mit rund 5.000 »BioBricks«, also biologischen Bausteinen. Am MIT gibt es übrigens schon seit bald einem Jahrzehnt ein Preisausschreiben für die das »beste Bakterien-Neudesign«! Wer baut die tollste Bazille!

Die Gefahren solcher Technologien liegen wie bei vielen anderen Versuchsfeldern des Menschen klar auf der Hand. Eine hundertprozentige Sicherheit der Verfahren und Ergebnisse kann niemand wirklich garantieren. Schon heute lauern in den großen militärischen und geheimdienstlichen Biolabors die gefährlichsten Mikroben. Allesamt tickende Zeitbomben. Mit Gewissheit sind auch dies exakt die Stätten der skrupellosesten, der bedrohlichsten Entwicklungen auf dem Sektor. Was wird die nächste Generation der Gen-Hacker an bedrohlichen Neukreationen zu schaffen im Stande sein?

 

Donnerstag, 18.02.2010

Kategorie: Enthüllungen, Wissenschaft

© Das Copyright dieser Seite liegt, wenn nicht anders vermerkt, beim Kopp Verlag, Rottenburg


Dieser Beitrag stellt ausschließlich die Meinung des Verfassers dar. Er muß nicht zwangsläufig die Meinung des Verlags oder die Meinung anderer Autoren dieser Seiten wiedergeben.

00:15 Publié dans Sciences | Lien permanent | Commentaires (0) | Tags : sciences, robotique, défense, prospective, robots, bacilles | |  del.icio.us | | Digg! Digg |  Facebook