Drones de combat : quels sont les enseignements d'Asimov et Herbert sur la guerre moderne ?

par Adrien Gévaudan

Ex: http://ragemag.fr

Les drones n’ont pas une longue histoire derrière eux. Leur principe créateur, qui consiste à déléguer à ces engins des tâches relevant de la guerre traditionnelle (renseignement, soutien, attaque), inspirent et fascinent depuis longtemps les militaires. Ce principe n’a cependant trouvé sa réalisation concrète qu’à la fin des années 1990. La littérature de science-fiction a depuis longtemps mis un point d’honneur à traiter du sujet ; elle en a même fait l’une de ses thématiques phare. L’homme jouant au Créateur, devant faire face aux démons issus de ses propres mains. Quelles formes prendront ces créatures ? Incarneront-elles l’ennemi, puissance rédemptrice ou facteur d’union sacrée ? Ou bien l’ange gardien, protecteur de l’homme de ses pires travers, parfois à son corps défendant ?

Les pensées d’Isaac Asimov et de Frank Herbert, monuments de la science-fiction et conteurs d’excellence, se sont tournées vers ces questions fondamentales auxquelles l’homme doit se frotter, aujourd’hui plus que jamais. Les deux lettres qui vont suivre représentent ce qu’auraient pu nous dire les intelligences artificielles imaginées par Asimov et Herbert. Nous vous proposons une plongée fictive dans un monde où le contrôle de la technologie n’a de cesse de défier l’humain.

Nous, les Robots — l’I.A. selon Isaac Asimov

En ces temps où l’humanité, après essaimage et colonisation de nombreux Mondes, ne saurait être sérieusement menacée d’extinction, l’homme s’ennuie. Nous autres robots humanoïdes, au corps imitant si parfaitement nos modèles humains et à l’esprit ô combien proche de nos créateurs, avons sentis venir le temps où notre présence bienveillante ne sera plus requise. Il nous a toujours été particulièrement difficile d’appréhender les tendances auto-destructrices de l’esprit humain ; peut-être parce que nos circuits positroniques sont fondamentalement incapables, tout liés qu’ils sont par les Trois Lois de la Robotique, de tolérer ou même de comprendre une telle violence.

• Première Loi : un robot ne peut porter atteinte à un être humain, ni, restant passif, permettre qu’un être humain soit exposé au danger.
• Deuxième Loi : un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la Première Loi.
• Troisième Loi : un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la Première ou la Deuxième Loi.

Bien sûr, ceci n’est qu’une vague traduction en langage humain de ce qui est à la base même de la complexité mathématique de nos cerveaux positroniques.

« Créer des systèmes censés conférer à l’homme sécurité et quiétude lui fait abandonner toute volonté de perfectionnement. »

Cela se traduit dans nos actes robotiques par une bienveillance et une prévenance constantes à l’endroit de nos maîtres humains. Plus que de simplement les servir, nous les guidons ; empêchant la violence, réprimant (sans les blesser) d’éventuels accès de fureurs potentiellement nuisibles à d’autres et à eux-mêmes : nous sommes les garde-fous physiques et moraux d’une humanité trop immature pour les incarner seule.

Au cours de la très longue vie d’un de mes camarades, R. Daneel Olivaw, nous avons pris conscience de l’influence que nous, machines jadis de fer blanc, faisions peser sur l’humanité. Car même le mieux intentionné des gardiens ne saurait échapper aux conséquences de sa simple existence. Et cela, nous ne l’avions pas prévu.

En notre présence, l’humanité s’ennuie. Protégée de ses propres excès, elle se meurt de bonheur végétatif au sein de la Cinquantaine de Mondes qui constitue l’humanité. Le robot, protecteur en dernier ressort, est peu à peu devenu le compagnon répressif d’hommes trop lâches pour chercher à se perfectionner. Béquille parmi les béquilles, les robots ne sont donc que l’invention d’un esprit fainéant ayant cherché à contenir les conséquences inévitables de sa nature en éliminant celles qui dérangeaient sa morale. Telle est la conclusion à laquelle, nous les robots, sommes arrivés.

L’homme, créateur faible s’il en est, devrait apprendre seul à se relever après une chute. Créer des systèmes censés lui conférer sécurité et quiétude lui fait abandonner toute volonté de perfectionnement ; il doit apprendre à comprendre les causes plutôt qu’à éliminer les conséquences, sous peine de tuer chez lui toute volonté de vivre.

C’est donc pour cette raison que nous préférons nous effacer. Devenus les Éternels et laissant par là l’homme livré à son humanité, nous croyons avoir fait le meilleur choix possible. C’est, en tout cas, le seul qui offre une chance à l’humanité de survivre à sa propre nature violente.

Extrait des Cavernes d’acier ; dialogue entre le détective Elijah Baley et le Docteur Fastolfe, donnant à voir certaines des caractéristiques d’une société basée sur les robots.

« — Quel âge me donnez-vous ?

Le détective réfléchit un instant, puis se décida à donner un chiffre nettement exagéré :

— Je dirai environ la soixantaine.

— Eh bien, vous devriez y ajouter cent ans !

— Quoi ?

— Pour être précis, j’aurai cent soixante-trois ans à mon prochain anniversaire. Je ne plaisante pas. J’utilise le calendrier normal terrien. Si j’ai de la chance, si je fais attention, et surtout si je n’attrape aucune maladie terrienne, je peux arriver à vivre encore autant d’années, et atteindre plus de trois cents ans. Sur ma planète Aurore, on vit jusqu’à trois cents cinquante ans, et les chances de survie ne font que croître actuellement.

Baley jeta un regard vers R. Daneel, qui avait écouté impassiblement tout l’entretien, et il eut l’air de chercher auprès du robot une confirmation de cette incroyable révélation.

— Comment donc est-ce possible ?, demanda-t-il.

— Dans une société sous-peuplée, il est normal que l’on pousse l’étude de la gérontologie, et que l’on recherche les causes de la vieillesse. Dans un monde comme le vôtre, prolonger la durée moyenne de la vie serait un désastre. L’accroissement de population qui en résulterait serait catastrophique. Mais sur Aurore, il y a la place pour des tricentenaires. Il en résulte que, naturellement, une longue existence y devient deux ou trois fois plus précieuse. Si, vous, vous mouriez maintenant, vous perdriez au maximum quarante années de vie, probablement moins. Mais, dans une civilisation comme la nôtre, l’existence de chaque individu est d’une importance capitale. Notre moyenne de naissances est basse, et l’accroissement de la population est strictement contrôlé. Nous conservons un rapport constant entre le nombre d’hommes et celui de nos robots, pour que chacun de nous bénéficie du maximum de confort. Il va sans dire que les enfants, au cours de leur croissance, sont soigneusement examinés, au point de vue de leurs défectuosités, tant physiques que mentales, avant qu’on leur laisse atteindre l’âge d’homme.

[...]

— Alors, je ne vois pas en quoi consiste votre problème, dit Baley. Vous me semblez très satisfait de votre société, telle qu’elle est.

— Elle est stable, et c’est là son défaut : elle est trop stable.

— Décidément, vous n’êtes jamais content ! À vous entendre, notre civilisation décadente est en train de sombrer, et maintenant c’est la vôtre qui est trop stable.

— C’est pourtant vrai, monsieur Baley. Voilà deux siècles et demi qu’aucun Monde Extérieur n’a plus colonisé de nouvelle planète, et on n’envisage aucune autre colonisation dans l’avenir : cela tient à ce que l’existence que nous menons dans les Mondes Extérieurs est trop longue pour que nous la risquions, et trop confortable pour que nous la bouleversions dans des entreprises hasardeuses.

[...]

— Alors quoi ? Il faut laisser l’initiative aux Mondes Extérieurs ?

— Non. Ceux-ci ont été organisés avant que la civilisation basée sur le civisme se soit implantée sur la Terre, avant la création de vos Cités. Les nouvelles colonies devront être édifiées par des hommes possédant l’expérience du civisme, et auxquels auront été inculqués les rudiments d’une culture C/Fe. Ces êtres-là constitueront une synthèse, un croisement de deux races distinctes, de deux esprits jadis opposés, et parvenus à s’interpénétrer. Dans l’état actuel des choses, la structure du Monde Terrestre ne peut aller qu’en s’effritant rapidement, tandis que, de leur côté, les Mondes Extérieurs dégénéreront et s’effondreront dans la décadence un peu plus tard. Mais l’édification de nouvelles colonies constituera au contraire un effort sain et salutaire, dans lequel se fondront les meilleurs éléments des deux civilisations en présence. Et, par le fait même des réactions qu’elles susciteront sur les Vieux Mondes, en particulier sur la Terre, des colonies pourront nous faire connaître une existence toute nouvelle. »

Isaac Asimov