L'intelligence artificielle: la reine de la censure mondiale?

L'intelligence artificielle: la reine de la censure mondiale?

Vladimir Prokhvatilov

Source: http://www.elespiadigital.com/index.php/noticias/seguridad/38691-2022-09-01-10-04-17

Le 10 août, le site web du Forum économique mondial (WEF) a publié l'article La solution aux abus en ligne ? L'IA plus l'intelligence humaine.

L'auteur de l'article, Inbal Goldberger, vice-présidente de la société israélienne Active Fence, "experte en intelligence", propose de combiner un réseau d'intelligence artificielle avec l'intelligence humaine pour combattre le "monde obscur des abus en ligne" de "l'extrémisme, de la désinformation et des discours de haine".

Selon Mme Goldberger, les logiciels d'intelligence artificielle (IA) ne peuvent souvent pas comprendre les "formulations verbales des groupes haineux", n'ont pas atteint "la maîtrise des langages terroristes et une compréhension subtile des campagnes de désinformation".

"Par exemple, il existe des modèles d'IA robustes pour détecter la nudité, mais seuls quelques-uns peuvent distinguer si cette nudité fait partie d'un tableau de la Renaissance ou d'une image pornographique. De même, la plupart des modèles ne peuvent pas dire si le couteau montré dans la vidéo est utilisé pour faire la publicité d'un outillage de boucherie ou d'une agression violente. Les attaquants peuvent exploiter ce trou béant".

Les modérateurs qui suppriment le contenu "indésirable" n'ont pas la force et les connaissances nécessaires pour dresser une liste noire de tous les sites de désinformation. "Contrairement à l'IA, les modérateurs humains et les experts en la matière peuvent détecter les nuances de l'abus en ligne..... Toutefois, cette précision est limitée au domaine d'expertise particulier de l'analyste : un modérateur humain expert de la suprématie blanche en Europe n'est pas forcément capable de reconnaître un contenu malveillant en Inde ou des récits de désinformation au Kenya."

Goldberger entonne un plaidoyer pour une censure mondiale : les modérateurs seraient au mieux de leur forme en Europe, mais n'ont pas encore atteint l'Inde et le Kenya. Il est entendu que l'on ne peut faire confiance aux Indiens, aux Africains, aux Arabes, ainsi qu'aux Chinois et aux Russes eux-mêmes pour le contrôle des informations sur Internet.

Pour que la lutte contre les "contenus offensifs" soit véritablement mondiale, Mme Goldberger propose de combiner les efforts de l'IA (échelle des menaces) avec l'esprit des experts des pays.

Les réseaux mondiaux sont devenus fous: "Le Forum économique mondial de Klaus Schwab propose d'automatiser la censure des "discours de haine" et de la "désinformation" à l'aide d'une IA alimentée par des "experts du domaine"". Une telle symbiose entre l'homme et la machine est appelée intelligence hybride, mais Goldberger évite ce terme, car le domaine de l'intelligence hybride est l'un des principaux domaines de recherche et de développement des agences de renseignement américaines par le biais de l'Advanced Research Agency ( IARPA ) dans le domaine de l'intelligence dite anticipative (Anticipatory intelligence).

En 2017, l'IARPA a lancé le développement d'"un système de prévision hybride homme-machine pour des problèmes tels que les épidémies, les fluctuations boursières, les élections, les conflits interétatiques". En particulier, le projet Synergistic Anticipation of Geopolitical Events ( SAGE ) était dirigé par le chef du groupe de recherche sur l'intelligence artificielle et les bases de données de l'Université de Californie du Sud, Aram Galstyan. Il a travaillé sur la "rétroaction entre l'intelligence humaine et l'intelligence informatique". En établissant un tel retour d'information, Inbal Goldberger entrevoit les perspectives d'une censure mondiale.

Le projet SAGE fait partie du programme plus vaste Hybrid Forecasting Competition (HFC), supervisé par l'Office of the Director of National Intelligence (ODNI) des États-Unis, qui vise à comparer les performances de "divers hybrides homme-machine dans la prévision d'événements de la vie réelle en fusionnant le jugement humain avec des informations provenant de sources telles que les bulletins d'information traditionnels, les réseaux sociaux et les chiffres financiers", a déclaré l'ODNI.

La possibilité d'utiliser le renseignement hybride à des fins de renseignement aux États-Unis a été abordée parce que de précédents projets de ce type avaient échoué. Le projet FutureMap a échoué. Le projet de prédiction de l'intelligence collaborative a échoué ; sa précision s'est avérée inférieure à 48 %, c'est-à-dire pire qu'un tirage à pile ou face.

Le projet d'intelligence proactive avec l'aide de l'intelligence hybride a également échoué. Elon Musk a maintenant évolué dans cette direction. Il a rapidement abandonné ses promesses d'envoyer des gens sur Mars et a commencé à soutenir l'idée que les gens devraient être fusionnés avec l'intelligence artificielle dans un avenir proche.

Selon le directeur de la technologie numérique de la CIA, Andrew Hellman, les services de renseignement proactifs américains ont appris à prévoir avec précision les foyers d'instabilité, les conflits et les attaques terroristes 3 à 5 jours avant qu'ils ne se produisent. Cependant, "les capacités prédictives avec un horizon d'événement de 3 à 5 jours ne peuvent être adaptées qu'aux personnes ordinaires qui vont faire un pique-nique le week-end prochain et qui s'intéressent à la météo. Pour une intelligence proactive de l'instabilité sociale et des conflits, un horizon de prévision d'au moins quelques semaines est désespérément nécessaire, mais dans le meilleur cas, de 3 à 5 semaines", déclare Sergey Karelov, un analyste informatique russe de premier plan.

Dans ce contexte des échecs de l'utilisation de l'intelligence hybride, il semble qu'ils aient décidé de ne pas essayer de prédire l'avenir, mais de le concevoir, comme l'a enseigné le lauréat du prix Nobel Dennis Gabor. C'est de l'ingénierie sociale.

L'article d'Inbal Goldberger sur le site du WEF a fait beaucoup de bruit. "Le WEF prévoit d'utiliser la technologie de l'intelligence artificielle pour combattre 'les discours de haine et la désinformation' et désormais, tout ce qui va à l'encontre de son programme sera considéré comme de la désinformation... Appelons cela une dictature mondiale en devenir", écrit la journaliste britannique Sophie Corcoran.

"Inbal Goldberger promeut l'IA comme la reine de la censure.... Elle semble avoir complètement fusionné avec l'équipe de Biden", disent-ils sur les médias sociaux.

"Le groupe à l'origine du Grand Redémarrage promeut la censure mondiale dans le cadre du schéma 'IA plus intelligence humaine'. "Le Forum économique mondial (WEF) a proposé une nouvelle façon de censurer les contenus en ligne qui exige qu'un petit groupe d'experts entraîne l'intelligence artificielle à détecter la 'désinformation' et le contenu offensant", peut-on lire dans le titre.

D'une manière ou d'une autre, les tentatives d'introduire une censure mondiale à l'aide de l'intelligence artificielle n'ont pas été marquées par un succès pratique. Jusqu'à présent, beaucoup de bruit pour rien.

elespiadigital.com