L'intelligence artificielle et la construction du sens dans un monde de concurrence stratégique

L'intelligence artificielle et la construction du sens dans un monde de concurrence stratégique

Lic. Andrés Berazategui

Source: https://politicar.com.ar/contenido/909/la-inteligencia-ar...

Malgré son existence récente, l'intelligence artificielle a déjà démontré ses applications dans des domaines aussi divers que la sécurité, l'économie ou la diffusion de l'information. Son utilisation revêt une importance particulière dans un monde où la concurrence stratégique entre les grandes puissances est de retour. Les applications liées au « hard power » sont multiples et quasi quotidiennes.

L'IA s'impose comme un outil fondamental en matière de sécurité, de contrôle et de surveillance; dans le domaine militaire, elle améliore les systèmes d'armement, conçoit des scénarios et facilite les processus décisionnels; dans le domaine économique, elle remplace le service personnalisé, accélère les processus d'analyse de marché, augmente la productivité et conditionne les préférences de consommation; en matière d'études d'opinion, l'IA a la capacité de trouver des régularités à partir de données massives, ce qui lui permet de prédire les comportements avec une grande précision (sur lesquels elle peut également contribuer à influencer).

À première vue, l'influence de l'IA sur les aspects culturels est moins évidente, en particulier sur une question très sensible: comment influence-t-elle la manière dont les gens abordent les débats, les informations et les conclusions auxquelles ils parviennent lorsqu'ils consultent les modèles linguistiques de l'IA ? Pour simplifier, l'IA construit du sens. Et cela, comme tout fait culturel (ou « soft power »), peut avoir d'énormes implications à long terme. Mais les modèles linguistiques de l'IA ne sont-ils pas neutres ? Eh bien, c'est un point crucial qui doit être clarifié : non, l'IA n'est pas neutre.

Les applications des modèles linguistiques de l'IA sont conditionnées par les écosystèmes culturels dans lesquels elles ont été créées et par la charge normative que les développeurs leur impriment. L'IA n'est pas une technique pure qui exprime des langages, des décisions et des connaissances universels et neutres potentiellement exploitables par et pour tous. Non. L'IA est conditionnée par l'action humaine. Après tout, elle a été créée et est développée par des êtres humains.

Voyons voir. L'IA fonctionne avec des algorithmes, c'est vrai, mais ses tâches de traitement, de mise en relation des données et de filtrage des thèmes ne sont ni aseptiques ni totalement neutres. Ces tâches sont influencées par les connaissances conventionnelles de l'Occident et, en général, par la langue anglaise, car c'est dans le monde anglophone que les premiers développements de cette technologie ont vu le jour. Ainsi, les connaissances sont nécessairement sélectionnées et hiérarchisées de manière partiale (en favorisant certaines conclusions et en en écartant d'autres), ce qui influence d'une certaine manière la façon d'aborder le savoir. Mais ce n'est pas tout : l'IA subit également l'influence active des développeurs eux-mêmes, qui « entraînent » l'utilisation des algorithmes avec lesquels fonctionnent les modèles de langage de l'IA, projetant ainsi leurs propres jugements (parfois également conditionnés par les législations occidentales). Cela se voit dans la double tâche accomplie par les développeurs, qui promeuvent certaines valeurs et en relèguent d'autres au second plan.

Il est difficile, voire impossible, de trouver une réponse de ChatGPT, par exemple, qui remette en question la démocratie, les droits de l'homme ou l'économie de marché. Comme si cela ne suffisait pas, l'IA reproduit et défend des valeurs telles que l'hyperproductivité, la liberté de conscience ou le multiculturalisme. Existe-t-il une preuve plus évidente que celle-ci de la perspective eurocentrique (et anglo-saxonne) qui informe l'IA ? Dans un sens plus profond, étant donné qu'il s'agit de modèles de relations algorithmiques, il est logique (si l'on peut dire) que l'IA fasse prévaloir les connaissances mesurables, régulières et prévisibles; et bien sûr, cela porte atteinte à la capacité humaine de réfléchir et d'appréhender la réalité.

Quoi qu'il en soit, avec l'avènement des applications chinoises en matière d'IA, l'Occident (et en particulier les États-Unis) a déjà tiré la sonnette d'alarme. D'autant plus que les applications chinoises sont en train de rattraper et même de dépasser les applications américaines dans certains segments. Un rapport du Lexington Institute, signé par Rebecca L. Grant, met en garde contre les menaces que fait peser sur les États-Unis un « axe d'États autoritaires » en matière de nouvelles technologies numériques.

Le rapport se concentre principalement sur la Chine, qui représente après tout la principale menace pour les États-Unis en termes de concurrence stratégique. Au-delà des aspects liés au pouvoir dur dans le cadre de cette concurrence, le rapport dénonce également le fait que « la Chine construit systématiquement son propre écosystème d'IA open source afin de diffuser des valeurs alignées sur celles du Parti communiste chinois (PCC) et d'influencer le développement mondial de l'IA ». Les entreprises chinoises exportent de manière agressive des modèles d'IA qui intègrent des mécanismes de censure et de propagande dans des applications largement utilisées dans le monde entier, ce qui donne à la Chine la capacité d'influencer les discours et de restreindre la liberté d'expression dans des espaces numériques clés ».

C'est pourquoi, parmi ses conclusions, le document affirme que « en fin de compte, notre quête de leadership technologique ne concerne pas seulement la prospérité économique ou la sécurité nationale: il s'agit de promouvoir les valeurs démocratiques et de contrer la montée de l'autoritarisme à l'ère numérique ». Par conséquent, « les États-Unis et leurs alliés doivent promouvoir activement la vision d'un Internet ouvert et accessible qui favorise la libre circulation de l'information et des idées, en renforçant les valeurs occidentales de liberté et de démocratie à l'échelle mondiale ».

Comme on peut le constater, il s'agit d'une stratégie visant à annuler l'objectivité et la neutralité politiques, à projeter dans le domaine numérique les intérêts d'une puissance contre une autre, non seulement dans la recherche de dividendes plus importants en matière de sécurité et d'économie, mais aussi dans la promotion de valeurs et la construction de sens. Rien de nouveau sous le soleil. S'il est vrai que « celui qui nomme domine », les modèles linguistiques de l'IA seront un champ de bataille stratégique de premier ordre pour contrôler, surveiller et produire, mais aussi pour conditionner notre vision du monde et nos préférences.