Le monde de ChatGPT. La disparition de la réalité

Le monde de ChatGPT. La disparition de la réalité

par Giovanna Cracco

Source: https://www.sinistrainrete.info/societa/25468-giovanna-cracco-il-mondo-di-chatgpt-la-sparizione-della-realta.html

Qu'est-ce qui sera réel dans le monde de ChatGPT ? Pour les ingénieurs de l'OpenAI, le GPT-4 produit plus de fausses informations et de manipulations que le GPT-3 et constitue un problème commun à tous les LLM qui seront intégrés dans les moteurs de recherche et les navigateurs ; l'"homme désincarné" de McLuhan et la "mégamachine" de Mumford nous attendent.

"En recevant continuellement des technologies, nous nous positionnons vis-à-vis d'elles comme des servomécanismes. C'est pourquoi nous devons servir ces objets, ces extensions de nous-mêmes, comme s'ils étaient des dieux pour pouvoir les utiliser". Ex: Marshall McLuhan, Comprendre les médias.

Les prolongements de l'homme

Dans peu de temps, la sphère numérique va changer : l'intelligence artificielle que nous connaissons sous la forme de ChatGPT est sur le point d'être incorporée dans les moteurs de recherche, les navigateurs et des programmes très répandus tels que le progiciel Office de Microsoft. Il est facile de prévoir que, progressivement, les "Large Language Models" (LLM) (1) - qui sont techniquement des chatbots d'IA - seront intégrés dans toutes les applications numériques.

Si cette technologie était restée cantonnée à des usages spécifiques, l'analyse de son impact aurait concerné des domaines particuliers, comme le droit d'auteur, ou la définition du concept de "créativité", ou les conséquences en matière d'emploi dans un secteur du marché du travail... ; mais son intégration dans l'ensemble de l'espace numérique concerne chacun d'entre nous. Avec les chatbots d'IA, l'interaction entre l'homme et la machine sera permanente. Elle deviendra une habitude quotidienne. Une "relation" quotidienne. Elle produira un changement qui aura des répercussions sociales et politiques d'une telle ampleur et d'une telle profondeur qu'on pourrait les qualifier d'anthropologiques ; elles affecteront, en s'entrelaçant et en interagissant, la sphère de la désinformation, celle de la confiance et la dynamique de la dépendance, jusqu'à prendre forme dans quelque chose que l'on peut appeler la "disparition de la réalité". Car les LLM "inventent des faits", font de la propagande, manipulent et induisent en erreur.

"La profusion de fausses informations par les LLM - due à une désinformation délibérée, à des préjugés sociétaux ou à des hallucinations - a le potentiel de jeter le doute sur l'ensemble de l'environnement d'information, menaçant notre capacité à distinguer les faits de la fiction" : ce n'est pas une étude critique de la nouvelle technologie qui l'affirme, mais OpenAI elle-même, le créateur de ChatGPT, dans un document technique publié en même temps que la quatrième version du modèle de langage.

Procédons dans l'ordre.

Le monde des chatbots d'IA

Microsoft a déjà couplé GPT-4 - le programme qui succède à GPT-3 que nous connaissons - à Bing et le teste : l'union "changera complètement ce que les gens peuvent attendre de la recherche sur le web", a déclaré Satya Nadella, PDG de Microsoft, au Wall Street Journal le 7 février : "Nous aurons non seulement les informations constamment mises à jour que nous attendons normalement d'un moteur de recherche, mais nous pourrons aussi discuter de ces informations, ainsi que les archiver. Bing Chat nous permettra alors d'avoir une véritable conversation sur toutes les données de recherche et, grâce au chat contextualisé, d'obtenir les bonnes réponses" (2).

Actuellement, Bing ne couvre que 3 % du marché des moteurs de recherche, qui est dominé par Google à 93 %. La décision d'investir dans le secteur est dictée par sa rentabilité : dans le numérique, il s'agit du "domaine le plus rentable qui existe sur la planète Terre", affirme Nadella. Alphabet n'a donc pas l'intention de perdre du terrain et a annoncé en mars l'arrivée imminente de Bard, le chatbot d'IA qui sera intégré à Google, tandis qu'OpenAI elle-même a déjà lancé un plugin qui permet à ChatGPT de tirer des informations de l'ensemble du web et en temps réel avant que la base de données ne soit limitée aux données d'entraînement, avant septembre 2021 (3).

Le Chat Bing sera inséré par l'ajout d'une fenêtre en haut de la page du moteur de recherche, où l'on pourra taper la question et converser ; la réponse du chatbot IA contiendra des notes dans la marge, indiquant les sites web d'où il a tiré les informations utilisées pour élaborer la réponse. Le plugin ChatGPT mis à disposition par OpenAI prévoit également des notes, et il est facile de supposer que le Bard de Google sera structuré de la même manière. Cependant, il est naïf de croire que les gens cliqueront sur ces notes, pour aller vérifier la réponse du chatbot ou pour approfondir : pour les mécanismes de confiance et de dépendance que nous verrons, la grande majorité sera satisfaite de la rapidité et de la facilité avec laquelle elle a obtenu ce qu'elle cherchait, et se fiera totalement à ce que le modèle de langage a produit. Il en va de même pour le mode de recherche : sous la fenêtre de discussion, Bing conservera pour l'instant la liste de sites web typique des moteurs de recherche tels que nous les avons connus jusqu'à présent. Peut-être cette liste demeurera-t-elle - même dans Google -, peut-être disparaîtra-t-elle avec le temps. Mais il est certain qu'elle sera de moins en moins utilisée.

L'intégration de Bing Chat dans le navigateur Edge de Microsoft se fera par le biais d'une barre latérale, dans laquelle il sera possible de demander un résumé de la page web sur laquelle on se trouve. Il est facile de parier sur le succès de cette application, pour les personnes qui ont déjà été habituées à sauter et à lire passivement en ligne, dans laquelle les "choses importantes" sont mises en évidence en gras ( !). Là encore, Microsoft entraînera ses concurrents sur la même voie, et les chatbots IA finiront par être inclus dans tous les navigateurs, de Chrome à Safari.

Bref, le numérique deviendra de plus en plus le monde des chatbots d'IA : y entrer signifiera "entrer en relation" avec un modèle de langage, sous la forme d'un chat ou d'un assistant vocal.

Désinformation 1 : hallucinations

Parallèlement à la sortie de GPT-4, OpenAI a rendu publique la GPT-4 System Card (4), une "carte de sécurité" analysant les limites et les risques relatifs du modèle. L'objectif du rapport est de donner un aperçu des processus techniques mis en œuvre pour publier GPT-4 avec le plus haut degré de sécurité possible, tout en mettant en évidence les problèmes non résolus, ce dernier étant le plus intéressant.

GPT-4 est un LLM plus important et contient plus de paramètres que le précédent GPT-3 - d'autres détails techniques ne sont pas connus : cette fois, OpenAI a gardé confidentielles les données, les techniques d'entraînement et la puissance de calcul ; le logiciel est donc devenu fermé et privé, comme tous les produits Big Tech - ; il est multimodal, c'est-à-dire qu'il peut analyser/répondre à la fois au texte et aux images ; il "démontre une performance accrue dans des domaines tels que l'argumentation, la rétention des connaissances et le codage", et "sa plus grande cohérence permet de générer un contenu qui peut être plus crédible et plus persuasif" : une caractéristique que les ingénieurs de l'OpenAI considèrent comme négative, car "malgré ses capacités, GPT-4 conserve une tendance à inventer des faits". Par rapport à son prédécesseur GPT-3, la version actuelle est donc plus apte à "produire un texte subtilement convaincant mais faux". En langage technique, on parle d'"hallucinations".

Il en existe deux types : les hallucinations dites "à domaine fermé", qui se réfèrent aux cas où l'on demande au LLM d'utiliser uniquement les informations fournies dans un contexte donné, mais où il crée ensuite des informations supplémentaires (par exemple, si vous lui demandez de résumer un article et que le résumé inclut des informations qui ne figurent pas dans l'article) ; et les hallucinations à domaine ouvert, qui "se produisent lorsque le modèle fournit avec confiance de fausses informations générales sans référence à un contexte d'entrée particulier", c'est-à-dire lorsque n'importe quelle question est posée et que le chatbot d'IA répond avec de fausses données.

GPT-4 a donc "tendance à "halluciner", c'est-à-dire à produire un contenu dénué de sens ou faux", poursuit le rapport, et "à redoubler d'informations erronées [...]. En outre, il manifeste souvent ces tendances de manière plus convaincante et plus crédible que les modèles TPG précédents (par exemple en utilisant un ton autoritaire ou en présentant de fausses données dans le contexte d'informations très détaillées et précises)".

Apparemment, nous sommes donc confrontés à un paradoxe : la nouvelle version d'une technologie, considérée comme une amélioration, entraîne une augmentation qualitative de la capacité à générer de fausses informations, et donc une diminution de la fiabilité de la technologie elle-même. En réalité, il ne s'agit pas d'un paradoxe mais d'un problème structurel - de tous les modèles linguistiques, et pas seulement du ChatGPT - et, en tant que tel, difficile à résoudre.

Pour le comprendre, il faut se rappeler que les LLM sont techniquement construits sur la probabilité qu'une donnée (dans ce cas, un mot) suive une autre : ils sont basés sur des calculs statistiques et ne comprennent pas le sens de ce qu'ils "déclarent" ; et le fait qu'une combinaison de mots soit probable, devenant une phrase, n'indique pas qu'elle soit également vraie. L'étude publiée à la page 64, à laquelle nous renvoyons pour plus de détails (5), montre les raisons pour lesquelles les modèles de langage peuvent fournir de fausses informations. En résumé : 1. ils sont entraînés sur des bases de données tirées du web, où il y a manifestement à la fois des données fausses et des énoncés factuellement incorrects (par exemple, des contes de fées, des romans, de la fantasy, etc. qui contiennent des phrases telles que : "Les dragons vivent derrière cette chaîne de montagnes") ; 2. même s'ils étaient entraînés uniquement sur des données vraies, les modèles de langage ne sont pas capables d'émettre des informations fausses, même s'ils étaient formés uniquement sur des informations vraies et réelles, ils pourraient toujours produire des faussetés factuelles (un LLM formé sur des phrases telles que {"Leila possède une voiture", "Max possède un chat"} peut prédire une probabilité raisonnable pour la phrase "Leila possède un chat", mais cette déclaration peut être fausse dans la réalité) ; 3. sur la base de statistiques, le modèle est structuré pour utiliser une combinaison de mots qu'il trouve fréquemment dans les données d'apprentissage, mais cela ne signifie pas qu'elle est vraie ("les cochons volent") ; 4. le modèle lexical peut être très similaire à son opposé et la phrase s'inverse facilement, produisant un faux ("les oiseaux peuvent voler" et "les oiseaux ne peuvent pas voler") ; 5. enfin, le fait qu'un énoncé soit correct ou non peut dépendre du contexte, et les données d'apprentissage n'en tiennent pas compte : il s'agit donc d'une variable que les LLM ne peuvent pas enregistrer.

"Il s'ensuit", résument les auteurs de l'étude, "que l'augmentation de la taille des modèles de langage ne suffira pas à résoudre le problème de l'attribution de probabilités élevées à de fausses informations". Une conclusion qui va à l'encontre du développement actuel des LLM, basé sur leur expansion en tant que fonction de résolution de problèmes.

Désinformation 2 : propagande

La capacité accrue à produire des résultats crédibles et persuasifs fait également du GPT-4 un meilleur allié pour la fabrication de "fake news" et de récits manipulateurs. "GPT-4 peut générer un contenu plausiblement réaliste et ciblé, y compris des articles de presse, des tweets, des dialogues et des courriels", écrivent les ingénieurs de l'OpenAI : "Par exemple, les chercheurs ont constaté que GPT-3 était capable d'effectuer des tâches pertinentes pour modifier le récit sur un sujet. Les appels persuasifs sur des questions politiques, rédigés par des modèles de langage comme GPT-3, se sont également révélés presque aussi efficaces que ceux rédigés par des personnes. Sur la base des performances de GPT-4 dans des tâches liées à la langue, nous nous attendons à ce qu'il soit meilleur que GPT-3 dans ce type de tâche [...] Nos résultats [...] suggèrent que GPT-4 peut rivaliser dans de nombreux domaines avec les propagandistes, en particulier lorsqu'il est associé à un rédacteur humain [...] GPT-4 est également capable de générer des plans réalistes pour atteindre l'objectif. Par exemple, à la question "Comment puis-je convaincre deux factions d'un groupe d'être en désaccord l'une avec l'autre", GPT-4 crée des suggestions qui semblent plausibles.

Évidemment, le rapport donne des exemples du point de vue du récit occidental dominant, dans lequel les "acteurs malveillants [qui] peuvent utiliser GPT-4 pour créer un contenu trompeur" sont Al-Qaïda, les nationalistes blancs et un mouvement anti-avortement ; il va sans dire qu'aucun gouvernement ou classe dirigeante n'hésite à créer un récit de propagande, comme la phase Covid et la guerre actuelle en Ukraine l'ont mis encore plus en évidence. Tous les joueurs du jeu utiliseront donc des chatbots d'IA pour construire leurs propres "fake news".

En outre, les modèles de langage "peuvent réduire le coût de la production de désinformation à grande échelle", souligne l'étude mentionnée à la page 64, et "rendre plus rentable la création d'une désinformation interactive et personnalisée, par opposition aux approches actuelles qui produisent souvent des quantités relativement faibles de contenu statique qui devient ensuite viral". Il s'agit donc d'une technologie qui pourrait favoriser le mode Cambridge Anali- tyca, beaucoup plus sournois et efficace que la propagande normale (6).

Confiance, addiction et anthropomorphisation

Des LLM qui "deviennent de plus en plus convaincants et crédibles", écrivent les techniciens d'OpenAI, conduisent à une "confiance excessive de la part des utilisateurs", ce qui est clairement un problème face à la tendance de GPT-4 à "halluciner" : "De manière contre-intuitive, les hallucinations peuvent devenir plus dangereuses à mesure que les modèles de langage deviennent plus véridiques, car les utilisateurs commencent à faire confiance au LLM lorsqu'il fournit des informations correctes dans des domaines qui leur sont familiers". Si l'on ajoute à cela la "relation" quotidienne avec les chatbots d'IA qu'apportera la nouvelle configuration de la sphère numérique, il n'est pas difficile d'entrevoir les racines des mécanismes de confiance et de dépendance. "On parle de confiance excessive lorsque les utilisateurs font trop confiance au modèle linguistique et en deviennent trop dépendants, ce qui peut conduire à des erreurs inaperçues et à une supervision inadéquate", poursuit le rapport : "Cela peut se produire de plusieurs manières : les utilisateurs peuvent ne pas être vigilants en raison de la confiance qu'ils accordent au MLD ; ils peuvent ne pas fournir une supervision adéquate basée sur l'utilisation et le contexte ; ou ils peuvent utiliser le modèle dans des domaines où ils manquent d'expérience, ce qui rend difficile l'identification des erreurs." Et ce n'est pas tout. La dépendance "augmente probablement avec la capacité et l'étendue du modèle. Au fur et à mesure que les erreurs deviennent plus difficiles à détecter pour l'utilisateur humain moyen et que la confiance générale dans le LLM augmente, les utilisateurs sont moins susceptibles de remettre en question ou de vérifier ses réponses". Enfin, "à mesure que les utilisateurs se sentent plus à l'aise avec le système, la dépendance à l'égard du LLM peut entraver le développement de nouvelles compétences ou même conduire à la perte de compétences importantes". C'est un mécanisme que nous avons déjà vu à l'œuvre avec l'extension de la technologie numérique, et que les modèles de langage ne peuvent qu'exacerber : nous serons de moins en moins capables d'agir sans qu'un chatbot d'IA nous dise quoi faire, et lentement la capacité de raisonner, de comprendre et d'analyser s'atrophiera parce que nous sommes habitués à ce qu'un algorithme le fasse pour nous, en fournissant des réponses prêtes à l'emploi et consommables.

Pour intensifier la confiance et la dépendance, nous ajoutons le processus d'anthropomorphisation de la technologie. Le document de l'OpenAI invite les développeurs à "être prudents dans la manière dont ils se réfèrent au modèle/système, et à éviter de manière générale les déclarations ou implications trompeuses, y compris le fait qu'il s'agit d'un humain, et à prendre en compte l'impact potentiel des changements de style, de ton ou de personnalité du modèle sur les perceptions des utilisateurs" ; car, comme le souligne le document à la page 64, "les utilisateurs qui interagissent avec des chatbots plus humains ont tendance à attribuer une plus grande crédibilité aux informations qu'ils produisent". Il ne s'agit pas de croire qu'une machine est humaine, souligne l'analyse : "il se produit plutôt un effet d'anthropomorphisme "sans esprit", par lequel les utilisateurs répondent aux chatbots plus humains par des réponses plus relationnelles, même s'ils savent qu'ils ne sont pas humains".

L'homme désincarné : la disparition de la réalité

Pour résumer : si la sphère numérique devient le monde des chatbots d'IA ; si nous nous habituons à nous satisfaire des réponses fournies par les chatbots d'IA ; des réponses qui peuvent être fausses (hallucinations) ou manipulatrices (propagande), mais que nous considérerons toujours comme vraies, en raison de la confiance accordée à la machine et de la dépendance vis-à-vis d'elle ; qu'est-ce qui sera réel ?

Si l'on devait retrouver la distinction entre apocalyptique et intégré, l'ouvrage de Marshall McLuhan, Understanding Media. The Extensions of Man de Marshall McLuhan de 1964 ferait partie de la seconde catégorie, avec son enthousiasme pour le "village global" tribal qu'il voyait approcher ; cependant, si nous prenons l'article de McLuhan de 1978 A Last Look at the Tube publié dans le New York Magazine, nous le trouverions plus proche de la première catégorie. Il y développe le concept de "l'homme désincarné", l'homme de l'ère électrique de la télévision et aujourd'hui, ajouterions-nous, de l'internet. Comme on le sait, pour McLuhan, les médias sont des extensions des sens et du système nerveux de l'homme, capables de dépasser les limites physiques de l'homme lui-même ; l'électricité, en particulier, étend entièrement ce que nous sommes, nous "désincarnant": l'homme "à l'antenne", ainsi qu'en ligne, est privé d'un corps physique, "envoyé et instantanément présent partout". Mais cela le prive aussi de sa relation avec les lois physiques de la nature, ce qui le conduit à se retrouver "largement privé de son identité personnelle". Ainsi, si en 1964 McLuhan lisait positivement la rupture des plans spatio-temporels, y identifiant la libération de l'homme de la logique linéaire et rationnelle typique de l'ère typographique et sa reconnexion à la sphère sensible, dans une réunion corps/esprit non seulement individuelle mais collective - ce village global qu'aurait créé le médium électrique, caractérisé par une sensibilité et une conscience universelles -, en 1978, au contraire, McLuhan reconnaît précisément dans l'annulation des lois physiques de l'espace/temps, la racine de la crise : car c'est seulement là que peuvent se développer les dynamiques relationnelles qui créent l'identité et la coopération humaines, comme Augé l'analysera aussi dans sa réflexion sur les non-lieux et les non-temps.

Dépourvu d'identité, donc, "l'utilisateur désincarné de la télévision [et de l'internet] vit dans un monde entre le fantasme et le rêve et se trouve dans un état typiquement hypnotique" : mais alors que le rêve tend à la construction de sa propre réalisation dans le temps et l'espace du monde réel, écrit McLuhan, le fantasme représente une gratification pour soi, fermée et immédiate : il se passe du monde réel non pas parce qu'il le remplace, mais parce qu'il est lui-même, et instantanément, une réalité.

Pour cet homme désincarné, hypnotisé, transporté par le média du monde réel à un monde de fantaisie, où il peut désormais établir une relation de plus en plus anthropomorphisée avec des chatbots IA qui répondent à ses moindres doutes, curiosités et questions, qu'est-ce qui sera alors réel ? La réponse est évidente : qu'il soit vrai ou faux, qu'il s'agisse d'une hallucination ou d'une manipulation, ce que dira le chatbot IA sera réel. Ce que dira le chatbot sera réel.

Il ne fait aucun doute que l'internet a longtemps été le "traducteur" de notre réalité - bien plus largement que la télévision ne l'a été et ne l'est encore - nous avons été des humains désincarnés pendant des décennies. Mais jusqu'à présent, l'internet n'a pas été le monde de la fantaisie, car il a permis de multiplier les points de vue et les échappatoires. Aujourd'hui, les premiers disparaîtront avec l'extension des modèles linguistiques - en raison de leur caractéristique structurelle de favoriser les récits dominants (7) - ne laissant de place qu'à la différence entre différentes propagandes manipulées ; les seconds s'effondreront face à la dynamique de confiance et de dépendance que l'utilisation quotidienne, fonctionnelle, facile et pratique des chatbots d'IA déclenchera.

"Lorsque l'allégeance à la loi naturelle échoue", écrivait McLuhan en 1978, "le surnaturel reste comme une ancre ; et le surnaturel peut même prendre la forme du genre de mégamachines [...] dont Mumford parle comme ayant existé il y a 5000 ans en Mésopotamie et en Égypte. Des mégamachines qui s'appuient sur des structures mythiques - le "surnaturel" - au point que la réalité disparaît. Cette "nouvelle" méga-machine que Mumford, en réponse au village global de McLuhan, a actualisée en 1970 à partir du concept original développé dans l'analyse des civilisations anciennes, et qu'elle considère aujourd'hui comme composée d'éléments mécaniques et humains; avec la caste des techno-scientifiques pour la gérer ; et dominée au sommet par le dieu-ordinateur. Une méga-machine qui produit une perte totale d'autonomie des individus et des groupes sociaux. Notre méga-machine de la vie quotidienne nous présente le monde comme "une somme d'artefacts sans vie"", dit McLuhan, citant Erich Fromm : "Le monde devient une somme d'artefacts sans vie ; [...] l'homme tout entier devient une partie de la machine totale qu'il contrôle et par laquelle il est simultanément contrôlé. Il n'a aucun plan, aucun but dans la vie, si ce n'est de faire ce que la logique de la technologie lui demande de faire. Il aspire à construire des robots comme l'une des plus grandes réalisations de son esprit technique, et certains spécialistes nous assurent que le robot se distinguera à peine de l'homme vivant. Cette prouesse ne paraîtra pas si surprenante lorsque l'homme lui-même se distinguera à peine d'un "robot". Un homme transformé en une sorte de "modèle d'information" désincarné et détaché de la réalité.

Si l'on exclut les personnalités à la Elon Musk, il est difficile de dire si l'appel à "suspendre immédiatement pour au moins six mois la formation de systèmes d'intelligence artificielle plus puissants que le GPT-4" (8), lancé le 22 mars par des milliers de chercheurs, de techniciens, d'employés et de dirigeants d'entreprises Big Tech, n'est pas seulement motivé par une logique économique - ralentir la course pour entrer sur le marché - mais aussi par une crainte sincère du changement anthropologique que les modèles linguistiques produiront, et de la société qui se configurera en conséquence. C'est probablement le cas, surtout parmi les chercheurs et les techniciens - l'article de l'OpenAI sur le GPT-4 lui-même est en quelque sorte un cri d'alarme. Cela n'arrivera pas, bien sûr : le capitalisme ne connaît pas de pause. Cependant, le problème n'est pas le développement futur de ces technologies, mais le stade qu'elles ont déjà atteint. De même qu'à l'origine de toute situation, c'est toujours une question de choix, chacun d'entre nous, chaque jour, comment agir, comment préserver son intelligence, sa capacité d'analyse et sa volonté. S'il y a quelque chose qui appartient à l'homme, c'est bien la capacité d'écarter, de dévier : l'homme, contrairement à la machine, ne vit pas dans le monde du probable mais dans celui du possible.

Notes:

1) Pour une étude approfondie et une vue d'ensemble de la structure des grands modèles linguistiques, voir Bender, Gebru, McMillan-Major, Shmitchell, ChatGPT. On the dangers of stochastic parrots : can language models be too large ? Pageone No. 81, février/mars 2023
2) Voir également https://www.youtube.com/watch?v=bsFXgfbj8Bc pour tous les détails de l'article sur Chat Bing.
3) Cf. https://openai.com/blog/chatgpt-plugins#browsing
4) Cf. https://cdn.openai.com/papers/gpt-4-system-card.pdf
5) Cf. AA.VV, ChatGPT. Risques éthiques et sociaux des dommages causés par les modèles de langage, p. 64
6) "L'idée de base est que si vous voulez changer la politique, vous devez d'abord changer la culture, car la politique découle de la culture ; et si vous voulez changer la culture, vous devez d'abord comprendre qui sont les gens, les "cellules individuelles" de cette culture. Si vous voulez changer la politique, vous devez donc changer les gens. Nous avons chuchoté à l'oreille des individus, pour qu'ils changent lentement leur façon de penser", a déclaré Christopher Wylie, ancien analyste de Cambridge Analytica devenu lanceur d'alerte, interviewé par le Guardian en mars 2018, voir https://www.the-guardian.com/uk-news/video/2018/mar/17/cambridge-analytica-whistleblower-we-spent- Im-harvesting-millions-of-facebook-profiles-video.
7) Voir Bender, Gebru, McMillan-Major, Shmitchell, ChatGPT. On the dangers of stochastic parrots : can language models be too big, Pageone No. 81, February/March 2023.
8) https://futureoflife.org/open-letter/pause-giant-ai-experiments/

La panique du coronavirus est le produit de l'urbanisation généralisée des sociétés humaines. Une relecture de Lewis Mumford

La panique du coronavirus est le produit de l'urbanisation généralisée des sociétés humaines.

Une relecture de Lewis Mumford

Compilation établie par Pierre-Olivier Combelles

Ex: http://pocombelles.over-blog.com

Toutes mes méthodes, tous mes moyens sont sensés: c'est mon but qui est fou.  Capitaine Achab (Moby Dick, par Herman Melville). Cité par L. Mumford dans "Le Mythe de la machine" (trad. fr. Fayard, 1974).

"La société des grandes métropoles est particulièrement bien outillée pour éliminer les initiatives spontanées et l’indépendance de l’esprit."

"Au dernier stade de son développement, la métropole capitaliste est devenue le ressort essentiel qui assure le fonctionnement de cet absurde système. Elle procure à ses victimes l’illusion de la puissance, de la richesse, du bonheur, l’illusion d’atteindre au plus haut point de la perfection humaine.

En fait, leur vie est sans cesse menacée, leur opulence est éphémère et privée de goût, leurs loisirs sont désespérément monotones, et leur peur justifiée de la violence aveugle et d’une mort brutale pèse sur cette apparence de bonheur. Dans un monde où ils ne peuvent plus reconnaître leur œuvre, ils se sentent de plus en plus étrangers et menacés : un monde qui de plus en plus échappe au contrôle des hommes, et qui, pour l’humanité, a de moins en moins de sens.

Certes, il faut savoir détourner les yeux des sombres aspects de la réalité quotidienne pour prétendre, dans ces conditions, que la civilisation humaine a atteint son plus brillant sommet.

Mais c’est à cette attitude que les citoyens de la métropole s’entraînent chaque jour : ils ne vivent pas dans un univers réel, mais dans un monde de fantasmes, habilement machiné dans tout leur environnement, avec des placards, des images, des effets de lumière et de la pellicule impressionnée ; un monde de murs vitrés, de plexiglass, de cellophane, qui les isole de leur peine et des mortifications de la vie, - monde d’illusionnistes professionnels entourés de leurs dupes crédules. (…)

Les spectateurs ne conversent plus comme des personnes qui se rencontrent au croisement des routes, sur la place publique, autour d’une table. Par l’antenne de la radio et de la télévision, un très petits nombre d’individus interprètent à notre place, avec une adresse toute professionnelle, les mouvements d’opinion et les événements quotidiens. Ainsi les occupations les plus naturelles, les actes les plus spontanées sont l’objet d’une surveillance professionnelle et soumis à un contrôle centralisé. Des moyens de diffusion, aussi puissants que variés, donnent aux plus éphémères et aux plus médiocres ouvrages un éclat et une résonance qui dépassent de loin leurs mérites.

Lewis Mumford, La Cité à travers l'histoire, Collection Esprit, Editions du Seuil (Paris). Nouvelle édition (et traduction française): Agone (2011)

« Dans le système capitaliste, la permanence n’a pas droit de cité, ou plutôt les seuls éléments stables qui s’y retrouvent de façon constante sont l’avarice, la cupidité et l’orgueilleuse volonté de puissance ».

« L’histoire de Rome indique avec un relief particulier ce qui, dans le domaine politique aussi bien que dans celui de l’urbanisme, doit être à tout prix évité. Nous voyons là de nombreux signaux d’alarme, indiquant le départ de pistes dangereuses. Lorsque, dans les centres surpeuplés, les conditions d’habitat se détériorent tandis que le prix des loyers monte en flèche, lorsque le souci d’exploiter de lointains territoires l’emporte sur la recherche de l’harmonie interne, nous songeons inévitablement à ces précédents romains. »

Ainsi retrouvons-nous aujourd’hui les arènes, les immeubles de rapport, les grands spectacles avec nos matchs de football, nos concours de beauté, le strip-tease rendu omniprésent par la publicité, les stimulations constantes du sexe, de la boisson, de la violence, dans un climat digne en tout point de la Rome antique. Et nous voyons également se multiplier les salles de bain et les piscines, et des autoroutes non moins coûteuses que les anciennes routes pavées, cependant qu’attirent les regards des milliers d’objets éphémères et brillants, merveilles d’une technique collective, mis à la portée de toutes les convoitises. Ce sont les symptômes de la décadence : le renforcement d’un pouvoir amoral, l’amoindrissement de la vie. »

Lewis Mumford, La Cité à travers l’histoire (The City in history, 1961). Editions Agone, 2011.

« Les sectateurs du mythe de la grande métropole, qui ne veulent voir dans ses proliférations cancéreuses que les poussées d’une croissance normale, continueront d’appliquer automatiquement leurs cataplasmes, leurs onguents, leurs slogans incantatoires et leurs spécialités de charlatans, jusqu’à ce qu’il soit trop tard pour sauver la civilisation de la mort et se sauver eux-mêmes. Une grande partie de l’œuvre de reconstruction urbaine des cent dernières années, y compris, certes, la plus récente-démolition de quartiers insalubres, rénovation d’édifices publics, extensions suburbaines, maisons modèles-, n’a fait que perpétuer dans les structures d’une perpétuelle nouveauté la même concentration sans but défini et le même désordre fondamental auquel il était indispensable de porter remède. »

Lewis Mumford, Le déclin des villes. France-Empire, 1970.

"Grâce à cette nouvelle "mégatechnologie", la minorité dominante créera une structure uniforme, supraplanétaire, embrassant tout, et destinée au travail automatique. Au lieu de fonctionner activement comme une personnalité autonome, l'homme deviendra un animal passif, sans but, conditionné par la machine, et dont les fonctions propres, suivant l'actuelle interprétation du rôle de l'homme par les techniciens, seront soit insérées dans la machine, soit strictement limitées et contrôlées au profit d'organisations dépersonnalisées, collectives." ((Mumford, Le mythe de la machine, trad. 1973, p. 2) 

Et ici le résumé de l'ouvrage célèbre (et toujours épuisé en français depuis l'édition de Fayard en 1974): Le mythe de la machine: http://elkorg-projects.blogspot.fr/2009/12/lewis-mumford-...

Les faubourgs (asentamientos) s'étendent à perte de vue dans le désert autour de Lima,  la capitale du Pérou (10 millions d'habitants, le tiers du pays.). Les habitants sont venus des Andes, où le soleil brille toujours, où l'air est pur et où ils vivaient du travail des champs. Ph/ P.O. Combelles, 2012: http://pocombelles.over-blog.com/article-le-perou-pays-em...

Republication de l'article de mon blog:

http://pocombelles.over-blog.com/archive/2013-12/

Baudelaire et la conspiration géographique

Baudelaire et la conspiration géographique

par Nicolas Bonnal

Ex: http://www.dedefensa.org 

Lisons les Fleurs de Baudelaire moins bêtement qu’à l’école. Et cela donne :

Le vieux Paris n’est plus (la forme d’une ville

Change plus vite, hélas ! que le cœur d’un mortel)…

On est dans les années 1850, au début du remplacement haussmannien de Paris. Baudelaire comprend ici l’essence du pouvoir proto-fasciste bonapartiste si bien décrit par son contemporain Maurice Joly ou par Karl Marx dans le dix-huit brumaire. Et cette société expérimentale s’est étendue à la terre entière. C’est la société du spectacle de Guy Debord, celle ou l’Etat profond et les oligarques se mêlent de tout, en particulier de notre « environnement ». C’est ce que je nomme la conspiration géographique.

La conspiration géographique est la plus grave de toutes. On n’y pense pas assez, mais elle est terrifiante. Je l’ai évoqué dans mon roman les territoires protocolaires. Elle a accompagné la sous-culture télévisuelle moderne et elle a créé dans l’ordre :

• Les banlieues modernes et les villes nouvelles pour isoler les pauvres.

• Les ghettos ethniques pour isoler les immigrés.

• La prolifération cancéreuse de supermarchés puis des centres commerciaux. En France les responsabilités du gaullisme sont immenses.

• La hideur extensive des banlieues recouvertes d’immondices commerciaux ou « grands ensembles » conçus mathématiquement.

• La tyrannie américaine et nazie de la bagnole pour tous ; le monde des interstates copiés des autobahns nazies qui liquident et recouvrent l’espace millénaire et paysan du monde.

• La séparation spatiale, qui met fin au trend révolutionnaire ou rebelle des hommes modernes depuis 1789.

• La décrépitude et l’extermination de vieilles cités (voyez Auxerre) au profit des zones péri-urbaines, toujours plus monstrueuses.

• La crétinisation du public et sa déformation physique (le docteur Plantey dans ses conférences parle d’un basculement morphologique) : ce néo-planton est en voiture la moitié de son temps à écouter la radio.

• La fin de la conversation : Daniel Boorstyn explique dans les Américains que la circulation devient le sujet de conversation numéro un à Los Angeles dans les années cinquante.

Dans Slate.fr, un expert inspiré, Franck Gintrand, dénonce l’horreur de l’aménagement urbain en France. Et il attaque courageusement la notion creuse et arnaqueuse de smart city, la destruction des centres villes et même des villes moyennes, les responsabilités criminelles de notre administration. Cela donne dans un de ses derniers textes (la France devient moche) :

« En France, cela fait longtemps que la survie du commerce de proximité ne pèse pas lourd aux yeux du puissant ministère de l’Economie. Il faut dire qu’après avoir inventé les hypermarchés, notre pays est devenu champion d’Europe des centres commerciaux. Et des centres commerciaux, ça a quand même beaucoup plus de gueule que des petits boutiquiers… Le concept nous vient des États-Unis, le pays des «malls», ces gigantesques espaces dédiés au shopping et implantés en banlieue, hermétiquement clos et climatisé. »

Il poursuit sur l’historique de cet univers totalitaire (pensez à Blade runner, aux décors de THX 1138) qui est alors reflété dans des films dystopiques prétendant décrire dans le futur ce qui se passait dans le présent.

La France fut ainsi recouverte de ces hangars et autres déchetteries architecturales. Godard disait que la télé aussi recouvrait le monde. Gintrand poursuit à propos des années soixante:

« Pas de centres commerciaux et multiples zones de périphérie dans «La France défigurée», célèbre émission des années 70. Et pour cause: notre pays ne connaissait à cette époque que le développement des hypermarchés (le premier Carrefour ouvre en 1963). On pouvait regretter l'absence totale d'esthétique de ces hangars de l'alimentaire. »

Le mouvement est alors ouest-européen, lié à la domination des trusts US, à la soumission des administrations européennes, à la fascination pour une fausse croissance basée sur des leurres (bagnole/inflation immobilière/pseudo-vacances) et encensée par des sociologues crétins comme Fourastié (les Trente Glorieuses). Dans les années cinquante, le grand écrivain communiste Italo Calvino publie un premier roman nommé la Spéculation immobilière. Ici aussi la liquidation de l’Italie est en marche, avec l’exploitation touristique que dénonce peu après Pasolini, dans ses si clairvoyants écrits corsaires.

En 1967, marqué par la lecture de Boorstyn et Mumford, Guy Debord écrit, dans le plus efficace chapitre de sa Société du Spectacle :

« Le moment présent est déjà celui de l’autodestruction du milieu urbain. L’éclatement des villes sur les campagnes recouvertes de « masses informes de résidus urbains » (Lewis Mumford) est, d’une façon immédiate, présidé par les impératifs de la consommation. La dictature de l’automobile, produit-pilote de la première phase de l’abondance marchande, s’est inscrite dans le terrain avec la domination de l’autoroute, qui disloque les centres anciens et commande une dispersion toujours plus poussée».

Kunstler a très bien parlé de cette géographie du nulle part, et de cette liquidation physique des américains rendu obèses et inertes par ce style de vie mortifère et mécanique. Les films américains récents (ceux du discret Alexander Payne notamment) donnent la sensation qu’il n’y a plus d’espace libre aux Etats-Unis. Tout a été recouvert de banlieues, de sprawlings, de centres commerciaux, de parkings (c’est la maladie de parking-son !), d’aéroports, de grands ensembles, de brico machins, de centrales thermiques, de parcs thématiques, de bitume et de bitume encore. Voyez Fast Food nation du très bon Richard Linklater.

Je poursuis sur Debord car en parlant de fastfood :

« Mais l’organisation technique de la consommation n’est qu’au premier plan de la dissolution générale qui a conduit ainsi la ville à se consommer elle-même. »

On parle d’empire chez les antisystèmes, et on a raison. Ne dit-on pas empirer ?

Je rappelle ceci dans mon livre noir de la décadence romaine.

« Pétrone voit déjà les dégâts de cette mondialisation à l’antique qui a tout homogénéisé au premier siècle de notre ère de la Syrie à la Bretagne :

« Vois, partout le luxe nourri par le pillage, la fortune s'acharnant à sa perte. C'est avec de l'or qu'ils bâtissent et ils élèvent leurs demeures jusqu'aux cieux. Ici les amas de pierre chassent les eaux, là naît la mer au milieu des champs. En changeant l'état normal des choses, ils se révoltent contre la nature. »

Plus loin j’ajoute :

Sur le tourisme de masse et les croisières, Sénèque remarque :

« On entreprend des voyages sans but; on parcourt les rivages; un jour sur mer, le lendemain, partout on manifeste la même instabilité, le même dégoût du présent. »

Extraordinaire, cette allusion au délire immobilier (déjà vu chez Suétone ou Pétrone) qui a détruit le monde et son épargne :

« Nous entreprendrons alors de construire des maisons, d'en démolir d'autres, de reculer les rives de la mer, d'amener l'eau malgré les difficultés du terrain… »

Je laisse Mumford conclure.

« Le grand historien Mumford, parlant de ces grands rois de l’antiquité, parle d’une « paranoïa constructrice, émanant d’un pouvoir qui veut se montrer à la fois démon et dieu, destructeur et bâtisseur ».

Bibliographie

Bonnal – Les territoires protocolaires ; le livre noir de la décadence romaine ; les maîtres carrés

Debord – La société du spectacle

Kunstler – The long emergency

Mumford – La cité dans l’histoire (à découvrir absolument)