Nexus : Une brève histoire des réseaux d'information, de l'âge de pierre à l'IA
Dans Nexus, Yuval Noah Harari explore l'évolution des réseaux d'information, de la tablette de pierre à l'intelligence artificielle (IA), en soulignant leur impact sur le pouvoir et la société.
L'auteur examine la manière dont ces réseaux, qui relient l'information et le pouvoir, ont façonné l'humanité à travers les âges et pose des questions cruciales sur notre capacité à contrôler les technologies que nous avons créées.
À mesure que l'information circule plus rapidement et plus largement, Harari met en garde contre le potentiel destructeur des forces que nous avons libérées, tout en soulignant la nécessité de comprendre et de gérer ces réseaux pour éviter des conséquences désastreuses.
Idée clé 1 : relation entre information et pouvoir
Harari montre que l'information et le pouvoir sont intrinsèquement liés, et ce, depuis la préhistoire.
La capacité à stocker et diffuser des informations a toujours conféré une forme de contrôle, que ce soit à travers les récits oraux, les livres ou les bases de données numériques.
Les réseaux d'information, à travers l'histoire, ont toujours permis de générer du pouvoir en influençant les sociétés à grande échelle.
Cela est particulièrement vrai dans le monde moderne, où la quantité de données collectées dépasse de loin ce que nous avons jamais connu.
Pourtant, plus d'information ne signifie pas nécessairement plus de sagesse. Harari prévient que ces réseaux doivent équilibrer vérité et ordre pour éviter la désinformation et le chaos.
Les technologies comme l'IA peuvent potentiellement accentuer ces déséquilibres si elles ne sont pas correctement gérées.
Idée clé 2 : Le rôle des récits dans les réseaux humains
L'une des caractéristiques distinctives de l'humanité est sa capacité à raconter des histoires et à les utiliser pour structurer les sociétés.
Les récits partagés – qu'ils soient religieux, politiques ou économiques – permettent de créer des réseaux d'information qui transcendent les relations individuelles.
Des figures de pouvoir comme les rois ou les papes tirent leur autorité de ces récits collectifs, tout comme les influenceurs modernes sur les réseaux sociaux, qui propagent des récits qui résonnent à travers leurs vastes réseaux.
Harari distingue trois niveaux de réalité :
- la réalité objective (des faits incontestables),
- la réalité subjective (les expériences individuelles) et
- la réalité intersubjective (les histoires partagées par les masses).
Cette dernière est particulièrement puissante car elle structure des systèmes entiers de croyances, de lois et d'institutions.
Idée clé 3 : La menace des réseaux d'information non contrôlés
Harari met en garde contre les réseaux d'information non régulés, en évoquant des exemples historiques et modernes.
L’invention de l’imprimerie a permis une diffusion sans précédent de l’information, mais cela a aussi permis la prolifération de fausses croyances, comme le texte sur la chasse aux sorcières qui a alimenté les procès de sorcières en Europe.
Dans le monde moderne, les réseaux sociaux jouent un rôle similaire, en amplifiant la désinformation, comme cela a été le cas lors de la crise des Rohingyas en Birmanie.
Des algorithmes, comme ceux de Facebook, maximisent l’engagement en promouvant des contenus incendiaires, ce qui peut avoir des conséquences dévastatrices, comme la violence ethnique.
Les réseaux d'information modernes, lorsqu'ils sont laissés sans surveillance, peuvent entraîner des désordres sociaux, voire des effondrements politiques.
Idée clé 4 : L'IA et l'évolution des réseaux d'information
L'IA est la prochaine étape dans l'évolution des réseaux d'information.
Harari explique que l'IA est en passe de transformer profondément nos systèmes d'information, en allant au-delà de la simple diffusion d'informations pour prendre des décisions autonomes sans intervention humaine.
Le cas de Move 37, lors du match AlphaGo contre Lee Sedol, est emblématique : l'IA a pris une décision que les humains n'auraient jamais envisagée, remettant en question notre compréhension des capacités humaines.
Dans des domaines comme la justice, les algorithmes prennent déjà des décisions cruciales, comme dans le cas d'Eric Loomis, condamné sur la base d'une évaluation algorithmique.
Cependant, ces systèmes manquent souvent de transparence et posent des questions éthiques profondes sur la délégation du pouvoir de décision à des machines.
Idée clé 5 : Le besoin de mécanismes d'auto-correction dans les réseaux d'information
Harari soutient que pour qu'un réseau d'information puisse rester stable et utile, il doit être doté de mécanismes d'auto-correction.
Des institutions comme les académies scientifiques, qui révisent régulièrement leurs théories à la lumière de nouvelles preuves, illustrent l'importance de la correction continue pour progresser vers la vérité.
Cependant, il prévient que même ces mécanismes peuvent parfois déstabiliser un système, en révélant des vérités qui ébranlent l'ordre établi.
Ainsi, les réseaux d'information doivent trouver un équilibre délicat entre l’admission de leurs erreurs et la préservation de l'ordre social.
L’histoire montre que lorsque ce mécanisme est absent ou inefficace, des doctrines rigides, comme celles de la religion ou du marxisme, peuvent émerger et empêcher toute remise en question.
Conclusion
Dans Nexus, Harari examine comment les réseaux d'information ont structuré l'humanité et comment l'ère moderne, marquée par l'IA et l'Internet, apporte des défis sans précédent.
Les technologies actuelles peuvent amplifier les déséquilibres entre vérité et ordre, posant des risques importants pour la stabilité des sociétés.
Harari plaide pour une meilleure compréhension des mécanismes d'information et pour l'élaboration de moyens plus efficaces de réguler les flux d'information afin d'éviter les dérives potentielles de ces "balais enchantés" modernes que sont l'IA et les réseaux sociaux.
Je passe à l'action
- Développer des stratégies pour vérifier les informations provenant des réseaux sociaux et des sources en ligne.
- Prendre conscience des récits partagés qui influencent nos croyances et comportements.
- Promouvoir la transparence dans l’utilisation de l’IA, notamment dans les domaines sensibles comme la justice et l’emploi.
- Encourager le développement de mécanismes d'auto-correction dans les institutions sociales et politiques.
- Éduquer les utilisateurs à l'importance de l'esprit critique face à l'information en ligne.
