Dans les dernières semaines, j’ai fait la lecture du livre “Nexus” de Yuval Noah Harari et j’avais envie de vous partager un résumé de ce qui en ressort pour moi, saupoudré de certaines de mes opinions.
L’IA est devenue incroyablement efficace pour optimiser ou augmenter certaines de nos tâches, et ce n’est que le début. Elle peut détecter nos émotions mieux que d’autres humains, analyser des milliers, même des millions, de facteurs pour prendre des décisions et influencer même nos comportements en poussant certains contenus sur nos fils d’actualité (certains verront ce texte et d’autres jamais). D’un point de vue purement technologique, ces avancées demeurent très impressionnantes.
Cependant, cette optimisation a un revers. Les algorithmes, s’ils ne sont pas correctement alignés avec nos valeurs, peuvent développer des biais ou prendre des raccourcis souvent inattendus. Par exemple, ils peuvent favoriser des contenus extrêmes pour maximiser l’engagement ou manipuler nos décisions sans que nous en soyons conscients. Cette capacité de l’IA à générer massivement du contenu faux ou trompeur représente une menace directe pour notre démocratie. Il est également intrigant de voir comment les histoires, qu’elles soient véhiculées par la religion, les médias ou désormais l’IA, façonnent nos perceptions du monde. La répétition d’une information, même fausse, peut finir par devenir une “vérité” acceptée par beaucoup (Ahem: Trump).
La question se pose alors. Qui contrôle réellement ces données et ces algorithmes qui influencent tant nos vies? Est-ce vraiment une ou plusieurs personnes? Est-ce déjà des agents de l’IA? La centralisation du pouvoir entre les mains de quelques entités technologiques pose des questions cruciales sur la souveraineté et l’autonomie des individus.
La surveillance massive rendue possible par le croisement des données, des caméras aux passeports en passant par nos interactions en ligne, soulève des préoccupations éthiques majeures. Sommes-nous en train de sacrifier notre liberté et notre vie privée en échange de l’efficacité et de la commodité?
Les algorithmes pourraient, dans un futur proche, repérer des patterns que nous, humains, ne pourrions jamais percevoir, comme un lien potentiel entre le pourcentage moyen de charge de la batterie de votre téléphone et votre éligibilité à un prêt bancaire.
Donc, comment trouver un équilibre? Comment tirer parti des immenses bénéfices de l’IA tout en préservant notre humanité et notre autonomie? Je crois fermement que la clé réside dans la transparence, la régulation éthique et une réflexion collective sur la direction que nous souhaitons prendre. Il sera impératif de renforcer l’éducation et la prévention en la matière, afin de favoriser une adoption saine de ces technologies.
Quoi qu’il arrive, il faudra être prudent. Comme le suggère Yuval Noah Harari, nous devons maintenant considérer l’intelligence artificielle comme une forme d’Alien Intelligence.
Nexus
