La guerre des intelligences
Voilà un ouvrage qui mérite d’être lu pour comprendre comment l’intelligence artificielle va impacter nos vies et l’histoire de l’humanité. Toutes les questions fondamentales pour l’avenir de nos sociétés y sont posées. Avec, pour certaines d’entre elles, des réponses argumentées, non dénuées d’objectivité. Ou des scénarios qui, en dépit de l’optimisme de l’auteur, soulignent les dangers que comporte l’introduction, inévitable, de cette technologie.
C’est aussi un ouvrage qui ne laissera personne indifférent. Tant il est profondément imprégné de convictions personnelles. Des convictions dont certaines frisent l’obsession et génèrent de nombreuses redondances. L’auteur, Laurent Alexandre, est chirurgien, neurobiologiste et énarque, fondateur, en France, de la plateforme numérique Doctissimo, et, notamment en Belgique, de plusieurs autres entreprises technologiques (High-tech). Certains de ces choix éthiques comme son attrait pour le transhumanisme, même s’il en critique certaines dérives, ou son rejet de l’écologie punitive font polémique. Dans bien des cas, le propos, qui se veut rationnel, est biaisé. La démarche prétendument scientifique relève d’une argumentation qui repose souvent sur une compilation de données insuffisantes ou inadéquates. C’est le cas lorsque l’auteur s’emploie à contester les effets du changement climatique ou encore lorsqu’il s’appuie sur l’estimation du nombre de victimes de la chasse aux sorcières, qui s’étale sur plus de deux siècles, les sacrifices aztèques, dont le nombre estimé de victimes reste de loin inférieur aux seuls génocides du 20e siècle, et une évaluation empirique de la criminalité depuis le Moyen Âge pour affirmer que « le monde n’a jamais été si doux ». Mais Laurent Alexandre pointe aussi, à juste titre, le retard considérable pris par l’Europe dans les nouvelles technologies et les enjeux géopolitiques qui en découlent.
« ChatGPT marque une nouvelle étape dans la production de réseaux de neurones artificiels. Sa capacité à simuler l’esprit humain est bouleversante, même s’il souffre encore d’hallucinations numériques », affirme d’emblée Laurent Alexandre, en précisant la nature des « hallucinations numériques », à savoir que « lorsqu’il ignore un sujet, ChatGPT invente avec un aplomb déconcertant ». Ce qui n’est d’ailleurs pas sans rappeler certains comportements humains ! La référence à « l’esprit humain » dont la définition, selon Larousse, est « la partie incorporelle de l’homme », est assez étrange, parce qu’elle renvoie à un concept de nature religieuse (dans la théologie judéo-chrétienne, il s’agit d’un souffle émanant de Dieu) qui ne peut être reproduit artificiellement. Ce que peut parvenir à simuler ChatGPT n’est logiquement qu’une forme d’intelligence humaine.
« Nous entrons dans un monde où la production d’Intelligence artificielle sera infinie. Le patron de NVIDIA, le principal producteur de microprocesseurs destinés à alimenter l’IA, affirme que l’IA sera dans dix ans un million de fois plus puissante que ChatGPT. Sam Altman pense que la quantité d’intelligence sur terre va doubler tous les dix-huit mois. Pis encore, l’IA devient quasi gratuite alors que l’intelligence biologique est rare, limitée, longue à produire, extrêmement coûteuse, fait grève et conteste la valeur travail. Ce décalage conduit mécaniquement à une crise cognitive », poursuit l’auteur, qui ajoute : « Les IA génératives comme ChatGPT vont bien davantage structurer la pensée humaine que ne le faisaient les moteurs de recherche comme Bing ou Google. Contrôler ChatGPT donne un immense pouvoir à ses propriétaires, OpenAI et Microsoft ».
Laurent Alexandre rappelle aussi que même le milliardaire fantasque Elon Musk « estime que l’une des plus grandes menaces posées par l’IA est sa manipulation par les entreprises » et appelle à sa réglementation, ce qui ne l’a pas empêché de lancer, le 14 avril 2023, X.AI en vue de concurrencer ChatGPT. « Une gigantesque course planétaire est lancée. Son enjeu est simple : la domination du monde par l’IA », écrit l’auteur.
« Les consommateurs – nous-mêmes – sont les idiots utiles de l’IA. Nous alimentons la machine numérique de demain, sans en avoir conscience. Nous pensons que le smartphone est le degré ultime de la supériorité technologique de l’homme, sans comprendre qu’il est en réalité l’outil de sa vassalisation. La matière première de l’IA, c’est l’information. D’où vient-elle ? De nous-mêmes, qui faisons des milliards de requêtes Google ou déposons des milliards d’images par jour sur Facebook. Pour le ‘deep learning’, l’avalanche d’images et de données qui déferle sur le Web constitue une matière première quasi infinie et qui se renouvelle chaque jour. Ce sont leurs milliards de visiteurs qui donnent aux géants du numérique leur supériorité écrasante », souligne l’auteur, avant de rappeler que l’IA est bête par nature et ne devient intelligente que par le traitement d’immenses quantités de données. Et « le plus grand problème de l’Europe est bien cette bêtise de l’IA, puisque notre continent ne possède pas les gigantesques bases de données indispensables pour l’éduquer ».
Laurent Alexandre souligne aussi que le développement accéléré de l’IA va entraîner une relégation de l’intelligence humaine, incapable de traiter des milliards de données en quelques secondes. Ce qui imposera, pour augmenter les capacités intellectuelles de l’homme, le recours à des implants, à l’image du Neuralink d’Elon Musk, et/ou l’augmentation du QI par sélection génétique, solution eugéniste qui semble avoir, dans un premier temps au moins, la préférence de l’auteur. Ce dernier reconnaît toutefois que ces solutions posent des problèmes éthiques. Pour autant, ces deux technologies permettront de passer progressivement à une « société d’intelligence augmentée généralisée », explique-t-il, en l’identifiant à « une société ultra-égalitaire », lorsqu’elle aura fait disparaître les inégalités en matière de capacités intellectuelles.
« La nouvelle révolution n’est pas une porte sur un nouveau monde : c’est une porte sur le ciel. Elle génère de multiples chocs éthiques, philosophiques et spirituels qui font trembler les dynamiques politiques. (…) Les tentations démiurgiques et prométhéennes des ingénieurs du vivant vont s’accroître. La vie, la conscience, l’homme vont être infiniment manipulables », reconnaît Laurent Alexandre, avant d’expliquer plus loin : « La régulation des médias est parfaitement inadaptée au monde actuel dans lequel la communication est devenue ajustable à chaque individu sans aucun contrôle institutionnel sérieux. (…) ‘Fake news’, manipulations ou ‘filter bubbles’ nécessitent des instruments nouveaux. Un État démocratique peut vérifier ce qui se passe (sur la chaîne privée de télévision française) TF1, mais pas ce qui s’affiche de façon différenciée sur des millions d’écrans. Les gouvernements occidentaux (et la Commission européenne) se défaussent et souhaitent que les plateformes fassent la police : cela revient à nommer Mark Zuckerberg et les patrons de Google rédacteurs en chef du monde. Faire des GAFAM les ‘gatekeepers’ des lois anti ‘Fake news’, c’est leur confier la définition de la vérité ! ».
« On craignait depuis quelques années que notre société s’enfonce dans un relativisme du vrai, c’était l’ère de la ‘post-vérité’. C’est le contraire qui se profile désormais : l’IA générative peut créer l’équivalent du ministère de la Vérité dans 1984 (l’ouvrage de George Orwell : Ndr) qui détient le monopole du vrai et du faux », écrit Laurent Alexandre, avant de mettre en exergue le rôle des journalistes : « Puisque les neurotechnologies vont profondément perturber notre rapport au réel, les journalistes, dont le rôle est de chercher le vrai, sont un maillon essentiel de la société du 21e siècle. Ils seront les acteurs essentiels de la neuroéthique en garantissant la réalité. Il faudra aider le citoyen à séparer le réel, la réalité virtuelle, la réalité filtrée par Google et Facebook, les idées et souvenirs implantés par voie chimique ou électronique. Les journalistes nous protégeront des neuromanipulateurs. Ils feront partie d’un ensemble de professions qui authentifieront le réel avec les neuroéthiciens, les juristes de la réalité virtuelle et les régulateurs de prothèses cérébrales ».
L’auteur, qui critique sévèrement le conservatisme de l’Éducation nationale en France, notamment en rappelant que rien ou presque n’a changé en un siècle dans une salle de classe alors que tout a changé dans une salle d’opération, prévoit aussi un nouveau rôle pour l’école : « Apprendre aux futurs citoyens à éviter les cyberaddictions, à se repérer dans le brouillard du cyberespace pour sauver le libre arbitre ». En outre, afin de remplir mieux son rôle traditionnel visant à augmenter les capacités intellectuelles, elle devrait s’ouvrir à l’expérimentation de formes d’éducation individualisée et adaptative.
« Réduire les inégalités cognitives doit être l’obsession de l’État. On parle souvent pour l’État de se concentrer sur ses tâches régaliennes, comme la justice et la défense. C’est aujourd’hui une idée obsolète », n’hésite pas à affirmer l’auteur. Sans nous dire qui va s’occuper de la justice et de la défense… De futurs robots ? Qu’il faudra néanmoins acquérir - ce qui implique une dépendance – ou construire – ce qui suppose un investissement massif dans la recherche –, mais aussi commander et contrôler, maintenir en conditions opérationnelles et moderniser. Et tout cela ne constituerait plus des tâches régaliennes ?
« Au moment où se joue le grand Yalta du 21e siècle, nous ne sommes pas à la table des négociations, mais dessus. L’Europe est le plat de résistance du menu que s’offrent les nations qui vont maîtriser l’économie de la connaissance. Comme l’Afrique le fut au 19e siècle », écrit Laurent Alexandre, avant d’ajouter plus loin : « Civilisation longtemps dominante dont la supériorité a culminé à l’ère industrielle, elle apparaît bien fragile pour aborder le siècle nouveau. Merveilleuse maman, bienveillante, maternante et douce, l’Europe n’a pas l’arme du moment : l’IA. Dans cette guerre d’un nouveau genre, notre continent n’est pas loin d’un décrochage définitif. (...) La part de la Chine dans les dépenses mondiales de recherche a explosé : 2% en 1995 à 23% aujourd’hui, c’est-à-dire plus que l’Europe tout entière, et elle se rapproche à grands pas des États-Unis ».
« Le président chinois a (…) annoncé que son pays deviendrait la première puissance militaire grâce à l’IA », rappelle l’auteur, avant d’affirmer que « des robots soldats de plus en plus autonomes vont jouer un rôle croissant sur les champs de bataille et obligent à repenser l’art de la guerre ». Et de poursuivre : « Face à l’impérialisme chinois, l’Occident doit se réarmer psychologiquement. (…) Désarmer à l’ère de l’IA serait la certitude d’être colonisés. Nous risquons ‘un Munich de l’IA militaire’. En 2040, qui acceptera d’envoyer ses enfants au casse-pipe, se faire tuer de façon certaine face aux robots tueurs dotés d’IA ? Personne ! Le charmant et bienveillant slogan ‘non aux robots tueurs’ est suicidaire (…) L’Europe sera un nain géopolitique, parce qu’elle devient un nain technologique. La faible croissance européenne empêchera d’investir dans la cybersécurité et la France ne pourra seule assurer la cybersécurité européenne face au duopole américano-chinois sur l’IA : il faudrait investir des dizaines de milliards d’euros ».
À quoi va ressembler l’avenir ? Laurent Alexandre émet trois hypothèses. Un « grand bond en arrière conservateur », tout d’abord, qui se traduirait par « la victoire d’un parti techno-conservateur ». « Plus les mutations économiques (comprendre : la robotisation des activités manufacturières et le remplacement des activités intellectuelles par l’IA) seront profondes et viendront nourrir le désarroi sur le marché du travail, plus les partis proposant des solutions simplistes pour que tout redevienne comme avant vont prospérer. La généralisation des implants neuronaux et plus encore la sélection embryonnaire seront, à coup sûr, des pas difficiles à franchir pour la société. Les bioconservateurs qui s’élèveront contre la transhumanisation des esprits ne manqueront pas », écrit l’auteur, en qualifiant tout ce petit monde d’« Amish de l’intelligence » qui resteront minoritaires et finiront par être marginalisés. Le deuxième scénario est celui de la course à l’intelligence, qui entraînerait une surenchère eugéniste et neurotechnologique, dans un monde qui reste « structuré par les rivalités religieuses et ethniques ». « Les technologies de neurorenforcement seront perçues comme des moyens indispensables pour dominer les autres pays ou groupes antagonistes », avec un potentiel considérable de dérives et de conflictualisation accrue. Un troisième scénario décrit le basculement dans une neurodictature, qui peut être le fait des géants du numérique, des autocrates ou des partis uniques (le contrôle social chinois en étant une illustration encore modeste) voire, un jour, d’une future IA forte, consciente d’elle-même, qui déciderait d’asservir ou de détruire l’homme.
Aucun de ces scénarios n’est évidemment réjouissant. Et ils ne s’excluent pas nécessairement l’un l’autre. Les délais dans lesquels ils pourraient se produire sont difficiles à envisager, même si, comme le souligne l’auteur, la vitesse des progrès technologiques ne cesse de s’accélérer et va encore s’accroître avec l’intelligence artificielle. Il est donc urgent de se préparer à la société de la connaissance en conduisant les débats éthiques et philosophiques qui sont indispensables pour anticiper les changements et créer les cadres juridiques nécessaires à leur régulation. Mais l’Europe doit aussi se poser franchement la question de son avenir et mettre tout en œuvre pour rattraper son retard technologique. (Olivier Jehin)
Laurent Alexandre. La guerre des intelligences à l’heure de ChatGPT Jean-Claude Lattès. ISBN : 978-2-7096-7255-9. 473 pages. 22,00 €