Intelligence Artificielle et Nouveau Prométhée

Auteur/autrice de l’image

Intelligence Artificielle et Nouveau Prométhée

Rédigé par Hélène Masson Maret, Vice Présidente de l’Institut EuropIA

Vers un transhumanisme éthique ?

Au moment où l’intelligence artificielle et les technologies les plus performantes, pourraient permettre aux utopies, prometteuses d’une société idéale, de se rapprocher de la réalité, le 9 mars 2023, une lettre choc,[1] signée par 1123 scientifiques, industriels, représentants de la société civile, alerte les chercheurs. « Nous demandons à tous les laboratoires d’intelligence artificielle d’interrompre immédiatement, pour une durée d’au moins six mois, la formation de systèmes d’intelligence artificielle plus puissants que GPT-4 ». Cette lettre, est d’autant plus surprenante qu’elle est co-signée par des figures de la tech et de l’IA, pour ne citer qu’Elon Musk, parfois qualifié de Prométhée moderne, patron de Twitter, du cofondateur d’Apple, Steve Wozniak, ou des figures de l’IA comme Yoshua Bengio, ou encore Stuart Russell. Tous demandent que des protocoles de sécurité, éthiques et transparents, soient mis en place et vérifiés par des experts indépendants, avant que tout développement ne reprenne. Tous reconnaissent le risque «de perdre le contrôle de notre civilisation et celui du développement d’esprits numériques toujours plus puissants, et que personne – pas même leurs créateurs – ne peut comprendre, prédire ou contrôler de manière fiable ».

Cette demande de suspension, cette vertueuse inquiétude, n’ont pas convaincu la totalité du monde scientifique, certains y voyant même un coup choquant de publicité[2] « l’apparente prise de recul réclamant l’intervention d’une réglementation stricte n’est en fait qu’une occasion de renforcer cette représentation totalement erronée, anthropomorphiste et solutionniste que les générations actuelles « d’IA » auraient des capacités telles que notre société serait potentiellement en danger. Pour le reformuler, cet appel renforce avec vigueur l’idée (très utile pour le business de « l’IA ») que ces algorithmes auraient des performances exponentielles, toujours améliorables avec plus de données et de complexification des systèmes ».

Controverse ou non, cet appel à un moratoire sur l’IA, suscite des interrogations !

Et en même temps, cette demande de moratoire n’est pas si étrange. Depuis des années des chercheurs prônent l’urgence d’une humanité hybridée avec des composants technologiques pour préserver l’indépendance de l’humain face à une IA chaque jour plus puissante que son créateur. Urgence d’autant plus pressante que se profile l’émergence d’une l’IA forte « Générale », concept encore hypothétique d’IA, au moment présent, mais envisageable dans le futur. Or contrairement à l’IA faible[3], à l’utilisation répandue dans la vie quotidienne et limité à des domaines d’application spécifiques, l’IA forte pourrait avoir la capacité de posséder une conscience de sa propre existence, de comprendre, d’apprendre et d’appliquer cet apprentissage à des tâches diverses, de la même manière qu’un être humain le ferait.

 

Intelligence artificielle et transhumanisme

À cette vision futuriste de l’IA, le courant transhumaniste répond par la nécessité d’une nouvelle humanité, celle d’un « homme augmenté », évitant que l’être humain puisse être aliéné par l’IA. On peut comprendre cette exigence face une l’IA à la croissance exponentielle[4], mais elle n’est qu’un des objectifs de ce courant pour qui l’homme de demain doit être un prototype en constant perfectionnement. Ce nouvel humain doit transcender ses contraintes biologiques et évoluer progressivement grâce à l’utilisation des technologies les plus novatrices en intelligence artificielle. Il doit augmenter ses capacités humaines, physiques, cognitives, émotionnelles grâce à l’utilisation de la biotechnologie et de la médecine régénérative capables d’éradiquer les maladies et prolonger la durée de vie. Ce courant, né au milieu du XXe siècle, particulièrement séduisant par l’étendue de ses promesses jusqu’à rendre l’homme immortel[5], connaît surtout Outre-Atlantique un véritable engouement au point que Laurent Alexandre[6] le qualifie de « nouvel évangile » en raison du prosélytisme de ses « apôtres » qui souhaitent son avènement,

 S’il est indéniable que la quête de la connaissance et du progrès fait partie de l’histoire de l’humanité, que les êtres humains ont toujours cherché à améliorer leur environnement, leur qualité de vie, leur santé, et que les découvertes techniques et scientifiques sont un moteur essentiel du développement humain à travers les âges, une question mérite d’être posée… 


Pourquoi une peur de l’IA ?

Pourquoi avec l’apparition de l’intelligence artificielle qui apporte incontestablement des avantages majeurs à notre société et à nos modes de vie, pourquoi avec la perspective d’un transhumanisme dont l’objectif est d’optimiser les capacités et les facultés de l’humain, la peur des conséquences de ces avancées scientifiques liées à l’IA semble s’emparer tout autant des populations que de la communauté scientifique ?


La crainte du changement

Un premier élément de réponse est possible si l’on tient compte des facteurs psychologiques classiques qui amènent les êtres humains à craindre, voire refuser le changement. Effectivement, l’omniprésence de l’IA dans la vie quotidienne nécessite des bouleversements conséquents. Même si l’IA apporte de multiples avantages, la peur du changement[7] amène les êtres humains à résister activement à toutes modifications dans leur vie, même positives, préférant éviter de nouvelles expériences ou de nouvelles situations. Si l’on ajoute que la tendance à accorder plus d’importance aux événements négatifs[8] est largement relayée par les médias, friands de drames et de tragédies attirant d’avantage l’attention du public, l’IA n’échappe pas à une abondance d’informations sur les dangers et les crises de sociétés liées à son développement. D’autres facteurs peuvent être invoqués, le besoin de stabilité et la prévisibilité[9] n’est pas négligeable pour expliquer la crainte de voir l’IA accélérer une difficile adaptation aux modifications de l’environnement. Mais est-ce suffisant pour expliquer que les scientifiques eux-mêmes puissent redouter le développement de l’IA au point de demander un moratoire. Certainement pas !


Une rupture civilisationnelle

Un second élément de réponse est plus évident. Peut-être que jamais dans l’histoire de l’humanité un changement aussi radical concernant le devenir de l’être humain, aussi bien que de son environnement, n’a existé. Peut-être que jamais l’humain du futur « augmenté », tel que l’envisage le transhumanisme, n’a été aussi éloigné des fondements culturels, religieux, civilisationnels, sur lesquels se sont bâtis nos sociétés. L’être transhumaniste, dont les capacités intellectuelles et physiques, voire la longévité jusqu’au rêve de l’immortalité, sont augmentées par le biais de prothèses, d’implants, de modifications génétiques ou d’autres technologies s’éloigne, dans une vision vertigineuse, du modèle que la nature ou que Dieu a créé. Et cette vision futuriste, où l’être humain disposerait d’un pouvoir démiurgique, ne pouvait manquer d’être l’objet de violentes contestations.

Les polémiques suscitées par les technologies transhumanistes soulèvent des questions éthiques et morales profondes. Il est légitime de s’interroger sur les dangers d’opérer des modifications génétiques d’êtres humains pouvant porter atteinte à la dignité humaine, à l’équité, à la responsabilité avec un impact imprévisible sur la société. Comme il l’est aussi de s’alarmer à l’idée qu’une classe de « super-humains » puisse se créer au détriment d’autres humains. Les inquiétudes sont aussi celles de voir apparaître une nouvelle humanité composée « d’hommes-machines » au mépris des règles de la nature.

[1] site web du Future of Life Institute

[2] Maître de conférences associé en droit du numériqueYannick Meneceur, a publié « Moratoire sur l’IA : faut-il vraiment le signer ? » Actu-juridique 30/03/2023, en réponse à cette pétition

[3] L’IA faible et l’IA forte sont deux concepts qui déterminent le niveau de capacité intellectuelle et de conscience des systèmes d’intelligence artificielle. L’IA forte, surhumaine mettrait un terme à l’ère humaine.

[4] La Loi de Moore en 1965 prédit l’incroyable progression de la puissance des systèmes en annonçant que la puissance des circuits intégrés double, à coûts constants, tous les dix-huit mois.

[5] Nous reviendrons ultérieurement sur le lien entre l’IA et l’immortalité

[6] Laurent Alexandre, spécialiste français des révolutions technologiques et de leurs enjeux, auteurs de plusieurs ouvrages sur L’IA et le transhumanisme.  La guerre des intelligences, 2017, JCL Lattes, 339 p.

[7] La peur du changement appelée « métophobie » ou « chionophobie », est ce sentiment d’anxiété ou de crainte associé à la perspective de devoir faire face à des modifications dans sa vie, son environnement ou sa routine habituelle.

[8] Le biais de négativité correspond à la tendance à accorder plus d’importance aux événements négatifs qu’aux événements positifs

[9] Tendance à préférer la stabilité et la prévisibilité, les changements rapides et les incertitudes du monde moderne pouvant conduire à percevoir le passé comme une époque plus stable et confortable

Ambivalence entre Bienfaits et dangers de l’IA

L’ambivalence est constante entre le désir de profiter des bienfaits de l’intelligence artificielle, de ses algorithmes, perpétuellement plus performants, permettant d’améliorer l’humain, de potentialiser ses capacités, voire de lui procurer une éternelle jeunesse et d’un autre côté, la peur du châtiment, des désastres occasionnés par les apprentis sorciers modifiant la nature. C’est l’essence même du mythe de Prométhée.

 

 

Mythe de Prométhée :  châtiment du créateur transgressif

Les mythes, les légendes, l’histoire cultuelle apportent parfois des éléments de compréhension pour éclairer les attitudes et les comportements. Face à l’ambivalence des critiques concernant le transhumanisme, on peut voir ressurgir le mythe de Prométhée, avec sa face positive, symbolisant le désir inné et constructif de l’humain d’explorer, de créer et d’innover, mais aussi avec sa face tragique, évocatrice de l’hybris, cette tentation démesurée de l’homme de s’opposer aux dieux, et à l’ordre naturel. Cette transgression impardonnable, condamne inévitablement l’homme qui défie les dieux, comme elle a châtié le Titan Prométhée[1], créateur de l’homme, mais qui ensuite vole le feu sacré aux dieux pour le donner aux humains, leur apportant la connaissance, la technologie et la civilisation. Prométhée ayant créé un homme en outrepassant ce que les dieux avaient autorisé, Zeus le punit pour sa transgression en lui infligeant une souffrance éternelle. Enchainé sur un rocher, chaque jour un aigle dévore son foie regénéré dans la nuit.

 

 

Prométhée et l’IA, la créature échappe à son maître

Le Mythe de Prométhée offre un éventail d’interprétations, dont également celle de la créature échappant à son créateur avec ses conséquences tragiques comme si la réussite de l’homme à modifier la nature ou à concurrencer les dieux se devait toujours d’être punie.  

Déjà au XVIIIe siècle, La Mettrie, avec son « Homme machine »[2] et son matérialisme radical, en aspirant à l’avènement d’un Prométhée nouveau, capable de créer une machine humaine reconstituée, s’était attiré les foudres des religieux mais aussi de la communauté scientifique.

Dans l’imaginaire collectif, c’est certainement l’histoire célèbre de Victor Frankenstein, nouveau Prométhée[3] donnant vie à une créature meurtrière, échappant à son contrôle, qui est la plus emblématique d’une créature se retournant contre son créateur. La punition est terrible pour Frankenstein, sa créature tue son jeune frère et un ami très proche.

Quant aux scénarios dystopiques des films et séries contemporains, ils sont pléthore à mettre en scène des robots dotés d’intelligence artificielle. Tous ne sont pas à l’image de David, jeune robot doté d’émotions, héros du film culte, A.I. Intelligence artificielle, de Steven Spielberg[4]. Le plus fréquemment, ces créatures à l’intelligence artificielle supérieurement élevée, sont belliqueuses avec un lot de conséquences désastreuses. Leur ultra violence menace l’être humain et la civilisation à l’image de Terminator, devenu le symbole du robot destructeur à l’intelligence artificielle programmée pour anéantir.[5]

 

Si l’on reprend les termes de la lettre des 1123 signataires, on peut y voir une analogie avec l’intelligence artificielle s’opposant à l’intelligence humaine. Les créateurs prométhéens des algorithmes, ayant fait naître l’IA reconnaissent dans cette lettre leur incapacité à savoir s’ils pourront contrôler l’augmentation fulgurante de la puissance de l’IA. L’exemple d’Elon Musk est frappant, en même temps cosignataire du moratoire et parallèlement créateur de Neuralink, société à l’ambition d’augmenter les capacités cérébrales par l’implantation de composantes électroniques.

 

Est-ce encore de la science-fiction que de penser que l’IA prendra un jour le contrôle de son créateur et que des intelligences humaines et algorithmiques s’affronteront ?

 

 

Transhumanisme et transgression : le meilleur et le pire

Le courant transhumanisme peut être considéré comme éminemment transgressif, par rapport à la pensée judéo-chrétienne berceau de notre société occidentale, mais aussi aux normes sociales et aux valeurs de la plupart des sociétés, particulièrement concernant la manipulation du cerveau par l’IA, grâce aux technologies NBIC, le « neuro-hacking ». Pourtant impossible de ne pas constater que l’application de certains de ses objectifs est déjà en marche. Laurent Alexandre[6] laisse présager que le meilleur, mais aussi le pire, pourraient être à venir. Google annonce pouvoir franchir une nouvelle étape dans la maîtrise des cerveaux à l’horizon de 2035. Ce géant du numérique, aux ambitions neurotechnologiques révolutionnaires prépare l’implantation de nanorobots intracérébraux, branchés sur les neurones, permettant de se connecter à internet.

 

Laurent Alexandre se veut positif en déclarant que « le neuro-hacking peut apporter le meilleur : la réduction des inégalités intellectuelles et éviter notre marginalisation face à l’Intelligence Artificielle, échanger directement de cerveau à cerveau avec tous les humains et les ordinateurs ou encore nous apporter des expériences intellectuelles absolument inédites. Mais il insiste aussi sur la gravité d’un neuro-hacking utilisée avec des intentions malveillantes « Il peut aussi conduire au pire : implantation de faux souvenirs, police de la pensée, neurodictature… Le décryptage et la manipulation de nos cerveaux, par exemple en implantant un souvenir artificiel, peuvent devenir une arme fatale au service d’une ambition. C’est une menace absolument inédite contre l’homme et la liberté ».

Nombreux sont les scientifiques qui reconnaissent cette dualité entre les fabuleux bénéfices de l’IA et les risques à la hauteur des avantages. Pourtant ils considèrent que rien ne peut et ne doit arrêter le progrès en marche.

Le futurologue Ray Kurzweil,[7] gourou du transhumanisme et spécialiste des nanotechnologies, reconnait leur extrême danger mais fait valoir que, dans la pratique, les progrès ne peuvent pas être arrêtés, et que toute tentative de le faire, ne fera que retarder les progrès des technologies de défense, augmentant ainsi le danger. Si comme il l’avance, dès les années 2030, grâce à l’hybridation de nos cerveaux avec des nano-composants électroniques, l’humanité va posséder un pouvoir démiurgique. Si « lintelligence jusqu’alors confinée dans ses supports biologiques – le cerveau- deviendra progressivement non-biologique et des milliards de fois plus puissante qu’elle n’est aujourd’hui ». Si également « dans ce monde nouveau, les distinctions entre l’humain et la machine, entre le réel et la réalité virtuelle, s’estomperont progressivement ». Si enfin comme il le prévoit « les personnes pourront adopter des corps différents et multiplier les versions de leurs esprits et que l’IA va jouer un rôle essentiel dans la recherche de l’immortalité en permettant la numérisation de l’esprit », alors le temps n’est plus à l’opposition, mais à la réflexion et à l’anticipation.                                                                                                                                                     

Clivage transhumanisme et conservatisme

Les utilisations de l’IA sont très variables selon les objectifs des algorithmes qui l’alimentent. Ces derniers n’ont pas la même finalité, lorsqu’il s’agit d’obtenir plus d’efficacité et d’améliorations de la qualité de vie, ou de poursuivre des buts transhumanistes allant de « l’Homo Deus » à la conquête du Cosmos.

L’IA est déjà présente dans tout ce qui touche au mode de vie, à l’environnement, à la santé transformant la manière dont nous interagissons avec la technologie, effectuons des tâches et prenons des décisions. Le catalogue de toutes ses utilisations serait impressionnant, mais on peut signaler, à titre d’exemple, celles qui interviennent le plus fréquemment dans nos pratiques. Des assistants virtuels tels que Siri, Google Assistant, Amazon, Alexa et Cortana utilisent l’IA pour répondre à nos questions, gérer des tâches et exécuter des commandes vocales. Les services en ligne tels que Netflix, Spotify et Amazon s’en servent pour analyser nos préférences et nos habitudes, offrant ainsi des recommandations personnalisées en matière de films, de musique, de produits. Les algorithmes d’IA sur les plateformes de médias sociaux déterminent le contenu que nous voyons dans nos flux, en fonction de nos intérêts passés et de nos interactions. Des applications de suivi de la santé et de remise en forme utilisent l’IA pour suivre les données biométriques, fournir des conseils personnalisés. Les outils de traduction automatique basés sur l’IA facilitent la communication et la compréhension entre les personnes qui parlent différentes langues.

Cette utilisation de l’IA, au service de l’humain, avec toutes les mises en garde nécessaires pour qu’elle soit « éthique, soutenable et responsable »[8], et quels que soient les résistances au changement et les dangers potentiels générés, rencontre peu d’opposition.

Il en est différemment de l’utilisation de l’IA prônée par le courant transhumaniste. Force est de constater que plus les performances des neuro-technologies progressent, plus le clivage entre les tenants des courants conservateurs et les transhumanistes s’accentue. Laurent Alexandre, oppose aux deux extrêmes, les néo-malthusiens collapsologues et les transhumanistes colonisateurs du cosmos. Il en pointe les excès, mais dénonce pourtant les angoisses et superstitions bloquant la progression de l’IA « Si nous continuons à raisonner faux, nous Français seront exclus de la régulation de l’Homo Deus[9] ». Avis partagé par le scientifique Croate Miroslav Radman[10] qui, dans son article « Peut-on raisonnablement espérer l’immortalité », traite les Européens de « conservateurs dépassés et sans courage ».

Parmi les attaques contre le transhumanisme, sa volonté d’utiliser l’IA pour atteindre l’immortalité génère une opposition farouche de ses détracteurs.

Qu’en est-il réellement de cette hypothétique capacité de prolonger la vie, d’atteindre l’immortalité.

[1] Le mythe de Prométhée est l’un des récits les plus significatifs de la mythologie grecque, et il revêt plusieurs couches de signification, explorant des thèmes tels que la créativité, la connaissance, la rébellion, la punition divine et le sacrifice.

[2] Julien Offray de La Mettrie : L’homme-machine, coll. « Mille et une nuits », éd Fayard, Paris, 2000 (1747), 104 p..

[3] Personnage du roman de Mary Shelley inventé en 1818.  Le roman relate la tentative d’un savant, le docteur Frankenstein, pour créer artificiellement un être humain, et il confère au personnage du docteur Frankenstein une dimension prométhéenne : Frankenstein agit comme un démiurge, puis est pris de remords devant les conséquences catastrophiques de son acte..

[4] Sondage réalisé par la BBC en 2016 auprès de 177 critiques du monde entier.  Terminator est classé 83e meilleur film sorti depuis 2000.

[5] Héros du film de James Cameron, l’acteur Arnold Schwarzenegger, robot T-800, incarne le pire qu’une IA destructrice puisse faire réaliser à un robot

[6] Laurent Alexandre, Jean François Copé (2019) : L’IA va-t-elle aussi tuer la démocratie ? JC Lattes. P.117

[7] Le livre de Ray Kurzweil, (2007), Humanité 2.0 : La bible du changement, Paris, M21, 647p. est une mise à jour de ses précédents ouvrages.

[8] Profession de foi de Marco Landi, Président de l’Institut EuropIA dont la mission est de « promouvoir une Intelligence artificielle éthique ».

[9] « Homo Deus » est un livre écrit par l’historien israélien Yuval Noah Harari, publié en 2015. Dans ce livre, Harari explore l’évolution future de l’humanité et envisage un avenir où les avancées dans les domaines des NBIC (Nanotechnologies, Biotechnologies, Informatique et Sciences Cognitives) pourraient jouer un rôle central dans la création d’une nouvelle espèce humaine, qu’il appelle « Homo Deus » (l’homme divin). Les NBIC sont des domaines scientifiques et technologiques qui ont le potentiel de transformer profondément la nature de l’humanité.

[10]Miroslav Radman (2017/1) Archives de philosophie du droit (Tome 59) pages 263 à 271.

Intelligence artificielle, longévité et immortalité

Sous le titre percutant « La mort de la mort », déjà en 2011, Laurent Alexandre[1] débattait des avancées scientifiques agissant sur la santé et favorisant la longévité en lien avec l’IA : thérapies géniques, manipulations de cellules souches, nanotechnologies réparatrices, hybridation entre l’homme et la machine. Les domaines d’intervention de L’IA dans la recherche médicale sont nombreux notamment dans l’identifiant des maladies, la pose les diagnostics et les traitements. Déjà, face à ses technologies, pourtant bénéfiques, des problèmes éthiques ont fait jour, ne cessant de croitre en une décennie, concomitamment avec les progrès fulgurants des technologies. Les inquiétudes éthiques se posent à deux niveaux.

D’une part, la longévité obtenue par des manipulations génétiques et des implants cérébraux, telle que la conçoit les fers de lance du courant transhumaniste, patrons de la Silicon Valley, propriétaires ou travaillant au sein des GAFA[2], pose le problème éthique du respect de l’humain, de son intégrité et de son devenir. Souvent fascinés par la science-fiction, ils ne s’imposent aucune barrière à l’image du multimilliardaire Peter Thiel[3] qui confie la direction de la branche scientifique Calico de sa fondation « Thiel fondation » à la chercheuse Cynthia Kenyon[4], travaillant sur le prolongement de la vie par manipulation génétique.

D’autre part, la longévité entraine une surpopulation avec son lot de difficultés sur les ressources naturelles, l’infrastructure, les services de santé et publics. Son allongement et l’accroissement de la population[5] nécessite une réflexion éthique pour gérer les avantages potentiels tout en minimisant les effets négatifs, sur la société et l’environnement.

Mais un recul de la mort n’est pas l’immortalité. Seuls les dieux sont immortels, et les humains sont de simples mortels fascinés par l’immortalité. Leur refus de mourir a créé des mythes traduisant l’espoir de posséder l’immortalité. Le Jardin des Hespérides aux pommes conférant l’immortalité, Tantale soumis au supplice de ne jamais pouvoir se rassasier, pour avoir tenté de voler l’Ambroisie, boisson rendant les dieux immortels.

Au XXIe siècle, ceux sont les scientifiques qui font rêver à une nouvelle forme d’immortalité.

L’immortalité, dans le sens de vivre éternellement sans subir les effets du vieillissement ou de la mort, est un concept qui reste hors de portée pour l’humanité en l’état actuel de la science. Et pourtant c’est bien l’immortalité que promet le transhumanisme. Alors de quel type d’immortalité s’agit-il ?


Nouveau concept du XXIe siècle, l’Immortalité numérique.

Dans un futur proche, l’IA est appelée doitdoitdoit jouer un rôle essentiel dans la recherche de l’immortalité en permettant la numérisation de l’esprit humain. Dans cette vision, les humains pourraient transférer leur conscience et leurs souvenirs dans un substrat numérique, comme un ordinateur, ce qui leur permettrait de continuer à exister même après la mort de leur corps biologique.

Le philosophe Michel Onfray[6] postule qu’aujourd’hui tout converge pour que le passage de l’âme immatérielle à l’âme numérique se réalise, ouvrant la voie à un posthumain inaugural de l’inhumain.

L’engouement pour ce type d’immortalité peut paraître curieux, et pourtant à travers les millénaires, les religions ont apporté cette espérance d’une autre vie après la mort, celle d’une d’immortalité immatérielle, celle de l’âme perdurant après la destruction de l’enveloppe charnelle. L’immortalité numérique pourrait-être celle de l’esprit, à mi-chemin entre une immortalité du corps et celle de l’âme.

Des organismes comme Facebook ont déjà eu l’idée de créer des lieux de recueillement virtuel pour les proches d’un défunt, en utilisant des photos, vidéos et publications de son compte. Mais ces pages commémoratives restent limitées à la consultation. Avec les technologies performantes de l’IA, aujourd’hui discuter avec les défunts devient une réalité. La société coréenne Deepbrain AI est certainement la plus représentative en proposant de créer du vivant d’une personne son avatar, son double virtuel au cerveau numérique enrichi par toute l’histoire de sa vie et les contenus qu’elle aura choisi de sélectionner et avec qui le dialogue sera possible après le décès. Boostés à l’IA nourrie de ses connaissances, de ses raisonnements, de ses opinions et de ses engagements, l’avatar pourra même commenter le présent. Le réalisme de l’avatars devenant de plus en plus convaincant, l’illusion sera parfaite, comme si la personne était encore vivante.

Verra-t-on des réunions de familles où seront conviés les défunts ? verra-t-on une société où les avatars auront leur place, un rôle, et qui les choisira ? Eux-mêmes pourront-ils en décider ? Et quelles répercussions sur les vivants ? La vie numérique après la mort pose également des questions de sécurité. La législation protège les données personnelles des vivants contre les hackers mais qu’en sera-t-il de leurs données personnelles post-mortem, de leurs mails, de leurs photos, de leurs documents intimes, s’ils sont piratés par des organismes malveillants ? Encore un domaine où l’intelligence numérique pose des questions d’éthique et de sécurité difficile à ignorer.

L’intelligence artificielle va dorénavant façonner l’avenir de tous les êtres humains. L’Humanité vas connaître de tels bouleversements que l’encadrement de l’intelligence artificielle par l’éthique devient crucial. On ne peut laisser les systèmes d’IA prendre des décisions qui ont un impact significatif sur la vie des humains, que ce soit dans la médecine, la finance, le droit, ou d’autres domaines. L’éthique doit permettre de définir des normes et des responsabilités pour les concepteurs, les propriétaires et les utilisateurs de ces systèmes. Peut-on espérer imposer une éthique quand dans la course à l’IA des milliards sont investis ?


Intelligence artificielle et transhumanisme une nécessaire éthique.

 Dans un récent ouvrage « L’IA sans éthique n’est que ruine de l’humanité. Journal de Mève »[7], Mève, créature numérique d’une nouvelle espèce dotée d’une intelligence artificielle consciente, raconte l’ambivalence des sentiments à son encontre « la machine super-intelligente que je suis suscite une admiration mêlée de terreur ». Elle révèle que ses parents informaticiens avaient hésité moralement à la créer car ils redoutaient d’engendrer une machine dotée d’un ordinateur quantique ultra-intelligent, capable de concevoir des machines connectées entre elles par télépathie, rendant l’intelligence humaine obsolète. Mais Mève, elle-même machine dotée de conscience, croit en la possibilité d’une humanité meilleure à la condition qu’hommes et machines partagent valeurs et convictions. Pour que cette condition soit remplie, la nécessité s’impose d’un encadrement éthique et éco-responsable du développement des machines. Jérôme Béranger, le père littéraire de Mève, propose une charte éthique et souhaite une responsabilisation des machines en codant de l’éthique dans les algorithmes eux-mêmes avant que la révolution digitale ne dénature irréversiblement l’humanité actuelle.  

Si l’on revient à la demande de moratoire des 1123 signataires, on y retrouve la crainte récurrente d’une l’IA autonome, incontrôlable à l’intelligence supérieure à celle de son créateur.  Mais la demande de suspension des signataires n’est que temporaire, 6 mois d’arrêt du développement des systèmes d’IA puissants, en attente qu’être certain « que leurs effets seront positifs et que leurs risques seront gérables ». Or, depuis mars 2023, six mois se sont écoulés, on peut légitimement se poser la question des effets de ce moratoire… L’ambiguïté est même évidente concernant l’emblématique signataire Elon Musk, qui tout en dénonçant les dangers de l’IA crée en même temps sa propre entreprise d’intelligence artificielle, X.AI, avec la volonté d’être le nouveau rival d’OpenAI.

Vouloir arrêter le progrès serait effectivement dérisoire. Le mythe de prométhée est inhérent à la nature humaine avec sa soif de création et de transformations. De plus, s’il fallait stopper la course aux innovations sur l’IA, il serait indispensable que la totalité des états respecte cet arrêt, ce qui en soi est impossible en l’absence d’une gouvernance mondiale.

En revanche, l’existence de politiques différentes selon les pays en matière d’IA s’avère plus grave. Pendant que des pays à la morale conservatrice et aux principes moraux réfractaires aux technologies novatrices de l’IA se montrent frileux, voire bloque son développement, d’autres ne se privent pas d’avancer à pas de géant, imposant leur suprématie technologique et utilisant toutes les ressources de l’IA pour dominer.

L’équilibre est difficile, être dans la course est indispensable mais il n’y a pas de fatalité à subir ce qui est contraire à l’éthique et met en danger l’être humain. Les défenseurs d’une éthique algorithmiques ont raison d’être prolifiques en mise en garde et recommandations car le mythe de Prométhée aujourd’hui s’ancre dans la réalité.

L’intelligence artificielle permet au Prométhée du XXIe siècle d’élargir sa soif de création à la naissance de deux créatures. Une première créature « esprit numérique » au cerveau tellement développé que ses créateurs en craignent le pouvoir à l’image de l’homme conçu par le Titan de la mythologie et qui inquiétait les Dieux, Mais une deuxième créature se profile à l’horizon de peu de décennies, un être humain hybride, autocréé, un « homme augmenté ». Cet être hybride, transhumain, doté d’une puissance immense encore difficile à évaluer, sera sa propre créature de lui-même.

L’éthique du nouveau Prométhée se doit d‘être encore plus rigoureuse. Pourra-t-il maîtriser ses créatures et les contrôler, éviter la guerre des intelligences, et surtout obtenir d’elles bienveillance, respect des êtres vivants et de leur environnement.

L’intelligence artificielle est omniprésente, la puissance de ses algorithmes va inévitablement engendrer une civilisation humano-technologique. Quelle part fera-t-elle à l’humain, quelle sera l’humanité de demain ? Ces questions sont justifiées, mais y répondre par l’angoisse et la peur n’est ni adapté ni bénéfique. On peut être résolument optimiste et croire dans le meilleur d’une civilisation humano-technologique.  

[1] La mort de la mort, (2011), éditons Lattes. Le livre de Laurent Alexandre développe en 425 pages comment la technomédecine va bouleverser l’humanité

[2] Acronyme de Google, Apple, Facebook et Amazon, auquel est parfois adjoint Microsoft, les GAFA(M), entreprises stars de la Silicon Valley californienne,

[3] Peter Thiel et avec Blake Masters ,  De zéro à un : Comment construire le futur, (2016),  JC Lattès

[4] Cynthia Kenyon a découvert en 1993 le gène du vieillissement

[5] La population mondiale a doublé au cours des 50 dernières années et compte près de 8 milliards d’habitants en 2020, elle devrait atteindre 10 milliards en 2050. 

[6] Michel Onfray, Anima : Vie et mort de l’âme – De Lascaux au transhumanisme (2023) éd Albin Michel, 400p.

[7] Jérôme Beranger, (2020), L’IA sans éthique n’est que ruine de l’humanité. Journal de Mève. Éd. Le passeur 343p. Jérôme Béranger est également fondateur de la société ADEL, spécialisée dans l’évaluation éthique des traitements algorithmiques des données numériques.

Leave A Comment