Intelligence Artificielle

« Gödel, Escher, Bach » : une Intelligence Artificielle peut-elle devenir consciente ?

Écrit en 1979, Gödel, Escher, Bach, an eternal golden braid de Douglas Hofstadter pose la question suivante : une Intelligence Artificielle peut-elle devenir consciente (sa réponse est oui) et dans quelles conditions ?

Écrit en 1979, Gödel, Escher, Bach, an eternal golden braid de Douglas Hofstadter pose la question suivante : une Intelligence Artificielle peut-elle devenir consciente (sa réponse est oui) et dans quelles conditions ?

Sa démonstration passe par un rapprochement entre l’œuvre de trois personnes qui a priori n’auraient aucun lien entre elles : le mathématicien Gödel, l’artiste Escher et le musicien Bach.

ENTRE SCIENCE, ART ET MUSIQUE

La plupart des mathématiciens ont considéré que leur domaine se situe à mi-chemin entre les arts et les sciences. En effet, les théorèmes mathématiques partagent avec les œuvres artistiques les caractéristiques de l’inattendu – qualité que les lecteurs généraux peuvent retrouver dans Hardy’s Mathematician’s Apology lors de l’exposé du théorème de Fermat : un nombre premier impair (sauf 2) est une somme de deux carrés parfaits si et seulement si le reste de sa division euclidienne par 4 est 1 ; et dans ce cas, les carrés sont déterminés de manière unique.

Newton utilisa les mathématiques pour résoudre les problèmes pratiques dans les sciences physiques. Il conclut que des phénomènes observables réguliers et répétitifs régis parce que nous nommons les lois physiques peuvent être modélisés sous une forme mathématique afin d’être exprimés avec précision. De ce constat est née la revendication des mathématiques, comme le cadre formel idéal d’expression des lois naturelles.

Au cours de la Première Guerre mondiale, une telle analyse semblait déjà indiquer que les mathématiques et la logique déductive relevaient essentiellement des mêmes facultés. Non seulement les mathématiques étaient déjà dotées d’une forme structurelle composée de théorèmes et de preuves mais en plus la logique elle-même pourrait être exprimée par le biais d’un formalisme mathématique.

Bertrand Russel obtint des succès dans ce domaine avec sa modélisation des règles de logique pour éviter toute une classe de difficultés caractérisées par les paradoxes classiques d’Epiménide. La démarche de Russell fut démolie par Kurt Gödel dans un argument connu sous le nom de « Théorème de Gödel ».

Qu’a dit exactement Gödel ? Son théorème a été résumé dans un article précédent de la manière suivante :

Dans n’importe quelle théorie récursivement axiomatisable, cohérente et capable de « formaliser l’arithmétique », on peut construire un énoncé arithmétique qui ne peut être ni prouvé ni réfuté dans cette théorie.

Pour une meilleure compréhension de la découverte de Gödel, prenons l’analogie suivante tirée de la littérature.

Dans une de ses nouvelles, l’écrivain Jorge Luis Borges imagine La Bibliothèque de Babel, une bibliothèque qui comprendrait tous les ouvrages (de 410 pages à raison de 40 lignes par page, et de 80 caractères par ligne) que l’on peut obtenir en permutant de toutes les manières possibles les 26 symboles orthographiques auxquels on ajoute l’espace, la virgule et le point.

Donc 29 puissance 1 312 000. Le nombre des volumes est fini (et immense). La bibliothèque contient donc tout ce qu’on peut concevoir en 410 pages et en toutes langues imaginables (utilisant l’alphabet latin) en fait de sciences, d’histoire, d’utopies y compris les ouvrages dépourvus de tout sens (les plus nombreux) et les catalogues (un vrai, et X nombre de faux).

Mais l’existence d’un tel catalogue est contradictoire et un tel catalogue n’existe pas. Supposons les volumes rangés de la manière suivante : d’abord tous les livres dont la première lettre est A, puis tous ceux dont la première lettre est B, etc. Dans le groupe des A, ceux dont la deuxième lettre est B. Et ainsi de suite. On voit aussitôt que pour décrire et situer un livre quelconque un catalogue devrait mentionner toutes les lettres de cette ouvrage.

Autrement dit, pour désigner chaque volume, le catalogue de Babel doit reproduire le volume entier. Le catalogue est donc une seconde bibliothèque identique à la première et contenue en elle. Ce qui est impossible par hypothèse, car l’axiome dit que tous les ouvrages sont distincts. La conclusion est qu’un monde fini et total ne peut contenir son image. Donc il n’est pas total et si il est total alors il n’est pas fini car il ne contient pas son image.

C’est l’autre conclusion du théorème de Gödel, un théorème mathématique consistant est incomplet, car il ne peut prouver par lui-même sa propre cohérence, et s’il est complet alors il est inconsistant.

LA CONSCIENCE FACE À LA COHÉRENCE ET L’INCOMPLÉTUDE

L’objectif principal de Gödel, Escher, Bach est d’explorer ces parentés de l’imagination, afin de rendre accessibles à des lecteurs sans connaissances mathématiques spécialisées toutes les idées essentielles qui sous-tendent la découverte de Gödel.

L’auteur puise, non seulement au sein de l’œuvre artistique d’Escher et ainsi que de la musique de Bach, mais aussi de Lewis Carroll, dont les œuvres mineures ont utilisé de longs dialogues spirituels parsemés d’ingéniosité pour illustrer de nombreux aspects de ce que nous appelons aujourd’hui le calcul proposé et ses fameux paradoxes.

Ce sont des paradoxes de contradiction, comme lorsque la déclaration « Je mens », si elle est vraie, doit être une fausse déclaration, mais si elle est fausse, doit être vraie.

Tous ces paradoxes impliquent ce que Hofstadter nomme une « boucle étrange », comme lorsqu’un argument porté à sa conclusion logique nie sa prémisse. Des boucles étranges analogues se produisent aussi dans les paradoxes de perspective d’Escher – comme lorsqu’une descente apparemment continue récupère le point de départ – et dans les explorations de Bach du paradoxe de l’achèvement d’un cycle enharmonique.

Outre les paradoxes de la contradiction, il existe des paradoxes de l’infini comme celui de Zénon d’Achille et de la Tortue ; un paradoxe résolu par la découverte qu’une infinie série d’intervalles de temps peut s’additionner à une somme finie.

Plus tard, Carroll exposa un tout autre paradoxe de la logique au moyen d’un autre dialogue entre la Tortue et Achille. Hofstadter utilise ces deux personnages, et un certain nombre d’autres de sa propre invention, dans une séquence de 20 pièces dramatiques, où le thème mathématique étudié est un miroir de la structure du dialogue.

La combinaison la plus brillante de Hofstadter d’un dessin à la Escher et d’une fugue à la Bach est utilisée pour traiter du conflit entre holisme et réductionnisme.

Le dessin incarne un vaste MU où les montants et la pièce croisée de l’énorme M se compose chacun du mot HOLISM, où cependant chaque ligne droite ou courbe dans chaque lettre est remplacée par le mot incurvé REDUCTIONISM ; et où la courbe de l’énorme U se compose du mot REDUCTIONISM, dans lequel chaque ligne droite ou courbe dans chaque lettre est remplacée par le mot courbé HOLISM.

Les trois premières voix de la fugue découvrent le sens du diagramme comme, respectivement, MU, le holisme et le réductionnisme, et poursuivent la discussion de ces deux points de vue philosophiques inconciliables ; et puis la quatrième voix jaillit sur l’étudiant du dessin une surprise passionnante qu’il serait injuste pour un critique de révéler.

CONSCIENCE HUMAINE ET CONSCIENCE « ARTIFICIELLE »

Comment terminer un tel livre ? Une possibilité aurait été d’esquisser le développement ultérieur des travaux mathématiques sur l’indécidabilité depuis Gödel.

Hofstadter préfère une discussion prolongée sur les neurosciences et sur l’intelligence artificielle. Il postule que les cerveaux agissent comme des ordinateurs. Hypothèse qui est loin d’être confirmée par les découvertes contemporaines.

Le désaccord est important en raison des implications majeures du livre qui concernent la possibilité de création d’une IA « forte » c’est-à-dire consciente. Les « jeux » proposés par l’auteur n’ont pas seulement pour fonction d’illustrer l’impact du théorème de Gödel, mais aussi que le processus cognitif qui se passe dans le cerveau humain lors de la lecture et l’exécution sont réplicables par une machine intelligente car formalisable à travers des algorithmes.

Une attente concernant l’avenir dans ce domaine est illustrée par le programme informatique de Winograd reproduit entre les chapitres 17 et 18 du livre. Ces travaux sur la linguistique ont démontré que l’analyse grammaticale exige qu’un programme informatique utilise un modèle intégré à ce qu’on appelle « l’univers du discours », auquel les phrases se réfèrent.

Les programmes pour de telles tâches d’automatisation avancée sont couronnés de succès chaque fois que l’univers du discours est relativement petit, comme dans le monde « table-top » du programme de Winograd, ou comme dans le monde « usine-plancher » des robots industriels modernes.

On pourrait penser que les augmentations présentes et futures de la puissance des ordinateurs iraient de pair avec l’augmentation de la taille maniable de l’univers de discours d’un programme.

Il s’agit toutefois d’une attente erronée à cause d’un phénomène dénommé « l’explosion combinatoire » : le temps pris pour toutes les recherches, nécessaire dans les programmes d’automatisation avancée, augmente incommensurablement plus fortement que la proportion de la taille de l’univers du discours.

Ainsi, la prochaine génération d’ordinateurs, avec leur puissance énormément accrue, pourra au mieux seulement doubler la taille de l’univers du discours que les programmes d’automatisation avancés peuvent gérer.

L’automatisation a bien sûr atteint des stades très avancés. En revanche, la question importante sur la question de savoir si les programmes informatiques peuvent être donnés des capacités d’automatisation avancées dans un univers extrêmement complexe et varié de discours.

Une compréhension et une perception comparables à ce que nous éprouvons par nos propres sens, c’est-à-dire la création d’un fameux robot « polyvalent » qui serait conscient de lui-même. Cette perspective en admettant déjà qu’elle soit possible, est encore très éloignée.

L’intelligence artificielle
va-t-elle bouleverser la profession médicale ?

L’intelligence artificielle risque de transformer le monde médical en profondeur.

Vous aimez cet article ? Partagez le !

Forgé dans les années 1950, le terme d’intelligence artificielle (IA) fait référence à un système informatique capable de raisonner, d’apprendre, et de planifier, avec un comportement évoquant celui des systèmes biologiques intelligents. Son apprentissage automatique, ou machine learning, s’appuie sur une programmation qui n’est pas uniquement déterminée par un code, mais s’adapte également aux données qui lui sont fournies.

Par exemple, dans le cadre formel de réseaux de neurones artificiels, les algorithmes mathématiques permettent de trouver par itérations la meilleure manière de représenter le lien entre plusieurs variables. Chaque neurone représente une fonction assez simple, ce qui permet de construire des fonctions très complexes dans un grand réseau.

La médecine, quant à elle, est une institution ancienne et reconnue dans nos sociétés, comme en témoigne la confiance accordée aux professionnels de santé lors de la pandémie de Covid-19. Et nous avons tendance à la considérer comme un grand navire dont la stabilité ne peut être menacée.

Pourtant, la réalité est toute autre. Dans les décennies à venir, la médecine risque bien d’être transformée en profondeur par l’IA, véritable « révolution » aux dires du président Emmanuel Macron.

Et pour prendre la mesure de ces bouleversements à venir, il n’est qu’à se référer au Health Data Hub, plate-forme lancée par le gouvernement français en novembre 2019 et permettant à des chercheurs d’utiliser des données du système national de santé pour entraîner des modèles d’intelligence artificielle.

Quelque 10 projets de recherche ont d’ores et déjà été sélectionnés pour tirer partie de cette plate-forme. Et tous entendent améliorer l’efficacité de la médecine.

Ainsi, « Deepsarc » vise à identifier les meilleurs schémas thérapeutiques pour le traitement du sarcome, « PIMPON » souhaite aider les prescripteurs à mieux connaître les interactions médicamenteuses dangereuses, « Hydro » cherche à prédire les crises d’insuffisance cardiaque pour les patients porteurs de pacemaker, « Oscour » veut mobiliser les données des urgences pour améliorer la surveillance sanitaire, « Deep.Piste » va évaluer l’apport de l’intelligence artificielle dans le dépistage organisé du cancer du sein – apport majeur d’après une étude publiée en janvier dernier dans Nature et menée auprès de six radiologues.

Si la profession médicale a toujours su tirer avantage des innovations technologiques (rayons X, IRM, etc.), elle se trouve donc confrontée à une situation de rupture inédite. Les algorithmes vont-ils prendre le pas sur les professionnels de santé ? Au sein de quelles disciplines des batailles seront-elles menées ?

UN MONDE EN CONSTANTE ÉVOLUTION

D’après les sociologues américains Rue Bûcher et Anselm Strauss, toute profession peut être définie comme un monde composé de segments, avec des conceptions différentes sur leur pratique, et des identités variées qui se transforment, se maintiennent, se développent et/ou disparaissent. Diverses disciplines médicales se retrouvent ainsi en compétition.

Par exemple, s’agissant de la prise en charge de graves maladies coronariennes, il peut y avoir opposition entre des cardiologues adeptes de l’angioplastie et de la pose de stents, et des chirurgiens cardiaques prônant plutôt le pontage à cœur ouvert.

Dans son ensemble, avec le soutien de l’État et en concurrence avec d’autres groupes tels que les guérisseurs spirituels, la profession médicale a obtenu au XXe siècle le monopole de la prestation de soins.

Pour y parvenir, elle s’est appuyée sur un système cohérent et scientifique visant à définir, classer et diagnostiquer les phénomènes de mal-être somatique et/ou psychique). Mais c’est aussi sa capacité à s’auto-organiser (en disciplines, sociétés savantes, syndicats…) qui a conféré à la médecine son autorité en matière de santé.

Dans un tel contexte, l’IA peut être vue comme une nouvelle innovation technique capable d’aider les médecins, mais aussi de renforcer leur pouvoir vis-à-vis d’autres disciplines.

Or au sein de cette profession très hiérarchisée, les choix technologiques sont le fait des élites qui opèrent dans une logique « mandarinale », fondée sur un mélange de valeurs professionnelles conservatrices et le rejet du pouvoir bureaucratique de l’État. Même si, pour chaque discipline, la décision de recourir à l’IA dépend de l’évaluation comparée de ses bénéfices et de ses risques, et ce en fonction de l’expérience passée.

Ainsi, les psychiatres se montrent plutôt sceptiques sur le fait que l’IA puisse effectuer les tâches complexes de leur quotidien, la psychiatrie étant de manière générale moins friande de technologies que d’autres disciplines. À l’inverse, l’imagerie médicale est un domaine où la performance de l’IA rend déjà obsolètes certains profils de radiologues.

D’ailleurs, on assiste à l’émergence d’une première génération de professeurs de radiologie ayant construit leur carrière sur le recours à l’IA en imagerie médicale.

UN FORT POTENTIEL DISRUPTIF

En sortant du cadre des innovations techniques classiques, l’IA confronte les professionnels de la médecine à une véritable révolution. Les raisons sont d’abord techniques : outre une rapidité sans précédent dans l’exécution de certaines tâches, elle permet le développement d’un apprentissage autonome – comme le prouvent les progrès fulgurants de la traduction instantanée des langues, aujourd’hui proposée gratuitement sur la toile avec des implications majeures pour le marché du travail. Mais la révolution vient aussi du côté anthropomorphe de l’IA…

Les réseaux de neurones artificiels, les robots à visage humain ou encore les chatbots en sont l’illustration. Ces agents conversationnels numériques utilisent des méthodes d’IA par le texte et/ou la voix pour imiter le comportement humain avec un dialogue évolutif. Et on les considère comme un moyen de fournir des soins en santé mentale dans les régions où il en existe peu, ou à destination des personnes qui ont des difficultés à révéler leurs sentiments à un être humain.

En somme, l’IA devient en elle-même un acteur social (ou un « actant » dans l’univers de Bruno Latour), ce qui augmente son potentiel disruptif.

Ces deux facettes de l’IA vont de pair, et risquent de transformer en profondeur le monde de la médecine en bouleversant l’ordre établi. Ainsi, la radiologie pourrait devenir une spécialité comportant moins de postes, et un profil plus « clinique » que « diagnostique ».

Et à l’opposé, la psychiatrie, qui attire pour l’heure peu d’étudiants, est susceptibles de voir son profil renforcé en raison de sa dimension sociale, difficilement substituable par des applications d’IA.

De fait, c’est précisément en prenant appui sur cette dimension et ses vertus fondatrices (empathie, intimité de la relation patient-praticien, secret médical) que la profession médicale dans son ensemble pourrait redessiner son profil et son champ d’action.

Car en matière de soins, divers acteurs extérieurs au monde médical se sont en effet positionnés dans la prise en charge du mal-être somatique et/ou psychique à travers l’IA : c’est notamment le cas des

GAFAM comme Google, qui finance des études sur l’IA en santé, Facebook qui mobilise l’IA pour détecter le risque de suicide de ces utilisateurs, ou encore Microsoft, qui en France héberge le Health Data Hub.

À l’image d’un porte-conteneur qui, bien qu’habitué aux tempêtes, peut être mis à mal par une déferlante de vagues scélérates, la profession médicale fait donc face à une situation inédite.

Et quand bien même elle dispose des ressources nécessaires à la navigation, la puissance des éléments risque de la contraindre à trouver un nouveau cap. Quelle qu’en soit l’issue, la transformation sera profonde.

Sur le web

  1. Chercheur en sciences politiques au CEPEL/CNRS, Université de Montpellier. 
  2. Directeur de recherche CNRS au CEE à Sciences Po, Sciences Po – USPC. 

Vous aimerez aussi...

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Pour créer une communauté solidaire,

Pour créer une communauté solidaire,

laisse-moi ton e-mail

Vous êtes bien abonné !