Lors de cette conférence d’exception organisée par l’Université Grenoble Alpes, Joseph Sifakis, lauréat du prestigieux prix Turing, livre une analyse critique et profonde sur l’état actuel et les trajectoires futures de l’intelligence artificielle. Loin des discours marketing et des prédictions sensationnalistes, le chercheur déconstruit les mythes entourant l’ultra-intelligence pour proposer une vision ancrée dans la rigueur scientifique et l’ingénierie des systèmes.

Son intervention explore les défis techniques de l’autonomie, les limites épistémologiques des modèles d’apprentissage actuels ainsi que les implications sociétales majeures de notre dépendance croissante aux technologies numériques.

Ce qu’il faut retenir

  • Le mythe de l’intelligence artificielle générale : les machines actuelles excellent dans des tâches spécifiques et l’analyse de données massives, mais elles restent fondamentalement dépourvues de bon sens, de modèles sémantiques du monde et de véritable conscience situationnelle.
  • Le défi de la validation et de la confiance : contrairement aux systèmes informatiques traditionnels ou aux théories de la physique, les réseaux de neurones profonds souffrent d’une boîte noire informationnelle qui rend leur comportement inexplicable et leur certification rigoureuse impossible par les méthodes scientifiques classiques.
  • La responsabilité humaine face à la dépendance : le véritable danger de l’intelligence artificielle ne réside pas dans une hypothétique révolte des machines dotées d’intentions propres, mais bien dans la démission volontaire de l’être humain qui risque d’aliéner son libre arbitre et ses capacités cognitives par paresse technologique.

L’illusion de l’intelligence artificielle générale et le test de Turing

Il existe aujourd’hui une confusion généralisée, entretenue par les médias et les géants de la technologie, concernant les capacités réelles des machines. L’ouverture d’un dictionnaire rappelle pourtant une définition essentielle : l’intelligence se caractérise par la capacité de comprendre le monde afin de le transformer. Bien que des outils récents comme ChatGPT accomplissent des tâches impressionnantes et sensibles à la signification syntaxique, ils ne possèdent pas la connaissance fine des situations.

L’adaptation aux changements imprévus de l’environnement demeure le propre de l’esprit humain. Le monde scientifique se trouve encore à l’ère de l’intelligence artificielle faible. Cette dernière fournit des briques technologiques isolées, mais elle manque de principes directeurs pour synthétiser des systèmes globaux et fiables.

La comparaison entre l’esprit humain et la machine s’appuie historiquement sur le célèbre test de Turing formalisé au milieu du vingtième siècle. Ce protocole textuel s’avère désormais obsolète et insuffisant pour évaluer l’intelligence. Son succès dépend trop des jugements subjectifs des évaluateurs et du choix arbitraire des questions posées.

Le test de Turing échoue à capturer une part immense de l’intelligence humaine, notamment celle qui s’exprime par l’interaction physique avec le monde, les mouvements et les comportements sociaux. Pour dépasser ces limites, un concept alternatif est pertinent : le test de remplacement. Ce critère stipule qu’une machine est l’égale de l’homme pour une tâche donnée si elle peut se substituer à lui avec le même succès, à l’instar d’un pilote automatique remplaçant un conducteur humain.

Les deux systèmes de pensée et la production de connaissances

La pensée humaine combine deux modes de fonctionnement distincts : le système un et le système deux. Le premier correspond à une pensée rapide, automatique et inconsciente, utilisée pour marcher ou réagir instantanément grâce à des connaissances empiriques. Le second incarne la pensée lente, consciente, contrôlée et logique, indispensable pour résoudre un problème mathématique complexe.

Une analogie frappante relie ces deux systèmes aux paradigmes actuels de l’informatique. Les ordinateurs traditionnels fonctionnent selon le système deux : ils exécutent des programmes logiques que l’on peut analyser, décortiquer et vérifier formellement. À l’opposé, les réseaux de neurones artificiels s’apparentent au système un : ils génèrent des connaissances empiriques basées sur l’accumulation de données et l’entraînement, sans qu’un modèle mathématique sous-jacent ne puisse expliquer leur logique interne.

Cette distinction met en lumière une hiérarchie des connaissances. Au sommet se trouvent les théories scientifiques et techniques, car elles s’appuient sur des modèles mathématiques rigoureux et une démarche explicative. La science moderne, de Galilée à Newton, associe l’expérimentation à la formulation de lois universelles.

Le fonctionnement des réseaux de neurones actuels rompt avec cette tradition scientifique. L’entraînement d’un classificateur d’images pour distinguer un chat d’un chien repose sur une phase purement expérimentale de labellisation. Le système ne dispose d’aucune représentation conceptuelle de l’animal. Il devient alors impossible de garantir son comportement face à des situations inédites, ce qui constitue le problème central et irrésolu de l’informatique contemporaine.

La conscience situationnelle et le bon sens humain

La supériorité de l’esprit humain se manifeste éclatante dans la reconnaissance des situations quotidiennes grâce au bon sens. Les faits divers rapportent des cas de voitures autonomes confondant la pleine lune avec un feu orange de circulation. Une telle erreur est impossible pour un être humain : notre cerveau comprend intrinsèquement qu’un signal routier ne peut pas se situer dans le ciel.

Le bon sens humain s’appuie sur un modèle sémantique et conceptuel du monde que nous développons dès notre naissance. Ce modèle riche sert de filtre pour interpréter les informations sensorielles et le langage naturel. La compréhension humaine combine un raisonnement ascendant, partant des capteurs vers la pensée, et un raisonnement descendant, projetant le sens vers la perception.

Devant un panneau de signalisation partiellement recouvert de neige, un être humain l’identifie immédiatement grâce à ses connaissances préalables sur sa forme, sa couleur et sa fonction. Le réseau de neurones, quant à lui, doit être entraîné artificiellement à toutes les conditions météorologiques possibles pour éviter l’erreur. De même, une machine peut identifier les objets isolés sur une série d’images montrant un crash d’avion, mais elle s’avère incapable de lier ces éléments de manière causale pour comprendre l’accident.

Le défi majeur de la recherche consiste à connecter les informations sensorielles brutes aux informations symboliques. C’est le problème le plus difficile imaginable pour l’avenir de la discipline. Sans cette passerelle, les machines ne pourront jamais égaler la conscience situationnelle humaine.

L’architecture et la complexité des systèmes autonomes

Les systèmes autonomes représentent l’étape intermédiaire cruciale vers une intelligence générale. Ils marquent la transition entre les automatismes statiques actuels et des agents capables d’interagir de façon permanente avec un environnement incertain. Si la régulation d’un thermostat ou le pilotage d’un lave-linge relèvent d’automates simples, le contrôle d’un robot jouant au football ou d’une voiture autonome change radicalement de dimension.

L’analyse fonctionnelle d’un véhicule autonome dévoile une architecture d’une immense complexité. Le système capte l’information sensorielle et utilise la perception pour identifier les obstacles. Ensuite, la fonction de réflexion tente de construire un modèle sémantique du monde.

La prise de décision doit gérer simultanément une quinzaine d’objectifs différents, allant du court terme, comme éviter une collision immédiate, au long terme, comme planifier un itinéraire complet. Ces objectifs tournent en parallèle et sont soumis à des contraintes temporelles strictes. Toute modification d’un paramètre peut entraîner des incohérences systémiques.

L’auto-apprentissage doit idéalement enrichir en permanence une base de connaissances pour adapter le véhicule aux variations de son environnement. Cependant, la réalisation concrète d’une telle architecture se heurte à des verrous technologiques majeurs. La complexité de la perception, l’incertitude environnementale et la gestion des décisions en temps réel restent des problèmes non résolus par les constructeurs automobiles.

Les défis de l’intégration et de l’intelligence collective

Au-delà des difficultés de conception matérielle, l’intégration des agents autonomes dans la société soulève des obstacles largement sous-estimés. La collaboration entre une machine et un opérateur humain dépasse de loin le cadre d’une simple interface graphique. Elle exige une communication bidirectionnelle complexe pour harmoniser des objectifs partagés.

Le déploiement de multiples machines dans un même espace pose la question de la symbiose. La coordination globale ne doit pas empêcher la réalisation des buts individuels de chaque agent. Idéalement, les systèmes doivent faire preuve d’une intelligence collective pour optimiser les ressources communes, par exemple pour réguler le trafic routier et éliminer les embouteillages sur une autoroute.

La trajectoire de l’intelligence artificielle se heurte à un fossé immense entre les promesses d’autonomie totale et la réalité scientifique. Pour franchir les paliers technologiques, le développement de nouvelles bases scientifiques est indispensable. Ce chantier colossal s’étalera sur de nombreuses décennies.

La crise méthodologique de la validation des systèmes critiques

La question de la confiance envers les systèmes intelligents est devenue brûlante avec l’avènement des grands modèles de langage. Les arguments des entreprises technologiques, mettant en avant des milliards de kilomètres parcourus en simulation pour prouver la sûreté de leurs véhicules, sont scientifiquement indéfendables. L’absence de lien formel entre les scénarios simulés et la variété infinie du monde réel invalide cette approche empirique.

Les concepts en vogue dans les médias, tels que l’intelligence artificielle responsable, équitable, transparente ou alignée sur les valeurs humaines, s’avèrent vides de sens d’un point de vue d’ingénieur. En science, affirmer qu’un système possède une propriété exige une définition rigoureuse et une méthode de validation reproductible. Sans ces critères, les discours basculent dans la métaphysique.

L’ingénierie logicielle traditionnelle s’appuie sur deux piliers : la vérification formelle par des modèles mathématiques et le test empirique. Les réseaux de neurones interdisent la vérification formelle car leur état interne est inaccessible et trop complexe. La validation se limite donc aux tests, qui analysent les réponses en fonction des entrées.

Cette approche par tests se heurte à des barrières théoriques majeures. Face à une infinité d’entrées possibles, l’absence de modèles empêche de définir des critères d’arrêt rigoureux ou de mesurer une couverture réelle du système. De plus, la science exige la reproductibilité des résultats, une condition non remplie par les systèmes intelligents actuels.

Les réseaux de neurones souffrent également de la vulnérabilité des exemples adverses. Des modifications infimes et invisibles des données d’entrée peuvent provoquer des erreurs de diagnostic catastrophiques. Enfin, l’application de ces méthodes de validation au langage naturel est une impasse théorique : les relations entre les questions et les réponses au sein des modèles linguistiques échappent à toute modélisation mathématique classique.

L’impact sociétal, l’éthique et le rôle des institutions

Dans les sociétés modernes, l’acceptation publique des technologies dépend des garanties de fiabilité offertes par les institutions et les normes industrielles. Qu’il s’agisse d’un avion, d’un ascenseur ou d’un simple grille-pain, des standards stricts certifient que l’objet ne mettra pas la vie de l’utilisateur en danger. Or, le domaine de l’intelligence artificielle souffre d’un vide réglementaire total.

Face à cette incapacité à normaliser, des pays comme les États-Unis adoptent la doctrine de l’autocertification. Les autorités délèguent la responsabilité de la sécurité aux entreprises privées, qui assument le risque financier par le biais de leurs propres assurances. Ce glissement éthique pose des dilemmes moraux majeurs concernant l’équilibre entre la performance économique et la liberté de choix des citoyens.

Le déploiement massif de ces technologies transforme la division du travail entre l’homme et la machine. Si l’évolution technique a historiquement libéré l’être humain de la pénibilité physique, l’externalisation des fonctions cognitives présente un danger inédit. Abandonner la capacité de produire des connaissances et d’analyser logiquement le monde menace directement le libre arbitre et la responsabilité individuelle.

Le risque majeur n’est pas de voir les machines surpasser l’esprit humain, mais de voir les humains s’abandonner à une dépendance technologique destructrice. L’usage précoce d’outils de génération de texte par les enfants perturbe l’apprentissage du raisonnement, de l’orthographe et de la réflexion personnelle. La paresse intellectuelle induite par ces béquilles numériques constitue une menace concrète pour l’évolution culturelle de l’humanité.

Vers une ingénierie hybride et le mystère de la conscience

Pour dépasser l’impasse actuelle, l’avenir réside dans le développement d’une ingénierie hybride. Cette approche consiste à concevoir des architectures associant des composants logiques traditionnels, hautement vérifiables, à des modules d’intelligence artificielle dédiés aux tâches de perception. Il est tout à fait possible de bâtir un système globalement fiable à partir de briques logicielles imparfaites, à condition de formaliser des théories rigoureuses pour encadrer leurs interactions.

Les machines peuvent devenir des partenaires exceptionnels pour repousser les limites de la connaissance humaine. L’esprit humain est limité par sa complexité cognitive, étant incapable d’appréhender des relations impliquant plus de cinq paramètres indépendants. Les ordinateurs excellent dans le traitement de milliers de variables simultanées, ouvrant la voie à la création d’oracles neuronaux capables de prédire des phénomènes naturels complexes, comme les séismes, avec une efficacité inédite.

Le progrès scientifique exige également de s’attaquer au mystère de la conscience par une approche interdisciplinaire associant l’informatique, la biologie et la médecine. L’étude exclusive du cerveau matériel et des signaux électriques est insuffisante pour comprendre l’intelligence. Une analogie logicielle l’illustre parfaitement : l’analyse des courants électriques au sein d’un processeur ne permet jamais de comprendre la fonction logique du programme informatique qui s’y exécute.

Le monde scientifique doit faire preuve d’honnêteté intellectuelle et rejeter les dérives anthropomorphiques qui attribuent des sentiments ou des intentions morales aux lignes de code. La communauté universitaire, parfois trop dépendante des financements des grands groupes technologiques, doit impérativement retrouver son esprit critique. C’est en maintenant une rigueur méthodologique absolue que l’humanité pourra exploiter ces outils extraordinaires tout en préservant sa dignité, sa responsabilité et sa liberté de pensée.