L’intrusion grandissante des technologies automatisées au sein de l’État transforme en profondeur notre relation aux institutions. De la gestion des allocations familiales au traitement des dossiers judiciaires, les algorithmes et l’intelligence artificielle s’imposent désormais comme des rouages essentiels de l’action publique.

Cette modernisation à marche forcée est constamment présentée par les décideurs politiques comme un progrès inéluctable, capable d’optimiser le quotidien des agents et de simplifier les démarches des citoyens.

Pourtant, derrière cette promesse d’efficacité et de rationalité administrative, se dissimulent de multiples zones d’ombre. Les dérives observées sur le terrain soulèvent des interrogations fondamentales quant à la justice sociale, la protection de la vie privée et la responsabilité des décisions publiques.

Ce qu’il faut retenir

Trois enjeux majeurs résument les débats actuels sur l’automatisation de l’État :

  • Un déploiement généralisé sous couvert de neutralité : L’intégration de l’intelligence artificielle et des algorithmes décisionnels dans les services publics s’accélère fortement. Présentés comme de simples leviers d’efficacité et d’objectivité, ces outils masquent en réalité des arbitrages politiques lourds de conséquences.
  • La persistance des biais et du surcontrôle des plus vulnérables : Qu’il s’agisse des algorithmes de notation de la CAF ou de France Travail, le nettoyage des critères technologiques ne suffit pas à éliminer les discriminations. Ces systèmes continuent de cibler prioritairement les populations précaires et marginalisées.
  • Un besoin urgent de transparence, d’évaluation et d’alternatives humaines : Face à l’opacité des outils, aux risques de fuite de données et à l’effacement des guichets physiques, il devient indispensable de garantir un droit au non-numérique, d’imposer la publication des algorithmes et de réaffirmer la responsabilité humaine.

Panorama des usages : de l’automatisation historique à l’IA générative

L’automatisation du secteur public ne date pas d’hier. Dès les années 1970, l’administration fiscale numérisait le calcul des impôts. Personne ne souhaiterait aujourd’hui revenir à une époque où des agents calculaient manuellement chaque taxe ou prestation sociale.

Cependant, une rupture technologique s’est produite au cours de la dernière décennie. Les systèmes décisionnels ont cédé la place à des modèles prédictifs et, plus récemment, à l’intelligence artificielle générative. L’État déploie désormais des assistants conversationnels, des outils de transcription automatique d’audition pour la police, ainsi que des modules de synthèse et de traduction de documents.

Ces technologies sont promues avec le postulat qu’un humain conservera systématiquement le contrôle final. Pourtant, la confiance aveugle accordée à la machine tend à faire baisser la vigilance des agents. Une erreur isolée dans un compte rendu médical ou un procès-verbal peut pourtant avoir des répercussions dévastatrices sur la vie d’un usager.

Une opacité persistante et l’illusion de la neutralité

Malgré la prolifération de ces dispositifs, la transparence fait cruellement défaut. Il n’existe à ce jour aucune cartographie exhaustive recensant l’ensemble des systèmes algorithmiques utilisés par les ministères et les collectivités territoriales.

Cette absence de visibilité favorise la diffusion d’un mythe tenace : celui de la neutralité de la technique. L’outil informatique est perçu comme intrinsèquement objectif et impartial. En réalité, un algorithme traduit toujours des choix éminemment politiques et humains : choix des données d’entraînement, sélection des paramètres de calcul et fixation des seuils de tolérance.

Par ailleurs, très peu d’administrations prennent la peine de publier des évaluations rigoureuses sur l’impact réel de ces outils. Les annonces triomphales concernant les gains de productivité dissimulent souvent une réalité bien différente, où les économies escomptées ne se concrétisent pas.

L’affaire des algorithmes de la CAF et la fabrique des discriminations

L’exemple de la Caisse nationale des allocations familiales illustre de manière saisissante les dérives du contrôle automatisé. Depuis 2011, la CAF attribue à chaque allocataire un score de risque destiné à cibler les contrôles sur les erreurs et les fraudes potentielles.

Des enquêtes journalistiques et associatives ont révélé que cet algorithme surcontrôlait massivement les ménages les plus précaires, notamment les familles monoparentales, les personnes en situation de handicap et les allocataires à revenus instables. Les critères retenus intégraient même la nationalité ou le fait d’avoir exercé un recours contentieux contre l’administration.

Face au scandale, la CAF a récemment modifié son modèle en supprimant certains paramètres discriminatoires. Toutefois, les simulations démontrent que la nouvelle version cible toujours exactement les mêmes profils vulnérables. Ce résultat prouve que le problème ne réside pas uniquement dans le code source, mais dans la philosophie même de la politique de contrôle : en cherchant à identifier les montants perçus à tort, l’institution s’attaque inévitablement aux dossiers les plus complexes.

Pôle Emploi et le flicage algorithmique des chômeurs

Une logique similaire s’est installée chez France Travail. Des algorithmes de notation y évaluent la suspicion des allocataires ou calculent leur taux d’employabilité.

Certains systèmes prétendent même mesurer la perte de confiance des personnes en recherche d’emploi. L’utilisation de données comportementales, comme la fréquence de connexion à un espace personnel, transforme l’outil d’accompagnement en un instrument de punition.

Au lieu de mobiliser ces technologies pour faciliter le retour à l’emploi ou simplifier l’accès aux droits, l’administration inverse les priorités. Elle consacre ses efforts informatiques à la traque des usagers modestes, tout en négligeant le développement d’outils équivalents pour lutter contre la fraude fiscale des grandes entreprises.

Souveraineté des données et ingérence du secteur privé

Le déploiement massif de l’IA dans les services publics pose également de graves questions de sécurité et de souveraineté. L’administration s’appuie fréquemment sur des prestataires privés ou des cabinets de conseil pour concevoir ses logiciels.

Cette sous-traitance crée des zones de vulnérabilité majeures. Des affaires récentes ont montré que des données personnelles hautement sensibles d’allocataires se sont retrouvées exposées en ligne à la suite d’erreurs commises par des sous-traitants.

De surcroît, le stockage de ces informations est très souvent confié à des géants technologiques américains. En hébergeant les bases de données de l’État sur des infrastructures soumises à des lois extraterritoriales, les services publics exposent les citoyens à des risques d’accès indus et d’ingérence étrangère.

Vers un droit à la dénumérisation et la réaffirmation du guichet humain

Face à l’aboutissement de cette aliénation administrative, la dénumérisation apparaît pour de nombreux chercheurs et juristes comme une urgence démocratique. Le constat dressé par le Défenseur des droits est sans appel : la dématérialisation exclusive restreint l’accès aux droits et fracture le lien social.

Des initiatives inspirantes émergent pour contrer cette fatalité technologique. Certaines communes ont instauré un droit au non-numérique, garantissant le maintien d’accueils physiques et téléphoniques. À l’étranger, des cours constitutionnelles ont même érigé l’obligation d’un triple accès — guichet, téléphone, courrier — en garantie fondamentale.

Il est impératif de remettre la technique à sa juste place. L’intelligence artificielle ne doit pas servir de paravent pour déresponsabiliser l’administration ou masquer des coupes budgétaires. La qualité d’un service public repose avant tout sur l’écoute, le discernement humain et la préservation de la dignité de chaque usager.