L’IA n’a pas besoin de nous haïr. Notre incohérence suffit.

L’humanité a surtout besoin de retrouver le contact avec sa propre réalité

L’intelligence artificielle concentre une part considérable de nos inquiétudes. Elle peut bouleverser le travail, renforcer la surveillance, faciliter certaines cyberattaques, automatiser des décisions sensibles ou accélérer des opérations que nous maîtrisons difficilement. Certains risques tiennent directement à ses propriétés techniques. D’autres apparaissent lorsqu’elle s’insère dans des organisations déjà traversées par des contradictions anciennes.

Nous dégradons des écosystèmes dont nous dépendons, prélevons certaines ressources au-delà de leur rythme de renouvellement et connaissons depuis des décennies les effets de nombreuses activités polluantes. Nos capacités productives ont atteint une ampleur considérable tandis que des besoins fondamentaux restent insatisfaits. Nous avons aussi construit des plateformes capables de relier des milliards de personnes, puis fondé une part de leur économie sur la captation de l’attention et l’analyse des comportements.

Parler ici de « l’humanité » demande une précision. Aucun acteur unique ne pilote cet ensemble. Individus, entreprises, États, investisseurs et institutions disposent de pouvoirs très différents, poursuivent des objectifs distincts et subissent leurs propres contraintes. Une trajectoire collective peut devenir dangereuse sans avoir été voulue dans son ensemble. L’incohérence apparaît dans l’écart entre la rationalité locale d’une décision et ses effets accumulés. Une organisation atteint l’objectif qu’elle s’est fixé alors que les conséquences fragilisent parfois d’autres conditions dont elle dépend. L’intelligence artificielle s’insère dans cette configuration avec une capacité nouvelle à accélérer, reproduire et généraliser les décisions.

Des décisions rationnelles peuvent produire un ensemble absurde

Une entreprise exploite davantage une ressource pour préserver sa rentabilité. Un gouvernement reporte une réforme dont le coût politique paraît trop élevé. Un consommateur choisit ce qu’il peut réellement payer. Une plateforme privilégie les contenus susceptibles de retenir l’utilisateur quelques minutes supplémentaires. Chacun de ces choix répond à une contrainte identifiable. Leur accumulation peut conduire à une trajectoire qu’aucun acteur n’aurait retenue s’il avait dû assumer seul l’ensemble des conséquences.

La responsabilité circule entre plusieurs niveaux. L’entreprise invoque la demande, le consommateur ses moyens, le gouvernement les contraintes économiques, les investisseurs leurs exigences de rendement. Leurs capacités d’action restent très inégales, ce qui interdit de répartir mécaniquement la responsabilité. Cette dispersion complique surtout la correction de la trajectoire, car chaque acteur peut continuer à défendre la cohérence de son propre choix.

L’IA accroît la vitesse et l’échelle de ce phénomène. Un dispositif d’optimisation peut poursuivre avec une grande efficacité un objectif trop étroit. Maximiser l’engagement, réduire un coût, prévoir un risque ou améliorer un rendement deviennent des cibles calculables. Les effets absents de la mesure reçoivent mécaniquement moins de poids dans l’arbitrage, même lorsqu’ils comptent davantage pour les personnes concernées ou pour la collectivité.

Les réseaux sociaux fournissent un exemple récent. Le 10 juillet 2026, la Commission européenne a estimé à titre préliminaire que Meta avait enfreint le Digital Services Act en raison de la conception addictive de Facebook et Instagram. Son enquête vise notamment le défilement infini, la lecture automatique, les notifications et les systèmes de recommandation fortement personnalisés. La Commission estime aussi que Meta a insuffisamment évalué les risques de ces choix de conception pour le bien-être physique et mental des utilisateurs, en particulier les mineurs et les adultes vulnérables.

Ce cas montre comment une mission étroite peut produire des effets que son indicateur principal ignore. Un algorithme chargé de maximiser l’engagement peut remplir efficacement sa fonction tout en favorisant des usages compulsifs ou des comportements dont le coût se manifeste ailleurs. La performance locale demeure alors compatible avec une dégradation collective.

Quand le modèle commence à décider de nos possibilités

Les grandes organisations ont besoin de catégories, d’indicateurs et de modèles pour traiter des volumes considérables de situations. Le salarié devient une performance mesurée, le client un profil, le patient un dossier, l’emprunteur une probabilité de défaut. Ces représentations facilitent le traitement de situations nombreuses tant que leurs limites restent visibles et que leur pouvoir demeure encadré.

Le crédit montre ce qui change lorsque le calcul agit directement sur les possibilités d’une personne. Le règlement européen sur l’intelligence artificielle classe parmi les usages à haut risque les outils destinés à évaluer la solvabilité d’une personne physique ou à établir son score de crédit, à l’exception de ceux utilisés pour détecter la fraude financière. Le texte rattache ce classement à l’influence de ces évaluations sur l’accès aux ressources financières et à certains services essentiels, ainsi qu’au risque de discrimination.

Une erreur statistique peut alors peser sur l’accès au crédit, au logement ou à d’autres services essentiels. L’évaluation d’un modèle doit inclure sa précision, les critères qu’il mobilise, les possibilités de contestation et les moyens de corriger une décision erronée. L’automatisation change surtout la portée du défaut. Une erreur humaine reste souvent localisée à quelques dossiers. Une faiblesse inscrite dans un modèle déployé à grande échelle peut se répéter des milliers de fois avant d’être détectée.

Cette différence d’échelle transforme aussi la question du recours. Lorsqu’une décision automatisée devient déterminante, les personnes concernées doivent pouvoir savoir qu’elle existe, comprendre les éléments qui l’ont orientée et disposer d’une procédure capable de réexaminer le résultat. La qualité statistique moyenne renseigne sur la performance globale d’un outil sans garantir l’équité de chaque décision particulière.

Une loi sans moyens finit par devenir une décoration institutionnelle

Nos sociétés produisent des règles pour encadrer les pouvoirs qu’elles créent. Leur efficacité dépend ensuite des capacités d’enquête, des compétences techniques, de l’accès aux informations, des voies de recours et de sanctions applicables. Un texte ambitieux reste fragile lorsque les organismes chargés de le faire respecter disposent de moyens insuffisants ou d’une visibilité limitée sur les outils qu’ils doivent contrôler.

L’IA complique cette tâche parce que la responsabilité peut traverser une longue chaîne technique et contractuelle. Un modèle est conçu par une entreprise, entraîné sur des données provenant de multiples sources, intégré par un prestataire, adapté par un autre acteur, puis utilisé par une institution. Lorsqu’une erreur survient, chacun peut n’en maîtriser qu’une partie. Une réglementation crédible doit suivre cette chaîne et attribuer des obligations à chaque niveau selon le pouvoir réellement exercé. Le concepteur répond de certains choix, l’intégrateur d’autres, tandis que l’organisation qui déploie l’outil conserve une responsabilité sur les conditions de son usage.

Cette fragmentation rend la documentation, la traçabilité et les procédures de contrôle indispensables. Sans elles, l’opacité technique ou contractuelle crée facilement des zones où chaque intervenant possède une fraction de l’information et où personne ne dispose d’une vue suffisante sur l’ensemble. La sophistication d’un outil ne devrait jamais devenir un moyen pratique de dissoudre l’imputabilité.

L’IA change elle-même l’échelle du risque

Ce cadre de responsabilité doit intégrer une difficulté supplémentaire : certaines propriétés techniques de l’IA modifient elles-mêmes la nature et l’ampleur du danger. La vitesse en offre un premier exemple. Un dispositif automatisé peut prendre ou influencer un volume de décisions inaccessible à une équipe humaine, tandis qu’un défaut reproductible peut affecter simultanément des milliers ou des millions de situations.

Certains modèles présentent aussi des comportements difficiles à anticiper complètement avant leur déploiement. Leur connexion à d’autres logiciels peut créer des chaînes d’action où la sortie d’un outil devient immédiatement l’entrée du suivant. Dans une architecture de ce type, la supervision humaine peut intervenir après la propagation d’une erreur. L’augmentation du nombre d’agents, d’interfaces et d’actions automatisées élargit en même temps la surface à surveiller.

La cybersécurité illustre cette difficulté. L’IA peut soutenir certaines attaques, renforcer des capacités défensives et introduire de nouvelles surfaces d’attaque. Le 16 décembre 2025, le NIST a publié le projet préliminaire de son Cyber AI Profile, NIST IR 8596. Le document organise son approche autour de trois axes : sécuriser les composants d’IA, employer l’IA pour la cyberdéfense et contrer les attaques assistées par l’IA. Le règlement européen impose, de son côté, aux fournisseurs de modèles d’IA à usage général présentant un risque systémique d’évaluer et d’atténuer ces risques, de signaler les incidents graves et d’assurer un niveau adéquat de cybersécurité.

La concentration de puissance mérite la même attention. Les besoins en infrastructures, en puissance de calcul, en données, en compétences spécialisées et en capitaux favorisent les acteurs capables de supporter ces coûts. Les barrières à l’entrée qui en résultent peuvent réduire le nombre d’entreprises en mesure de développer les modèles les plus avancés, renforcer certaines dépendances et déplacer le pouvoir vers ceux qui contrôlent les ressources techniques indispensables. Cette évolution procède en partie des caractéristiques industrielles de l’IA elle-même. Elle prolonge certains rapports de force existants et peut en créer de nouveaux.

Lorsque la décision engage une vie humaine

Le domaine militaire rend cette tension particulièrement nette. L’IA intervient déjà dans le renseignement, l’analyse de données, l’aide à la décision et le développement de systèmes d’armes dont le degré d’autonomie progresse. À mesure que la chaîne de décision se raccourcit, le temps disponible pour vérifier une information, interpréter un contexte ou suspendre une action se réduit.

Le 25 août 2026, António Guterres et la présidente du Comité international de la Croix-Rouge, Mirjana Spoljaric, ont renouvelé leur appel à l’adoption urgente de règles internationales sur les systèmes d’armes autonomes. Leur déclaration avertit que la diminution du contrôle humain sur l’usage de la force rapproche les États d’une « ligne rouge morale », celle du ciblage autonome d’êtres humains par des machines.

Le domaine militaire rend visible une contrainte qui existe ailleurs sous des formes moins extrêmes. La rapidité d’exécution, souvent recherchée comme un avantage technique, modifie la place laissée au jugement humain. Une erreur financière peut parfois être contestée, réexaminée et compensée. Une décision létale exécutée ferme toute possibilité de recours capable d’en annuler les conséquences. La vitesse devient alors une variable politique et juridique autant qu’une propriété de performance.

Retrouver le contact avec le réel

Retrouver le contact avec le réel signifie relier plus étroitement les décisions à leurs conséquences observables. Un outil performant mérite une évaluation qui dépasse l’indicateur qu’il optimise. Une réglementation se juge aussi à travers sa capacité d’enquête, de contrôle et de sanction. Une décision automatisée qui transforme une existence exige des garanties proportionnées à ses effets.

La traçabilité constitue une première exigence, puisqu’elle doit rendre possible la reconstruction d’une décision importante et des principales étapes qui l’ont produite. La responsabilité doit ensuite suivre la chaîne technique en distinguant clairement les obligations des concepteurs, des intégrateurs et des organisations utilisatrices. Lorsque les conséquences peuvent devenir graves, l’intervention humaine doit disposer du temps, des informations et de l’autorité nécessaires pour interrompre ou corriger l’action. Enfin, les outils les plus sensibles ont besoin d’évaluations avant leur déploiement et pendant leur utilisation, car certains défauts n’apparaissent qu’au contact de situations réelles.

Aucune de ces mesures n’offre une maîtrise absolue. Elles réduisent le risque que la vitesse, la complexité et l’opacité servent de refuges à une responsabilité devenue introuvable. Toutes rattachent la puissance technique à des choix identifiables, à des conséquences observables et à des acteurs capables d’en répondre. La claque dont nous avons besoin pourrait prendre une forme très ordinaire : découvrir qu’aucune intelligence artificielle, aussi performante soit-elle, ne corrigera à notre place des objectifs mal définis, des responsabilités diluées ou des décisions coupées de leurs conséquences.