L’humain sous algorithme : anatomie d’une technopolitisation
Depuis les premières philosophies de l’Antiquité, l’être humain a souvent été pensé comme une fin en soi. Kant formulera plus tard cette exigence en affirmant que l’être humain doit toujours être considéré comme une fin, jamais simplement comme un moyen. À l’heure des intelligences artificielles, des implants neuronaux, du traçage numérique, du profilage comportemental et de la quantification croissante du vivant, cette conception se trouve confrontée à une transformation majeure. L’être humain devient progressivement un objet d’optimisation, de prédiction, de classement et de gestion. Ce phénomène peut être désigné par un terme : la technopolitisation de la nature humaine.
La technopolitisation décrit le processus par lequel les technologies numériques, biologiques et cognitives influencent les conditions dans lesquelles les attributs humains sont définis, mesurés, encadrés ou transformés. Elle concerne autant la biologie, la génétique et les neurosciences que les comportements, les affects, les libertés et les formes contemporaines de pouvoir. L’individu reste juridiquement une personne, mais il existe désormais simultanément sous la forme d’un ensemble de données, d’indicateurs, de probabilités et de profils exploitables. Cette représentation numérique peut influencer les décisions qui le concernent sans jamais rendre compte de toute sa complexité. Trois transformations permettent d’en mesurer la portée.
1. Biopolitique numérique : gouverner les corps connectés
Inspirée par les travaux de Michel Foucault, la notion de biopolitique décrit la manière dont les sociétés modernes administrent les populations à travers la santé, la natalité, l’hygiène, la sécurité, l’espérance de vie ou la normalisation des comportements. Le numérique étend considérablement cette capacité d’observation. Applications de santé, objets connectés, dossiers médicaux numériques, données génétiques et systèmes prédictifs produisent une quantité croissante d’informations sur les individus. Le corps devient mesurable à travers le sommeil, le rythme cardiaque, l’activité physique, les habitudes alimentaires, les paramètres biologiques ou les comportements quotidiens. Ces données peuvent améliorer le suivi médical tout en permettant l’enregistrement, la comparaison, le classement et la prédiction.
La pandémie de Covid-19 a montré à quelle vitesse des technologies de suivi sanitaire, de certification numérique ou de traitement massif de données pouvaient être déployées lorsque les circonstances l’exigeaient. Elle a également rappelé que les infrastructures construites pour répondre à une situation précise posent ensuite des questions durables sur la gouvernance des données, leur conservation et leurs usages futurs. La biopolitique classique travaillait principalement à partir de statistiques appliquées aux populations, de moyennes, de normes et de seuils. Les outils contemporains permettent désormais de produire des estimations individualisées. À la norme collective s’ajoute une représentation probabiliste de chaque individu, capable d’influencer une décision à partir de ce qu’une personne a fait, mais aussi de ce qu’un modèle estime qu’elle pourrait faire, devenir ou risquer.
2. Reprogrammation de l’humain : le virage transhumaniste
Une autre transformation concerne la possibilité technique d’agir directement sur certaines capacités humaines. Le transhumanisme défend l’idée que la technologie peut contribuer à augmenter, corriger ou dépasser certaines limitations biologiques. Implants neuronaux, thérapies géniques, interfaces cerveau-machine, optimisation cognitive, modulation de certaines fonctions neurologiques ou prolongation de la durée de vie participent à cette perspective. La frontière entre soigner, réparer et augmenter devient progressivement moins évidente. Mémoire, attention, perception, capacités physiques ou fonctionnement cérébral peuvent entrer dans le champ de l’intervention technique, modifiant la manière dont nous concevons ce qui relève de la condition humaine et ce qui devient techniquement transformable.
Cette capacité entraîne directement une question de pouvoir. Les normes orientant ces transformations peuvent provenir de choix individuels, de critères médicaux, de logiques économiques, de décisions politiques ou de standards intégrés aux technologies elles-mêmes. Corriger une déficience, traiter une maladie, améliorer une capacité ou conformer un individu à une norme sociale relèvent pourtant de finalités très différentes, même lorsque les outils employés sont proches. L’humain risque alors d’être envisagé comme une plateforme perfectible, évaluée selon ses performances, ses capacités d’adaptation ou sa compatibilité avec les exigences de son environnement.
3. Gouvernement par la donnée : l’humain comme flux exploitable
Chaque individu produit continuellement une trace numérique à travers ses achats, ses déplacements, ses recherches, ses interactions sociales, ses habitudes, ses centres d’intérêt ou les contenus qu’il consulte. Ces informations peuvent être croisées, analysées et transformées en profils prédictifs. Le pouvoir contemporain continue de s’exercer à travers les lois, les institutions et les décisions politiques, mais il dispose désormais d’instruments supplémentaires : corrélations statistiques, scores de risque, recommandations automatisées, classements, filtrage des contenus et architectures de choix. Certains systèmes cherchent à estimer un risque de récidive, d’autres à orienter l’activité policière, à calculer la solvabilité, à sélectionner des candidatures, à personnaliser une publicité ou à déterminer les contenus susceptibles de retenir l’attention d’un utilisateur.
Un individu peut recevoir une qualification statistique avant même qu’un comportement futur ne se produise. Fragilité financière, risque médical, probabilité de désengagement, comportement atypique ou potentiel de consommation deviennent des variables exploitables. Ces prédictions peuvent modifier les opportunités offertes à une personne, les informations auxquelles elle est exposée ou la manière dont une institution l’évalue. La contrainte prend alors des formes moins visibles que l’interdiction directe. Une interface oriente un choix, un classement favorise certains comportements, une recommandation réduit progressivement l’espace des possibles, tandis qu’une personnalisation peut enfermer l’utilisateur dans un environnement construit à partir de ses propres habitudes. Le contrôle contemporain peut progresser par le confort, la fluidité, la recommandation et l’optimisation autant que par la surveillance explicite.
Une critique nécessaire, sans rejet de la technologie
Cette évolution prolonge plusieurs critiques formulées bien avant l’apparition de l’intelligence artificielle contemporaine. Jacques Ellul analysait déjà l’expansion du système technicien et sa tendance à imposer des critères d’efficacité à des domaines toujours plus nombreux de la société. Simone Weil avait décrit les formes de dépersonnalisation produites par certaines organisations industrielles et administratives, lorsque l’individu se retrouve absorbé par des structures qui le dépassent. Byung-Chul Han analyse une société dominée par la transparence, la performance et l’exposition permanente. Cette disparition progressive de l’intériorité résulte aussi d’un excès de visibilité, de données, de signaux, de réactions, de scores et de microcomportements interprétés en continu. Tout devient potentiellement lisible, mesurable et exploitable, au risque d’appauvrir ce qui appartient également à l’expérience humaine : l’ambiguïté, le silence, le retrait, la maturation intérieure et tout ce qui échappe encore à la mesure.
Francis Fukuyama, dans Our Posthuman Future, s’inquiétait pour sa part des conséquences politiques que pourraient avoir certaines transformations biotechnologiques de l’être humain, notamment sur les principes d’égalité qui fondent les démocraties modernes. La technopolitisation avance rarement sous la forme d’une contrainte clairement identifiable. Elle se développe à travers des promesses d’efficacité, de sécurité, de personnalisation, de santé, de confort ou d’amélioration individuelle. Chacune peut répondre à un besoin réel. Leur accumulation modifie néanmoins progressivement la place accordée à la décision humaine et à ce qui échappe au calcul.
Une société peut utiliser l’intelligence artificielle, la médecine avancée, les neurosciences ou les outils numériques tout en protégeant l’autonomie individuelle. Cette protection suppose de maintenir une distinction claire entre ce qui peut être techniquement mesuré et ce qui peut légitimement être décidé à partir de cette mesure. Un score ne résume pas une personne, une probabilité ne constitue pas un destin et une corrélation algorithmique ne suffit pas à définir un individu. À mesure que la technologie acquiert la capacité d’observer, de prédire et de modifier certaines dimensions de l’être humain, la décision collective porte aussi sur les limites que nous voulons lui donner. Une technique conçue pour accompagner l’humain peut progressivement participer à la définition des normes auxquelles celui-ci devra se conformer. La progression technologique engage alors bien davantage que l’efficacité de nos outils. Elle transforme les conditions dans lesquelles une société définit l’autonomie, la liberté, l’identité et la place qu’elle accorde à l’être humain.