L’essai de Jacques Luzi sur Ce que l’intelligence artificielle ne peut pas faire va à rebours du discours dominant sur les promesses infinies du numérique. En partant d’une adresse ironique à Elon Musk mise en scène comme un message venu de Mars, l’auteur démonte, point par point, l’idée qu’un système algorithmique puisse un jour remplacer la réflexion humaine. Son fil directeur est simple et tranché : l’ordinateur n’est jamais qu’une machine de calcul, aussi sophistiquée soit-elle, et confondre cette puissance de calcul avec la pensée revient à s’illusionner sur la nature même de l’intelligence artificielle.
Le livre remonte aux origines de l’informatique, aux besoins militaires de pilotage et de contrôle à distance, pour montrer que les architectures actuelles restent prisonnières de cette logique instrumentale.
Face à la mise en scène d’algorithmes omniscients, le texte insiste sur les limites intrinsèques des machines : absence de conscience, incapacité à éprouver des émotions, impossibilité d’exercer un jugement moral qui ne soit pas l’application d’une règle écrite par d’autres. En creux, Luzi défend une certaine idée de l’humain : capable de se tromper, de douter, mais aussi de créer du sens là où aucune donnée ne préexistait.
L’ouvrage ne se contente pas d’un résumé technique des capacités des réseaux de neurones ; il propose une véritable analyse politique des usages actuels des systèmes d’IA, utilisés pour automatiser la surveillance, optimiser la logistique ou filtrer les comportements jugés déviants. En toile de fond, une question persiste : jusqu’où laisser confier à ces architectures logicielles des décisions qui engagent des vies humaines, des territoires, voire le futur du travail.
- Position centrale : pour Jacques Luzi, aucune machine ne peut devenir l’équivalent de la pensée humaine, même avec une puissance de calcul quasi illimitée.
- Angle historique : l’IA est replacée dans la longue histoire des systèmes de contrôle à distance, depuis les dispositifs militaires jusqu’aux plateformes actuelles.
- Limites clés : absence de conscience, de vécu, d’émotions incarnées et de véritable jugement moral autonome.
- Enjeu politique : les promesses d’IA « neutre » masquent des rapports de pouvoir, des stratégies économiques et des risques de délégation abusive de décisions.
- Perspective pratique : les professionnels du numérique et de l’IoT doivent exploiter l’IA comme outil puissant, sans lui attribuer des qualités humaines qu’elle ne possède pas.
Résumé détaillé de « Ce que l’intelligence artificielle ne peut pas faire » de Jacques Luzi
Le livre s’ouvre sur une scène déroutante : un Martien, porte-voix fictif de Jacques Luzi, demande à Elon Musk de ne pas reproduire sur Mars le désordre installé sur Terre. Cette entrée en matière, mi-satirique mi-philosophique, donne le ton. Elle rappelle que la croyance dans des technologies salvatrices, à commencer par l’intelligence artificielle, sert souvent à éviter de regarder en face les problèmes politiques, sociaux et écologiques déjà visibles.
Dès les premières pages, l’auteur prend position contre l’idée d’une IA investie de « superpouvoirs » futurs, capable de prévenir les catastrophes ou de garantir la sécurité globale.
Le résumé du propos peut se lire comme une progression en trois mouvements. D’abord, une mise au point sur ce que sont réellement les systèmes d’IA actuels : des assemblages de modèles statistiques, d’algorithmes d’optimisation et de circuits électroniques capables de traiter d’énormes volumes de données. Ensuite, une critique argumentée de la confusion entretenue entre performance de calcul et pensée. Enfin, une réflexion plus politique sur les usages concrets de ces technologies, bien loin des récits de science-fiction que l’on retrouve dans les médias ou dans certains discours d’entreprises.
Sur le plan technique, Luzi rappelle que les architectures de type réseaux de neurones profonds, apprentissage supervisé ou renforcement ne « comprennent » rien au sens humain du terme. Elles apprennent des corrélations à partir de données, puis reproduisent des schémas détectés. Rien de magique là-dedans, plutôt une version sophistiquée de ce que faisaient déjà certains algorithmes de classification ou de filtrage dans les années 1990, mais à une autre échelle de puissance. Le coeur de l’argument tient dans cette distinction : une machine ne fait qu’exécuter des opérations logiques, même lorsqu’elle semble manifester de la créativité en générant des images, de la musique ou du texte.
Le deuxième axe du livre aborde précisément cette illusion de créativité. Quand un modèle produit un poème, un plan de déploiement IoT ou un design de produit, il assemble des fragments trouvés dans ses données d’entraînement, en respectant des contraintes statistiques. Ce qui manque, selon Luzi, c’est la capacité à situer cette production dans une histoire, une culture, une biographie individuelle. Autrement dit, l’IA n’a ni mémoire vécue ni projet de vie, alors que toute réflexion humaine s’inscrit dans un parcours, des choix, des renoncements. Affirmer que l’IA « crée » au même titre qu’un artiste, un ingénieur ou un artisan revient donc à gommer cette différence de nature.
Dernier volet de ce résumé détaillé, la mise en perspective politique et sociale. Luzi insiste sur le fait que les systèmes de surveillance automatisés, les dispositifs de notation des comportements, les algorithmes de tri de CV ou d’octroi de crédit, reposent sur les mêmes briques techniques que les assistants de bureau ou les outils de recommandation. La même technologie qui suggère une vidéo peut être utilisée pour optimiser un bombardement ou filtrer une manifestation. Le problème ne vient pas de la « méchanceté » de l’algorithme, mais des objectifs choisis par ceux qui l’exploitent. C’est là que son ouvrage pose une question inconfortable : qui décide, et au nom de quoi, des finalités assignées à ces systèmes.
Pour un lecteur qui travaille déjà avec des modèles d’IA dans des projets concrets, ce livre rappelle une chose essentielle : un modèle reste une brique dans une architecture plus large, et non un sujet moral autonome. C’est particulièrement visible dans l’internet des objets industriel, où des capteurs, des passerelles et des plateformes cloud s’appuient de plus en plus sur des algorithmes pour anticiper des pannes ou optimiser des flux. Ce que Luzi conteste, ce n’est pas cet usage d’optimisation, mais le glissement qui consiste à prêter à ces modules un statut d’« acteur » à part entière. Sa ligne rouge est nette : un outil, même très puissant, ne devient jamais un décideur responsable au sens humain.
Cette grille de lecture peut sembler théorique. Pourtant, elle a des effets très concrets. Par exemple, une solution de maintenance prédictive qui suggère de remplacer un équipement avant panne se fonde sur des probabilités de défaillance, pas sur une compréhension intime des contraintes d’un atelier. Luzi pousserait sans doute à confronter systématiquement ce type d’outil avec le vécu des techniciens qui connaissent les machines à l’oreille et au toucher. Son message implicite aux professionnels du numérique est clair : la meilleure architecture est celle qui fait dialoguer modèles statistiques et savoirs incarnés, pas celle qui prétend effacer ces derniers.
Créativité, émotions, conscience : ce que l’IA simule et ce qu’elle ne peut pas faire
Un des volets les plus stimulants du livre de Jacques Luzi concerne la créativité. L’actualité déborde d’outils de génération de contenus, capables de produire des illustrations, des vidéos, des scénarios ou des musiques en quelques secondes. Des plateformes comme les éditeurs vidéo pilotés par IA ou les générateurs d’images pour designers bousculent déjà des métiers. Pourtant, réduire la créativité à la capacité de produire de nouvelles combinaisons est une vision très pauvre du processus créatif. Pour Luzi, l’acte de créer implique une intention, un risque assumé, une confrontation au réel et aux autres. Aucun modèle n’éprouve cette tension.
Les expériences menées avec des moteurs d’images ou de texte riche le montrent bien. On peut obtenir des résultats impressionnants en termes de style, de cohérence apparente, de variété. Un générateur d’images comme ceux qui produisent des visuels très travaillés, proches d’un univers graphique à la Ghibli, ressemble parfois à un studio graphique compact. Pourtant, derrière l’effet « waouh », la question reste entière : qui porte la responsabilité esthétique, politique ou morale de ces images. Luzi tranche : la machine ne signe rien. C’est toujours l’humain qui choisit l’usage final, qui accepte ou non un compromis, qui assume ou non un détournement.
Le même raisonnement vaut pour les émotions. Plusieurs assistants conversationnels sont désormais capables de détecter un ton anxieux ou joyeux, d’ajuster leurs réponses, de proposer un soutien psychologique de premier niveau. Ils sont entraînés sur des millions de dialogues, apprennent les marqueurs lexicaux de la détresse, les signaux de colère ou de lassitude. Pourtant, ils ne traversent aucun de ces états. Luzi insiste sur ce décalage : la capacité à reconnaître statistiquement une émotion ne crée pas l’empathie. L’empathie suppose une mise en danger minimale de soi, la possibilité de se laisser affecter par ce que vit l’autre. Une IA, par définition, reste insensible.
Sur la conscience, le texte prend position contre les spéculations qui annoncent l’émergence d’une « conscience artificielle » à la faveur d’un certain niveau de complexité. Pour Luzi, cette hypothèse relève plus du mythe que de la perspective scientifique. Tant que l’on reste dans des systèmes programmés, même auto-modifiants, il n’y a pas de raison de croire qu’un jour ces circuits se mettront à « savoir » qu’ils existent. Le débat ne l’intéresse pas tant sur le plan métaphysique que sur ses conséquences pratiques : si l’on imagine des machines conscientes, on risque de sous-estimer notre responsabilité dans leurs décisions.
En creux, cette critique de la créativité et des émotions artificielles pose aussi la question de la délégation de tâches symboliques à des algorithmes. Faut-il confier l’écriture de discours politiques, la sélection d’oeuvres dans un festival, ou la modération de débats publics à des modèles d’IA. Luzi serait vraisemblablement très réservé. Non pas parce que les résultats seraient forcément mauvais, mais parce qu’ils seraient déconnectés de l’expérience vécue des citoyens concernés. Lorsqu’un texte est écrit par quelqu’un qui doit ensuite regarder ses interlocuteurs en face, il y a un enjeu d’authenticité et de responsabilité qui disparaît dès que l’on passe par un système automatique.
Ce débat prend une tournure concrète dans les environnements industriels ou commerciaux où l’IA occupe déjà une place structurante. Des moteurs spécialisés, présentés comme de véritables copilotes pour développeurs, assistent désormais les équipes techniques dans la production de code, la recherche d’API ou la correction de bugs. Ils font gagner du temps, réduisent la pénibilité de certaines tâches répétitives. Mais là encore, le dernier mot doit rester à l’humain. La vraie compétence ne se réduit pas à assembler des segments de code pertinents statistiquement, elle consiste à comprendre les compromis techniques, les contraintes de sécurité, les scénarios de défaillance. Sur ce point, Jacques Luzi propose une boussole : considérer l’IA comme un amplificateur d’habileté, jamais comme un substitut à la réflexion humaine.
Jugement moral, responsabilité et usages politiques de l’IA chez Luzi
Au-delà des questions de technique ou de créativité, le coeur le plus sensible du livre touche au jugement moral et à la responsabilité. Luzi soutient que l’intelligence artificielle n’a aucune compétence morale propre et n’en aura jamais, tant qu’elle se limite à appliquer des règles ou à optimiser des fonctions objectives définies extérieurement. Un algorithme peut maximiser la sécurité d’un réseau, réduire le temps de trajet moyen dans une ville, limiter les pertes d’énergie sur un site industriel. Mais il ne peut pas arbitrer, par lui-même, entre sécurité, confort, équité, impact environnemental et liberté individuelle.
Le livre revient sur des dispositifs déjà déployés : systèmes de notation sociale, algorithmes prédictifs dans la justice pénale, filtrage automatisé des risques sanitaires ou environnementaux. Dans tous ces cas, la tentation est forte de faire glisser vers la machine des décisions difficiles, en se rassurant sur le caractère « objectivé » de leurs critères. Luzi démonte cette illusion. Les données utilisées, les variables retenues, les seuils de détection, tout cela résulte de choix préalables. Il n’existe pas de modèle neutre lorsqu’il s’agit d’affecter des ressources rares, de classer des individus ou de fixer des priorités d’intervention.
Pour éclairer ces tensions, on peut rapprocher l’analyse de Luzi du déploiement d’outils d’optimisation dans les chaînes logistiques. Quand une solution d’IA propose de regrouper des tournées, d’ajuster des niveaux de stock ou de repousser certaines opérations de maintenance, elle influe directement sur les conditions de travail des équipes, sur la qualité de service et sur les risques pris sur le terrain. Les responsables qui valident ces paramétrages exercent un vrai jugement moral, même s’ils le formulent en langage de KPI. La machine, elle, se contente de suivre une fonction d’optimisation. Prétendre qu’« elle a décidé » permet parfois de diluer la responsabilité humaine.
Dans l’analyse de Luzi, la politique de l’IA ne se réduit pas à la régulation juridico-technique. Il s’agit d’interroger les finalités assignées à ces systèmes. Sert-on à renforcer des dispositifs de surveillance déjà massifs ou à redonner de la marge de manoeuvre aux acteurs de terrain. Cherche-t-on à éliminer tout aléa dans les comportements collectifs ou à laisser une part d’imprévu, synonyme de liberté. Ces questions ne peuvent pas être tranchées par des algorithmes, même entraînés sur des volumes de données impressionnants. Elles demandent un débat public, des controverses, des choix assumés.
Pour les professionnels qui déploient des architectures mêlant IoT, cloud et IA, cette perspective invite à revoir certains réflexes. Au lieu de parler d’« automatisation intelligente » en général, mieux vaut expliciter à chaque étape quelles décisions sont déléguées et lesquelles restent sous contrôle humain. On peut très bien confier à une IA le tri initial de milliers d’alertes capteurs sur un site classé Seveso, tout en réservant à une équipe pluridisciplinaire le soin d’analyser les cas limites. Sur ce terrain, les travaux qui lient données IoT et sécurité industrielle montrent d’ailleurs que la qualité des décisions vient souvent du dialogue entre indicateurs chiffrés et retours d’expérience des opérateurs.
La notion de responsabilité est d’autant plus centrale que les discours sur les « risques existentiels » de l’IA occupent beaucoup d’espace médiatique. Luzi se montre critique face à ces scénarios catastrophistes, non parce que le sujet devrait être écarté, mais parce qu’il détourne l’attention d’enjeux actuels plus banals et plus pressants. Pour lui, la « vérité de l’intelligence artificielle » se joue déjà, ici et maintenant, dans la manière dont on l’utilise pour surveiller, classer, optimiser, fermer ou ouvrir des possibles. La bonne question n’est pas tant « que se passera-t-il si une IA superpuissante se retourne contre nous », mais plutôt « qui profite concrètement de ces outils aujourd’hui et à quel prix pour les autres ».
Applications pratiques, IoT et leçons à tirer pour les ingénieurs et décideurs
Vue depuis le terrain des projets numériques, l’approche de Jacques Luzi a le mérite de remettre les choses à leur place. Les équipes qui conçoivent des architectures complètes, avec capteurs, passerelles, plates-formes de données et modules d’IA, le constatent tous les jours. La partie algorithmique n’est qu’un maillon de la chaîne. La valeur se construit dans l’ensemble : qualité et pertinence des mesures, robustesse des communications, structuration des données, intégration avec les outils métiers, procédures opérationnelles. Dans ce contexte, les limites de l’IA décrites par Luzi peuvent servir de garde-fou utile.
Un moyen structuré de tirer parti de cette lecture consiste à distinguer clairement ce que l’on peut demander à une IA de ce qu’il vaut mieux garder du côté humain. On peut résumer cela dans un tableau comparatif, qui aide à cadrer un projet avant de se lancer dans la course aux modèles les plus volumineux.
| Domaine | Rôle pertinent pour l’IA | Rôle à garder pour l’humain |
|---|---|---|
| Analyse de données IoT | Détection de patterns, anomalies, prévisions chiffrées | Interprétation métier, priorisation des actions, arbitrage budget/risque |
| Support à la décision industrielle | Scénarios simulés, calcul de gains, estimation des impacts | Choix des objectifs, prise en compte du social et du réglementaire |
| Interaction avec des usagers | Réponses de premier niveau, guidage, personnalisation basique | Gestion des cas sensibles, conflits, accompagnement long terme |
| Création de contenus | Brouillons, variations, documentation technique standard | Intention, ton, positionnement, responsabilité éditoriale |
| Gestion des risques | Calculs de probabilité, scoring, alertes hiérarchisées | Décision finale, prise en compte de l’éthique et du politique |
Pour un responsable de production, un chef de produit ou un architecte IoT, ce type de cadrage a une conséquence directe sur les feuilles de route. Plutôt que courir après chaque nouveauté annoncée, l’enjeu est de construire des plateformes où l’intelligence artificielle reste clairement positionnée comme outil. Les initiatives qui misent sur un apprentissage maîtrisé, une gouvernance des données solide et une association étroite avec les experts métier tendent d’ailleurs à donner les résultats les plus durables. À l’inverse, les projets qui vendent une « autonomie » algorithmique complète se heurtent vite aux réalités du terrain.
Dans cette optique, la montée en puissance des formations spécialisées sur l’IA, y compris autour des grands fournisseurs cloud, peut être utile si elle s’accompagne d’un recul critique inspiré par des lectures comme celle de Luzi. Obtenir une certification technique ne dispense pas de se poser des questions de finalité, de jugement moral ou de dépendance aux plateformes. Au contraire, plus les équipes maîtrisent les briques techniques, plus elles sont en position d’exiger des garanties sur la transparence, la réversibilité et le partage de la valeur créée.
En parallèle, des solutions très concrètes continuent d’émerger dans des secteurs variés : maintenance prédictive, optimisation énergétique, aide au diagnostic, vision industrielle. Ces projets montrent que l’IA apporte des gains mesurables dès qu’elle est utilisée à bon escient, sur des tâches bien bornées, avec des indicateurs clairs. Là où les alertes de Luzi rejoignent l’expérience des praticiens, c’est sur le risque de survente. Quand le marketing promet une autonomie décisionnelle totale, les équipes techniques savent qu’il faudra, tôt ou tard, remettre des humains dans la boucle pour gérer les exceptions, les dérives ou simplement les cas imprévus.
En fin de compte, l’apport le plus utile du livre pour les ingénieurs et décideurs tient sans doute à ce rappel simple : la réflexion humaine ne se délègue pas. On peut automatiser des tâches, des analyses, des calculs, voire des propositions d’action. On ne peut pas automatiser la responsabilité qui consiste à décider quoi faire de ces propositions, à quel rythme, avec quelles garanties pour ceux qui devront vivre avec les conséquences. C’est sur ce terrain que l’on mesure le mieux ce que l’intelligence artificielle ne peut pas faire, et ce que les équipes doivent continuer à assumer, ensemble.
Quelles sont, selon Jacques Luzi, les limites majeures de l’intelligence artificielle ?
Jacques Luzi met en avant plusieurs limites majeures de l’IA : absence de conscience, incapacité à éprouver des émotions, impossibilité d’exercer un jugement moral autonome et différence de nature avec la réflexion humaine. Pour lui, même très avancés, les systèmes d’IA restent des dispositifs de calcul et de corrélation, sans vécu ni responsabilité propre.
Le livre de Luzi rejette-t-il tout usage de l’IA dans l’industrie et l’IoT ?
Non. L’ouvrage ne rejette pas l’usage de l’IA comme outil. Il critique plutôt les discours qui attribuent à ces systèmes des qualités humaines, ou qui prétendent leur déléguer des décisions engageant des vies, des libertés ou des choix politiques. Utilisée pour analyser des données, anticiper des pannes ou assister des opérateurs, l’IA garde tout son intérêt, à condition que les humains restent clairement responsables des décisions finales.
Comment le livre aborde-t-il la question de la créativité artificielle ?
Luzi estime que la créativité ne se réduit pas à produire des combinaisons inédites de données. Elle implique une intention, un risque, un rapport au temps et aux autres que les machines ne possèdent pas. Les générateurs de texte, d’images ou de musique simulent un style ou un effet, mais n’assument ni le contexte, ni les conséquences, ni la portée symbolique de ce qu’ils produisent.
Pourquoi le jugement moral ne peut-il pas être confié à une IA selon Luzi ?
Parce que les systèmes d’IA se contentent d’appliquer des règles et d’optimiser des fonctions définies par des humains. Ils ne choisissent pas leurs objectifs, ne vivent pas les conséquences de leurs décisions et ne peuvent pas arbitrer entre des valeurs concurrentes comme la sécurité, la liberté, l’équité ou le confort. Confier le jugement moral à une IA reviendrait à effacer la responsabilité de ceux qui conçoivent, déploient et utilisent ces systèmes.
Que retenir comme principe directeur pour les projets utilisant l’IA ?
Le principe directeur qui se dégage de l’analyse de Luzi est le suivant : considérer l’IA comme un outil puissant de calcul et d’aide à la décision, mais ne jamais lui attribuer le statut de sujet pensant ou moral. Dans les projets concrets, cela signifie clarifier ce qui est automatisé, ce qui reste du ressort humain, et assumer ouvertement la responsabilité des objectifs assignés aux systèmes d’IA.