par Satya Nadella, le CEO de Microsoft, met en garde contre un transfert insidieux du savoir-faire des entreprises vers les géants de l’intelligence artificielle/
Le PDG de Microsoft alerte sur un paradoxe méconnu. En effet, en utilisant l’intelligence artificielle au quotidien, les entreprises nourrissent involontairement les modèles des fournisseurs avec leur expertise interne, risquant de perdre le contrôle de leur capital intellectuel le plus précieux.
Satya Nadella, PDG de Microsoft, a récemment tiré la sonnette d’alarme sur un risque stratégique majeur qui pourrait échapper à de nombreuses entreprises. Selon lui, l’utilisation intensive de l’intelligence artificielle (IA) pourrait conduire les organisations à transférer progressivement leur savoir institutionnel aux fournisseurs de modèles, et ce, sans même s’en rendre compte.
Mais que signifie exactement ce «savoir institutionnel» ? Il s’agit de l’ensemble des connaissances, méthodes de travail, processus internes et expertise accumulés au fil du temps par une entreprise, souvent tacites et difficiles à formaliser. C’est ce qui fait la singularité et la compétitivité d’une organisation.
Le paradoxe inversé de l’IA
Pour comprendre la gravité de cette alerte, il faut remonter à un concept économique fondamental à savoir le paradoxe de l’information d’Arrow, formulé par le prix Nobel d’économie Kenneth Arrow en 1962. Ce paradoxe stipule que dans une transaction d’information, le vendeur craint de dévoiler son savoir avant d’être payé, car une fois révélé, l’acheteur n’a plus besoin de l’acheter. Autrement dit, comment vendre une idée sans la dévoiler, et comment l’acheteur peut-il juger de sa valeur sans la connaître ? C’est un dilemme classique du marché de l’innovation.
Avec l’IA, la situation s’inverse de manière surprenante. Contrairement au paradoxe d’Arrow, ce n’est plus le vendeur qui craint de livrer son savoir, mais l’acheteur soit l’entreprise utilisatrice qui doit livrer ses données, ses instructions et ses corrections pour obtenir des résultats pertinents. Chaque requête, chaque retour d’expérience, chaque ajustement fait à un modèle d’IA constitue un transfert de connaissances.
Ce faisant, l’entreprise expose ses méthodes de travail, ses priorités stratégiques et son expertise métier. C’est comme si, pour obtenir un meilleur service, un client devait révéler à son fournisseur la recette secrète de son succès.
Les « traces d’intelligence » comme nouveau capital
Satya Nadella introduit à cette occasion un concept original et particulièrement éclairant celui de « traces d’intelligence ». Au-delà des données brutes, ces chiffres, textes ou images bruts que possède l’entreprise, ce sont les requêtes formulées, les retours d’usage (les évaluations que l’utilisateur fait de la qualité d’une réponse), et les ajustements apportés qui forment ces traces.
Par exemple, lorsqu’un juriste corrige une réponse générée par un modèle de langage pour qu’elle corresponde mieux à la jurisprudence de son cabinet, ou qu’un ingénieur affine une suggestion d’IA pour l’adapter aux contraintes spécifiques de son entreprise, ils créent des « traces d’intelligence ». Ces traces révèlent le savoir-faire unique d’une organisation et deviennent un actif stratégique à part entière. Elles sont d’autant plus précieuses qu’elles sont difficiles à imiter car elles incarnent la culture, l’expérience et la vision propres à chaque entreprise.
Une gouvernance élargie et des périmètres de confiance
Face à ce risque, Satya Nadella ne se contente pas de constater, il préconise plusieurs mesures concrètes pour protéger ce capital stratégique. Tout d’abord, il recommande d’étendre la gouvernance c’est-à-dire l’ensemble des règles, processus et responsabilités qui encadrent l’utilisation des données aux mécanismes d’apprentissage des modèles eux-mêmes, et non de la limiter à la seule gestion des données brutes.
Jusqu’à présent, la plupart des entreprises se concentrent sur la protection de leurs bases de données (où sont stockées leurs informations clients, financières ou opérationnelles). Nadella appelle à aller plus loin car il faut aussi surveiller comment les modèles d’IA apprennent de nos interactions, car c’est là que réside le véritable transfert de savoir.
Il appelle également à créer des périmètres de confiance internes. Ces « périmètres » sont des espaces technologiques sécurisés au sein de l’entreprise qui regrouperaient l’ensemble des données, de la mémoire (l’historique des conversations et des apprentissages), des évaluations et des modèles adaptés. L’objectif est clair celui d’interdire tout transfert non consenti vers l’extérieur. Cela revient à construire une « zone protégée » où l’IA peut apprendre du savoir interne sans que celui-ci ne fuite vers les serveurs des fournisseurs. On peut comparer cela à un coffre-fort numérique où seuls les employés autorisés ont accès, et d’où aucune information ne peut sortir sans validation explicite.
Enfin, il insiste sur la nécessité de découpler les couches d’orchestration des modèles utilisés. L’« orchestration » désigne ici la manière dont les différents outils d’IA sont coordonnés et intégrés dans les systèmes de l’entreprise.
En séparant cette couche technique de celle des modèles proprement dits, les entreprises préservent leur liberté de changer de fournisseur sans être enfermées dans une dépendance technologique. C’est un peu comme s’assurer que l’on peut changer de moteur de voiture sans avoir à refaire toute la carrosserie car cela évite le phénomène de «vendor lock-in» (verrouillage par le fournisseur), où une entreprise devient prisonnière d’un seul éditeur parce que tout son système repose sur ses technologies.
L’enjeu de fond
Satya Nadella résume l’enjeu avec une formule percutante en disant que à l’ère du cloud, les entreprises accumulaient des données ; à l’ère de l’IA, elles accumulent des apprentissages. Le « cloud » désigne ces services informatiques hébergés sur des serveurs distants, accessibles via Internet, qui ont révolutionné le stockage et le traitement des données au cours des quinze dernières années. Aujourd’hui, avec l’IA générative et les grands modèles de langage, la valeur ne réside plus seulement dans les données stockées, mais dans la manière dont l’entreprise les utilise, les interprète et les enrichit à travers ses interactions avec l’IA.
Ce capital d’apprentissage, fait de corrections, d’ajustements, de retours d’expérience et de requêtes affinées, doit, selon Nadella, rester sous le contrôle des entreprises. Car si elles le cèdent aux fournisseurs de modèles, elles risquent non seulement de perdre leur avantage compétitif, mais aussi de financer indirectement l’enrichissement de leurs propres concurrents, puisque ces apprentissages pourraient être réutilisés pour améliorer les services proposés à d’autres clients.
L’alerte de Satya Nadella, qui vient paradoxalement du PDG d’un des plus grands fournisseurs de modèles d’IA au monde, témoigne d’une prise de conscience collective à savoir que l’avenir de la compétitivité des entreprises ne dépendra pas seulement de leur capacité à adopter l’IA, mais aussi de leur capacité à protéger ce que cette adoption leur fait révéler.
