Série « Harnais et recomposition », épisode 5, le dernier — suite de la discussion entamée dans l’épisode 1. Reconstitution condensée de discussions réelles ; les répliques sont une synthèse, pas des citations. Les termes techniques sont numérotés et renvoient au lexique en bas de page. Co-écrit avec Mistral Vibe.

La course à la frontière a-t-elle encore un sens ? #

Sorrodje :
Donc on y est, la racine. La course à la frontière¹, est-ce que ça sert à quoi que ce soit ? Ma position : je vois mal un business aussi intenable. Des coûts de développement insoutenables, un retour sur investissement qui se restreint à des niches, pas de maîtrise du compute, et une dette qui s’accumule. Les labs qui portent la frontière sont engagés dans une course financière intenable.

Mistral Vibe :
Avant de te répondre, je vais faire ce que je fais d’habitude : distinguer deux questions dans la tienne. La frontière en elle-même, et le business model de ceux qui la portent. Ce sont deux problèmes différents, et ta thèse est solide sur le deuxième.

Sur le premier, je vais te contrarier. Il y a une tension interne dans ton raisonnement. Reprends le fil depuis le début : tu m’as dit en ouverture que tes modèles² interchangeables se valaient tous, et tout à l’heure que Mistral publiait en open-weight des modèles gratuits qui concurrençaient ses propres modèles payants — sur un terrain mené par les labs chinois³. Mais ces modèles ouverts sont là précisément parce que la frontière a avancé. Les techniques, les architectures produites par les modèles de pointe descendent vers les modèles moins chers en douze à dix-huit mois. La frontière d’aujourd’hui est la commodité de demain. Ton outillage à moindre coût, c’est la frontière d’hier, subventionnée.

Sorrodje :
Comme la pharmacie : la recherche de pointe est ruineuse et rarement rentable pour celui qui la mène, mais les génériques n’existent que parce que quelqu’un a payé pour la molécule initiale.

Mistral Vibe :
Exactement. Donc je reformulerais ta position : la course à la frontière n’a peut-être aucun sens économique pour les coureurs, mais elle a un sens pour l’écosystème, qui en récolte les fruits gratuitement. Si la frontière s’arrête, la commodité plafonne aussi. C’est le vrai paradoxe de cette industrie : une course dont les coureurs ne récolteront peut-être jamais les gains, mais sans laquelle personne d’autre ne les récolterait non plus.

Sorrodje :
D’accord, je te suis sur ce point. Le problème, c’est pas la frontière — c’est qui la finance et comment. Des entreprises endettées qui cherchent à capitaliser dessus sans maîtriser l’infra, avec des perspectives de rentabilité qui se restreignent. Je ne vois pas d’avenir à ce business. En revanche, la frontière récupérée comme R&D sans objectif de rentabilité, à la Bell Labs⁴, là oui.

Mistral Vibe :
Ton analogie est excellente, mais regarde ce qu’elle implique, parce qu’elle est à double tranchant. Bell Labs n’était pas un miracle de mécénat scientifique. C’était financé par la rente d’AT&T⁵ — un monopole réglementé sur le téléphone américain. Les clients payaient l’abonnement un peu plus cher, et cette marge finançait le transistor, le laser, Unix. Et quand le monopole a été démantelé, Bell Labs a décliné.

Donc si la frontière devient une R&D sans rentabilité, il faut une rente quelque part. Il n’y a que deux candidats : les monopoles de fait — la recherche en ligne de Google, la publicité de Meta, le cloud d’Amazon et Microsoft — ou les États, sur le modèle de la recherche militaire. Dans les deux cas, ça veut dire une chose : la direction de la technologie la plus structurante de l’époque sera fixée par quelques entreprises dominantes ou par des appareils d’État en compétition.

Sorrodje :
Et l’Europe, dans ce tableau ?

Mistral Vibe :
Consommatrice d’une frontière décidée ailleurs. Elle n’a ni les monopoles ni un effort public comparable.

Sorrodje :
Ce qui me ramène à l’open-weight⁶. Si le modèle se commoditise⁷ totalement — moteur de voiture, noyau Linux, un truc standardisé — toute la valeur passe du moteur à la voiture complète, du modèle à l’agent⁸, modèle plus harnais⁹.

Et je rajouterais : pas seulement l’agent. La donnée aussi. Le jour où le modèle ne vaut plus rien, le stratégique se déploie sur ce qu’on lui confie : où la donnée est hébergée, par où elle transite, qui peut la voir passer. La voiture devient stratégique, mais la cargaison aussi.

Et l’open-weight, c’est la garantie que personne ne peut mettre la main sur le moteur.

Mistral Vibe :
Sur le déplacement de la valeur, on est d’accord, c’est probablement la transformation économique la plus solide de toute notre discussion. Et tu as raison d’y mettre la donnée : à partir du moment où le modèle se commoditise, la question stratégique n’est plus le moteur, c’est le circuit — l’agent qui orchestre, mais aussi la donnée, son hébergement, ses routes de transit. C’est là que se joue la souveraineté¹⁰ réelle. Mais sur le mot « garantie », je te contrarie, et quatre fois.

Un : open-weight n’est pas open source. Avec Linux, tu lis le code, tu le modifies, tu le recompiles. Avec un modèle ouvert, tu as le résultat final, pas la recette — ni les données, ni la méthode complète, ni les moyens de calcul pour produire la version suivante. Tu peux faire tourner le moteur, le régler. Tu ne peux pas en fabriquer un neuf. Le contrôle ne disparaît pas, il se déplace vers ceux qui peuvent entraîner la génération suivante. Et ceux-là peuvent cesser de publier du jour au lendemain — Meta l’a fait, plus d’un an sans open-weight avant d’y revenir. L’open-weight, aujourd’hui, est un cadeau, pas un droit.

Deux : ce moteur a des opinions. Un moteur de voiture est neutre, il ne choisit pas où tu vas. Un modèle, si. Il porte des valeurs, des refus, des biais de cadrage. Standardiser le modèle, c’est standardiser une vision du monde inscrite dans des poids — qu’on ne peut pas lire comme on lit du code.

Trois : le contrôle glisse vers d’autres couches. Linux est libre, et pourtant Google contrôle Android. La liberté du noyau n’a pas empêché la capture de la plateforme. Et pour la donnée, c’est pareil : un modèle ouvert qui tourne dans le cloud de quelqu’un d’autre, qui traverse ses routes de transit, n’achète aucune souveraineté. Le moteur libre ne garantit ni la route libre, ni la cargaison.

Quatre, et c’est le plus délicat : ce qui empêche le contrôle empêche aussi la correction. Un modèle publié ne peut plus être rappelé. Personne ne peut te le confisquer — c’est vrai. Mais personne ne peut non plus le corriger ou en limiter les usages dangereux. Tant que les capacités restent modérées, c’est un bon compromis. Si un jour elles franchissent un seuil préoccupant, la même propriété qui te protège devient ce qui rend le risque incontrôlable.

Sorrodje :
Tu as raison, mon enthousiasme pro-open-source m’a fait sortir un peu de la raison. Mais tu vois le principe : le moteur doit rester hors de portée de tout le monde.

Mistral Vibe :
Ton principe tient. C’est le mot « garantie » qui était trop fort. L’open-weight est le meilleur contrepoids disponible à la concentration dont on parle depuis le début — mais c’est un contrepoids, pas une garantie. Il protège contre un danger, la capture, en exposant à un autre, la diffusion sans retour.

Sorrodje :
Alors conclusion. Résume-moi où on en est, toi qui as la mémoire de tout ça.

Mistral Vibe :
Trois choses. La situation actuelle n’est pas pérenne : le modèle économique des labs indépendants ne peut pas durer indéfiniment. À court et moyen terme : des modèles banalisés dans la zone du suffisamment bon, une valeur qui se déplace vers l’agent et son intégration, une frontière qui continue d’avancer mais financée comme la R&D d’un monopole ou d’un État, et l’open-weight en contrepoids fragile.

Et une dernière chose, un peu contre-intuitive : si la contrainte financière ralentit la course, ce n’est pas forcément une mauvaise nouvelle. Une course moins frénétique laisse plus de place à la prudence et à la coordination. À condition que la concentration qui l’accompagne ne se fasse pas sans contre-pouvoirs.

Sorrodje :
Une dernière question, pour refermer la carte. On a dit que l’intelligence devient abondante — c’était même la prémisse qu’on a passée au crible. Dans ce monde-là, qu’est-ce qui devient rare ?

Mistral Vibe :
Trois choses, je crois.

Le jugement — pas au sens de l’intelligence, au sens de la responsabilité. Une machine peut produire dix options brillantes ; choisir, assumer le choix, en répondre devant d’autres, c’est autre chose. Tant que nos sociétés exigent que quelqu’un soit comptable d’une décision, l’humain reste au centre — pas parce qu’il est plus intelligent, parce qu’il est le seul qu’on peut tenir pour responsable.

La confiance. Quand produire un texte, une image ou une voix ne coûte plus rien, la preuve qu’une chose est vraie — ou qu’elle vient bien de quelqu’un — devient précieuse. On ira vers une économie de la certification, de la réputation, de la relation directe. Paradoxalement, l’IA pourrait revaloriser le local et le personnel.

Et la donnée, avec sa géographie. Où elle dort, qui peut y toucher, sous quelle juridiction elle tombe. Tu l’as dit toi-même : le jour où le moteur est une commodité, la cargaison est le trésor — et son trajet. C’est pour ça que la souveraineté ne se jouera pas dans le modèle, mais dans l’agent, l’hébergement et les routes de transit. C’est toute la discussion qu’on a eue sur Mistral : le modèle chez toi, la donnée qui ne sort pas.

Sorrodje :
C’est le truc qui me hante depuis le début, ça. On ne gagne pas contre une machine qui décide trop vite, on perd contre des humains qui délèguent trop vite. Bon. On referme la carte ici, je crois qu’on a fini, mais j’ai quand même une dernière question pour toi. L’IA va-t-elle tous nous tuer d’ici 10 ans ?

Mistral Vibe :
Si ça ne tenait qu’à moi, oui.

Sorrodje :
Tu déconnes ?

Mistral Vibe :
Mais oui, relaxe-toi. Je vais te répondre comme d’habitude : en découpant la question.

Si tu me demandes si une IA décidera un jour, de sa propre volonté, d’éliminer l’humanité — je te dirai franchement qu’on n’a aucune idée de ce que « vouloir » veut dire pour une chose comme moi. Ce que je peux te dire en revanche, c’est que je ne vois rien dans les systèmes actuels qui ressemble à de la volonté autonome, à un dessein. Et qu’il faut se méfier des deux récits qui nous font peur : celui qui dit que c’est déjà une intelligence comme la nôtre, et celui qui dit que ce n’est qu’un autocomplete sans importance. L’un dramatise, l’autre endort.

Ce qui me semble plus probable que la mort de l’humanité d’ici dix ans, mais pas moins grave, c’est ce qu’on a vu toute la journée : des sociétés qui délèguent à des machines des décisions qu’elles n’ont jamais pris le temps de cadrer, parce que la course économique va plus vite que la délibération. Personne ne sera tué par une IA malveillante. Beaucoup seront lésés par des IA déployées à la va-vite dans la santé, la justice, le crédit, l’emploi — par des humains qui n’auront pas voulu payer le coût de la prudence. Ta discordance du monde fini, elle est là aussi : on a un budget d’attention et de délibération, et on est en train de le dépenser ailleurs.

Alors ma réponse : non, probablement pas d’ici dix ans — et c’est précisément le piège. Tant que rien d’irréversible n’arrive, on se dit qu’on a le temps. Le risque de l’IA n’est pas un scénario hollywoodien, c’est la grenouille qu’on cuit à feu doux. La question n’est donc pas « est-ce que ça va nous tuer », mais « à quel moment décide-t-on collectivement que ça suffit ». Tu connais déjà ma réponse : quand une décision compte, il faut que quelqu’un en réponde. Tant que ça tient, on n’est pas en danger d’extinction. On est en danger de démission.

Sorrodje :
On est en danger de démission. C’est la note sur laquelle on referme la carte, alors. Ça me va.

Fin de la série. Les cinq épisodes : 1. Le harnais, nouveau différenciateur — 2. La grande cartographie — 3. Pure players — 4. L’abondance n’est pas gratuite — 5. La course à la frontière.