En juin, quatorze chercheurs — la plupart chez Google DeepMind, dont l'un de ses cofondateurs — ont publié une étude minutieuse de 57 pages sur ce qui arrive à l'intelligence artificielle après qu'elle nous ait rattrapés. Ils ont cartographié chaque voie technique possible et chaque obstacle en chemin. Puis ils sont arrivés à la question de ce que tout cela fait aux vies humaines ordinaires, ont écrit une centaine de mots, et se sont arrêtés.
Cet arrêt est la chose la plus intéressante de l'étude. Ce billet explique pourquoi.
D'abord, ce que dit vraiment l'étude
L'étude s'intitule From AGI to ASI, et il vaut la peine d'être précis à son sujet, car sa couverture médiatique ne l'a pas été. Ce n'est pas une chronologie. Elle ne donne aucune année pour l'IA de niveau humain, ni aucune année pour ce qui viendrait après. Elle met délibérément la question du quand entre parenthèses, affirmant que son but est de cartographier le terrain « indépendamment du moment où l'humanité atteindra cette étape ». Quiconque vous dit que cette étude prédit une date vous parle d'un titre racoleur, pas de l'étude elle-même.
Ce qu'elle fait à la place, c'est supposer que l'IA de niveau humain arrive, puis poser deux questions avec une vraie rigueur: par quelles voies la capacité des machines pourrait-elle continuer à grimper au-delà de ce point, et qu'est-ce qui pourrait la ralentir ou l'arrêter? Quatre voies sont cartographiées — construire plus grand, inventer des méthodes véritablement nouvelles, des systèmes qui s'améliorent eux-mêmes, et l'intelligence émergeant de vastes collectifs d'agents IA travaillant ensemble. Viennent ensuite les freins, et c'est la moitié que personne ne cite: le monde pourrait manquer de données d'entraînement de haute qualité; l'énergie, les puces, les minéraux et l'argent nécessaires pourraient tout simplement devenir inabordables; les méthodes actuelles pourraient atteindre un plafond; la recherche elle-même devient plus difficile à mesure que les domaines mûrissent. Deux de ces freins sont particulièrement porteurs de réalisme. Les modèles entraînés sur des concepts humains pourraient rester enfermés dans des concepts humains. Et toute idée nouvelle sur le monde physique doit encore être testée dans le monde physique, à la vitesse à laquelle le monde physique fonctionne. Comme ils le formulent, cela seul « pourrait potentiellement limiter le rythme de la croissance de l'intelligence au rythme de la science empirique plutôt qu'au rythme de la mise à l'échelle informatique ».
Leur propre conclusion est offerte, selon leurs mots, « avec beaucoup d'incertitude (et donc une faible confiance) ». Cette prudence n'est pas une faiblesse. C'est ainsi que parlent des gens sérieux lorsqu'ils décrivent quelque chose dont ils ne voient pas la fin — et c'est une bonne raison de faire confiance au seul endroit où ils sont sans ambiguïté.
Le paragraphe qui s'arrête
Au cœur de la section sur les raisons pour lesquelles les sociétés pourraient délibérément ralentir tout cela, l'étude se tourne, brièvement, vers les humains. Voici, pour l'essentiel, tout ce qu'elle en dit:
« On ne sait pas clairement à quoi ressemblerait une main-d'œuvre post-AGI, si de nombreuses tâches cognitives pouvaient être automatisées et proposées à moindre coût via des services d'IA plutôt que par des travailleurs humains. »
Ils poursuivent: à une échelle suffisante, cela « nécessiterait de repenser les mécanismes économiques fondamentaux » — en particulier, ils citent « le passage du travail au capital comme principale ressource économique, et son impact potentiel sur le contrat social ». De nombreux autres aspects de la façon dont les humains vivent ensemble, ajoutent-ils, doivent être examinés pour voir s'ils tiennent encore la route.
Et le paragraphe se termine ainsi: « Répondre à ces questions importantes dépasse le cadre de ce rapport. »
C'est tout. Dans un document qui consacre des pages entières à l'approvisionnement en données d'entraînement, à la bande passante mémoire et aux limites théoriques de l'intelligence, la question de savoir comment les gens vont se nourrir reçoit cent trente mots et un renvoi poli. Cherchez dans tout l'article le mot inégalité, cherchez qui capte les gains, comment l'abondance sera répartie, et vous ne trouverez rien. Pas parce que les auteurs seraient négligents — parce qu'ils ont tracé une frontière, et l'ont dit ouvertement.
Pourquoi ils se sont arrêtés, et pourquoi c'est justifié
Il serait facile, et erroné, de lire cette phrase comme une esquive. Ce n'en est pas une. C'est une frontière de catégorie, et une frontière honnête.
Tout le reste de cet article relève de l'ingénierie. Cette architecture va-t-elle tenir à grande échelle ? Les données suffiront-elles ? À quelle vitesse peut-on faire tourner les expériences ? Ce sont des questions qui ont de vraies réponses, que l'évidence finira par trancher, et ces personnes comptent parmi les mieux qualifiées au monde pour les poursuivre.
« Comment les bénéfices de tout cela doivent-ils parvenir aux gens ? » n'est pas ce genre de question. Aucune puissance de calcul ne peut la résoudre. C'est une question de conception — une question sur la façon dont nous choisissons d'organiser les choses, à laquelle on ne peut répondre qu'en proposant un arrangement et en le défendant publiquement. Un tout autre entraînement. Et il faut leur reconnaître ceci : l'un des auteurs de l'article travaille lui-même sur cette question ailleurs ; le texte renvoie les lecteurs vers une analyse complémentaire de ce qu'ils appellent la prospérité post-travail, plutôt que de prétendre que cet article l'avait traitée.
Ce vide n'est donc pas de la négligence. C'est une vacance. Quelqu'un doit la combler, et ce ne seront pas ceux qui construisent les machines.
Ils ont cartographié chaque route que les machines pourraient prendre. La seule chose qu'ils n'ont pas cartographiée est la seule chose qui décide si tout cela est une bonne nouvelle.
À quoi ressemble une réponse
Copiosis est une réponse candidate parmi d'autres — une proposition précise et vérifiable, exactement pour le vide que cet article laisse ouvert.
Considérez ce que « le glissement du travail vers le capital comme principale ressource économique » menace réellement. C'est alarmant en raison d'une seule hypothèse cachée dans le système que nous utilisons : que l'accès d'une personne à la nourriture, au logement et aux soins passe par la vente de son travail. Rompez ce lien, et le glissement devient une catastrophe. Ne créez jamais ce lien au départ, et le glissement devient simplement… des machines qui font une plus grande part du travail.
C'est le geste structurel. Dans Copiosis, les biens essentiels sont simplement fournis — alimentation, logement, santé, éducation, sans aucune facture. Les gens gagnent des Récompenses au Bénéfice Net en améliorant la vie des autres et de la planète, et ces récompenses achètent les luxes de la vie. Rien dans cette conception n'exige qu'un humain accomplisse le travail routinier. Si une machine fait pousser la nourriture, la nourriture parvient tout de même aux gens, car l'accès n'a jamais dépendu d'un salaire.
Ce qui signifie que le glissement du travail vers le capital n'a pas besoin d'être combattu, ralenti ou inversé. Il doit atterrir quelque part conçu pour le recevoir. Nous avons développé cette idée plus en détail dans L'IA construit la bretelle d'accès ; ce qui est nouveau ici, c'est que les personnes qui construisent cette technologie ont désormais mis la même question sur la table elles-mêmes, dans une publication évaluée par des pairs, avec leurs propres mots.
Deux phrases de plus qui méritent qu'on s'y arrête
L'article contient deux phrases qui méritent plus d'attention qu'elles n'en ont reçu.
La première, sur la question de savoir si le monde pourrait se coordonner pour avancer à un rythme sûr : compte tenu de la difficulté de la coordination internationale et de la rareté historique des cadres réglementaires mondiaux, écrivent-ils, une gouvernance multilatérale alignée « reste un objectif insaisissable, peut-être irréaliste ».
La seconde est plus incisive. S'appuyant sur un cadre établi sur la façon dont la technologie se propage sous la rivalité géopolitique, ils concluent qu'une concurrence soutenue entre groupes « favorise systématiquement le développement et l'adoption de technologies renforçant la compétitivité, indépendamment de leurs implications pour le bien-être humain ».
Relisez cette phrase, car ce n'est pas une plainte au sujet de la technologie. C'est la description d'une structure d'incitation — une structure dans laquelle « est-ce que cela améliore la vie des gens ? » ne fait pas partie des questions posées, parce que rien dans le mécanisme ne la pose. C'est exactement le diagnostic dont part Copiosis, et exactement ce que l'algorithme est construit pour corriger : un système où la chose récompensée est le bénéfice produit, de sorte que la question ne puisse pas être escamotée.
Et puis, généreusement, l'étude propose une norme à l'aune de laquelle les deux systèmes peuvent être jugés. Le progrès, écrivent les auteurs, désigne des développements qui « préservent ou renforcent l'autonomie individuelle et collective, favorisent l'épanouissement et la dignité humaine, et sont largement reconnus comme bénéfiques et utiles par les sociétés ». Nous signerions cette phrase sans en changer un mot. Le prolongement honnête est simplement celui-ci : quel dispositif est le plus susceptible d'y parvenir — celui qui fait transiter la prospérité par l'argent, ou celui construit pour l'acheminer directement vers le bénéfice ?
Section honnêteté, comme toujours
Quelques précisions sur ce que cet article n'affirme pas, énoncées clairement pour que personne n'ait à deviner.
- Personne chez DeepMind n'a approuvé quoi que ce soit ressemblant à Copiosis. Ils ont posé une question. Nous proposons une réponse. Ce sont deux actes différents, et les confondre reviendrait exactement au genre d'excès que nous nous efforçons de ne pas commettre.
- L'étude ne donne aucune date. Si vous voyez cet article cité comme disant « Google annonce l'AGI pour l'année X », la citation est erronée. Elle dit que la possibilité de dépasser largement le niveau humain « au cours des dix à vingt prochaines années » ne peut pas être facilement écartée — une double négation prudente à propos d'une possibilité.
- L'étude suppose que le problème de la sécurité est résolu. Les auteurs le signalent eux-mêmes : ce n'est « en aucun cas acquis, ni une hypothèse anodine ». Tout ce qui en découle, y compris notre argument, hérite de cette hypothèse.
Remplir le vide
Voici ce qui reste gravé en nous. Quatorze personnes ayant une vue aussi claire de cette technologie que quiconque sur Terre se sont réunies pour cartographier où elle mène. Elles ont tracé les itinéraires, les obstacles, la physique, les questions de recherche encore ouvertes — et ont laissé une région sans étiquette, marquée seulement important, et ce n'est pas à nous d'y répondre.
Ce vide est une invitation. Il sera comblé soit délibérément, par des personnes ayant sérieusement réfléchi à la façon dont la prospérité devrait atteindre les êtres humains, soit par défaut, par ce que produisent les incitations existantes tant que personne ne précise rien. L'une de ces voies produit quelque chose que nous avons choisi. L'autre produit ce que nous obtenons, tout simplement.
C'est pourquoi ce projet existe — pour que, lorsque la question sera enfin posée sérieusement, une réponse pleinement élaborée soit déjà sur la table. Commencez par comment ça marche, testez-la à l'aune de la transition et des objections les plus dures, puis dites-nous où elle flanche. Le scepticisme est bienvenu. Combler un vide aussi important devrait être difficile.