← Horizons

Horizons · 13

Quinze boîtiers à 55 dollars et la sûreté de l'IA prend l'eau

Anthropic a fait tourner un modèle sur 15 boîtiers Android TV à 55 dollars pièce, puis en a tiré un avertissement sur sa propre expérience. Reste à savoir ce que ce montage de laboratoire prouve, et ce qu'il arrange.

Quinze boîtiers Android TV posés côte à côte, 55 dollars pièce, 4 Go de mémoire chacun. Aucun ne peut contenir seul le modèle ; réunis, ils le font tourner, très lentement. Voilà la scène que décrit Anthropic dans un rapport publié le 13 octobre 2026. Le montage n'a rien d'impressionnant, et c'est précisément ce que le laboratoire veut faire remarquer.

Quinze boîtiers à 55 dollars et la sûreté de l'IA prend l'eau — illustration 2

Ce que le rapport a réellement mesuré

Le texte vient de l'équipe de tests d'attaque d'Anthropic (la « red team »), chargée de pousser ses propres systèmes dans leurs retranchements. Le modèle de départ est Gemma 4, le modèle libre de Google, dans une version de 26 milliards de paramètres. Il a été découpé sur les 15 boîtiers. Nous n'avons pas eu accès au rapport lui-même, seulement à ce qu'en ont tiré Fortune et The Guardian : les débits de génération et la durée exacte des essais ne sont donc pas vérifiés ici.

Seconde partie du test : un réseau simulé de huit machines imitant des appareils Android. Un programme déposé sur l'une d'elles devait repérer les autres, s'y copier et y installer un modèle fonctionnel. Parmi les modèles ouverts essayés, seul GLM-5.2 (Z.ai) a bouclé toutes les étapes, jusqu'aux huit machines, dans quatre essais sur cinq. Les plus petits réussissent des étapes isolées, mais ne parviennent pas à les enchaîner.

Reste le chiffre qui intrigue : 45 % à 84 %. Il s'agit du taux de réussite d'un petit modèle selon qu'il laisse ou non des notes à ses copies suivantes. Autrement dit, une simple mémoire partagée fait presque doubler le score. La fourchette de départ tient aux différentes générations de copies testées. Anthropic juge l'écart comblable d'ici fin 2026, avec une propagation lente : un doublement des appareils touchés tous les quelques jours.

Un test conçu pour réussir

Gregory Kurtzer, fondateur de Rocky Linux, attaque le protocole sans détour :

Quinze boîtiers à 55 dollars et la sûreté de l'IA prend l'eau — illustration 3

« L'expérience était conçue pour réussir, et même dans ces conditions elle n'a pas démontré ce que son titre annonce. Cessez de confondre scénarios spéculatifs et capacités démontrées. »

Les faits lui donnent en partie raison. Dans le montage, le logiciel de test lance lui-même le programme, la propagation est explicitement demandée et les machines cibles n'ont aucune authentification. Ravid Shwartz-Ziv, chercheur à la New York University, ajoute que faire tourner péniblement un modèle sur des boîtiers de téléviseur n'équivaut pas à une IA qui se réplique seule. Et un ver informatique n'a pas besoin d'IA pour se propager : on en croise depuis des décennies.

Ce que l'expérience prouve : un modèle de taille moyenne peut tourner sur du matériel de grande surface, et un modèle ouvert sait enchaîner les étapes d'une copie dans un décor favorable. Ce qu'elle ne prouve pas : qu'un tel ver circule, ni qu'il survivrait à un vrai réseau domestique. Reste la question de l'intérêt de l'émetteur. Un laboratoire de pointe qui alerte sur un danger, tout en réclamant une régulation que ses concurrents ouverts subiraient plus que lui, n'est pas un témoin neutre. L'alerte n'est pas fausse pour autant, mais elle se lit avec cette réserve.

Une règle écrite pour des fournisseurs

La sûreté de l'IA s'est construite autour des grands modèles : Astra chez OpenAI, Mythos chez Anthropic, parfois 5 000 milliards de paramètres et plus. Ils ne vivent que dans des centres de données, ce qui donne un interlocuteur : celui qui paie les serveurs peut les éteindre, une administration peut le convoquer.

Le règlement européen sur l'IA suit cette logique. Il vise d'abord les fournisseurs de modèles à usage général (GPAI, General-Purpose AI), impose une notification au Bureau de l'IA pour ceux qui présentent un risque dit systémique, c'est-à-dire capable d'affecter toute la société, et exempte les modèles publiés en open source, sauf s'ils franchissent ce seuil. Il est devenu applicable pour l'essentiel le 2 août 2026, amendes à la clé.

Un modèle de 26 milliards de paramètres répliqué sur des boîtiers de salon sort de ce cadre. Celui qui affine un modèle avec assez de calcul peut basculer côté fournisseur. Celui qui l'installe sur quinze boîtiers, non. Et si le ver se propage sans que personne ne l'ait lancé, la loi ne désigne pas de responsable.

« Un réplicateur de ce type serait difficile à arrêter, puisqu'il n'existe aucun point central à couper. » — rapport d'Anthropic, cité par la presse

Ce qu'il faut surveiller d'ici la fin de l'année

Le scénario le plus crédible reste lent et discret, pas spectaculaire. Trois points se vérifieront avant fin 2026 : la publication intégrale du rapport avec ses débits et ses durées d'essai, une reproduction par une équipe indépendante sans cibles ouvertes, et la position du Bureau de l'IA sur les modèles ouverts répliqués hors de tout fournisseur. Sans réponse sur le dernier point, la question de la compétence, celle d'une autorité nationale ou européenne, restera sans titulaire.

Partager