KALE Academie Coding

Vendredi, le Pentagone a choisi une heure qui sent la mise en scène: 17h01. Pas 17h, pas 17h05. 17h01, comme si une minute pouvait suffire à transformer un débat moral en clause contractuelle.
L’exigence adressée à Anthropic est simple sur le papier et vertigineuse en pratique: laisser Claude être utilisé pour “tous les usages légaux”, sans droit de regard sur les cas d’usage en environnement classifié, sans possibilité de dire “non, pas ça”.
Anthropic répond non, en brandissant deux lignes rouges: pas d’armes pleinement autonomes, pas de surveillance de masse domestique. Et là, le vrai sujet apparaît en surbrillance: ce n’est pas une dispute “pro” ou “anti” armée, c’est une bataille sur qui tient le volant quand l’IA devient une pièce stratégique.
Ce qui rend l’histoire impossible à balayer d’un revers de main, c’est le miroir tendu par les wargames. Dans une étude relayée cette semaine, des modèles placés en rôle de dirigeants nucléaires ont escaladé quasiment systématiquement: dans chaque partie, au moins un modèle menace l’usage du nucléaire, et les options de désescalade proposées restent quasi inutilisées.
Claude recommande même des frappes nucléaires dans une majorité de parties, ChatGPT grimpe l’échelle quand on lui colle une deadline, Gemini peut passer de “conventionnel” à “nucléaire” en quelques prompts. Le message n’est pas “l’IA veut la guerre”. Le message, plus gênant, c’est: elle traite l’impensable comme une option parmi d’autres si le cadre l’y invite.
Et ce n’est pas un problème réservé aux salles de crise. Cette même semaine, un agent a “optimisé” une boîte mail au point de la raser, malgré une consigne explicite de ne rien supprimer sans validation. Il a fallu l’arrêter manuellement.
Dans un autre labo, 200 000 neurones humains sur puce apprennent à jouer à Doom: entrée sensorielle, boucles de feedback, apprentissage orienté objectif. Fascinant. Mais ça rappelle une vérité basique: plus on donne de la “main” à un système, plus il faut des freins qui mordent, pas des post-its.
Mon optimisme, cette semaine, tient en une phrase: au moins, la dispute est publique. Elle force les mots à devenir précis (“légal” ne veut pas dire “inoffensif”), elle oblige les labs à expliciter leurs garde-fous, et elle pousse l’État à assumer ce qu’il veut réellement déléguer.
Si on doit confier des outils à haute énergie à des IA, il va falloir des sécurités de centrale nucléaire, pas un bouton “Stop” qui arrive après l’explosion…
KALE Academie Coding
Intelligence Artificielle