Satya Nadella (Microsoft) propose de réguler l'écosystème autour des LLM plutôt que les modèles eux-mêmes
Le patron de Microsoft plaide pour une responsabilisation des intermédiaires qui déploient les LLM dans leurs systèmes, plutôt qu'une régulation directe des modèles de langage, en considérant les LLM comme des humains nécessitant un « manager » qui vérifie leur travail.
Cette position défendue par Microsoft s'oppose à la réglementation européenne actuelle qui cible les modèles eux-mêmes. Elle déplace la responsabilité légale vers les entreprises qui intègrent les LLM dans leurs services, ce qui correspond à la stratégie de Microsoft avec Copilot. Pour les prestataires et intégrateurs, cela signifierait une obligation de mettre en place des surcouches de vérification et de contrôle des sorties des LLM.
L'auteur trouve cette approche contre-courant mais intéressante, estimant que les règles européennes actuelles sont « un petit peu à côté de la plaque », même s'il reconnaît que Nadella défend avant tout les intérêts de Microsoft qui est champion de cette approche écosystémique.
L'auteur suggère d'écouter cette proposition de régulation portant sur le « harness » (l'écosystème) plutôt que sur le LLM lui-même, car elle pourrait offrir une alternative aux approches réglementaires actuelles.
La difficulté de réguler les LLM vient notamment du fait qu'ils ne sont pas des logiciels classiques traçables, avec désormais du raisonnement en seconde couche et des sous-agents dont on ne peut plus rien tracer.
« Il nous faut absolument avoir la responsabilisation des intermédiaires. Il y a les fabricants de lm, ils font leur LM et ensuite il y a ceux qui rajoutent tout autour. »
Sources · 6 éditeur(s) indépendant(s)
- Microsoft's Nadella says AI needs an 'emergency brake' that humans control CNBC
- Microsoft's Satya Nadella says AI models need an 'emergency brake' TechCrunch
- Microsoft's CEO says AI industry is skipping a step that could matter a lot TheStreet
- Satya Nadella warns of AI insider risks, seeks stronger safety controls Business Standard
- AI Models Need To Be Treated Like Powerful Insiders Within Companies As Regards To Risk: Microsoft CEO Satya Nadella OfficeChai
- Microsoft leaders call for emergency brakes on rogue AI BetaNews
Selon Nadella, les LLM doivent être traités comme des humains qui peuvent être mal intentionnés ou faire des erreurs malgré leurs bonnes intentions, et nécessitent donc une supervision externe plutôt qu'une régulation interne.