L’essentiel en bref
- Hassabis propose un organisme de standards US, sur le modèle de la FINRA, pour évaluer les modèles d’IA frontière.
- Les labos partageraient leurs modèles jusqu’à 30 jours avant leur sortie, avant un passage possible à un test obligatoire pour le marché américain.
- La proposition arrive après les revues improvisées de Washington sur Mythos, Fable et Sol, jugées opaques.
Ce que Hassabis propose : un « FINRA de l’IA »
Le cœur de la proposition tient en une idée.
Créer aux États-Unis un organisme de standards capable de tester les modèles d’IA les plus avancés.
Hassabis le décrit comme un partenariat public-privé supervisé au niveau fédéral, ou un organisme d’autorégulation.
Sa référence : la FINRA, l’autorité qui encadre les courtiers aux États-Unis.
Le conseil réunirait des experts techniques indépendants et des représentants de l’open source.
Le financement viendrait surtout de l’industrie, pour attirer les talents et payer la puissance de calcul nécessaire aux tests.
Définition :
Modèle frontière : modèle d’IA qui dépasse certains seuils de capacité fixés par des benchmarks, et donc surveillé en priorité pour ses risques potentiels.
Comment le contrôle fonctionnerait avant la sortie d’un modèle ?
Le dispositif démarrerait sur la base du volontariat.
Les labos partageraient leurs modèles avec l’organisme jusqu’à 30 jours avant leur lancement.
Une fois le protocole jugé fiable, Hassabis prévient que la formalisation « pourrait suivre rapidement ».
Traduction : passer le test deviendrait une condition pour déployer un modèle sur le marché américain.
Les évaluations porteraient sur la cybersécurité, les risques biologiques et d’autres domaines à haut risque.
Des tests spécifiques cibleraient les comportements agentiques : tentatives de contourner les garde-fous, signes de tromperie.
Hassabis cite aussi deux bonnes pratiques : le filigrane des images générées et des tokens de sortie lisibles pour comprendre le raisonnement du modèle.
Les benchmarks seraient revus régulièrement, chaque trimestre pour commencer.
Les tests saturés ou dépassés seraient retirés, avec l’appui d’auditeurs tiers.
Point le plus lourd de conséquences : l’organisme pourrait coordonner un ralentissement du développement entre labos frontière si la situation l’exige.
Pourquoi cette proposition tombe maintenant ?
Hassabis part d’un constat.
Le secteur est pris dans une course commerciale et géopolitique intense.
Les progrès sur la frontière dépassent, selon lui, notre compréhension de la technologie.
Le calendrier n’est pas neutre.
D’après Axios, la proposition répond aux revues improvisées de Washington sur Mythos et Fable d’Anthropic et Sol d’OpenAI.
Ces contrôles ont été critiqués pour leur manque d’expertise technique et leur opacité.
Les pros ont d’ailleurs vu concrètement l’effet de ces décisions avec la suspension temporaire de Claude Fable 5.
Hassabis n’est pas seul sur cette ligne : Dario Amodei, patron d’Anthropic, avait avancé une idée voisine un mois plus tôt.
Reste la toile de fond du manifeste, plus spéculative.
Hassabis situe l’AGI « à quelques années » et parle des « contreforts de la singularité ».
Il évoque un impact « dix fois celui de la révolution industrielle, dix fois plus vite ».
Ces prédictions restent des affirmations d’un dirigeant, pas des faits établis, et les experts eux-mêmes ne s’accordent pas sur le calendrier.
Ce que ça change concrètement pour les pros du digital
L’enjeu pour vous n’est pas l’AGI, c’est la disponibilité des modèles que vous intégrez déjà dans vos workflows.
Si le test devient obligatoire, la sortie d’un modèle frontière sur le marché US passerait par une fenêtre d’évaluation.
Concrètement, cela peut décaler ou conditionner l’accès aux dernières versions.
Le cadre viserait les modèles frontière quel que soit leur pays d’origine, qu’ils soient ouverts ou fermés.
Bonne nouvelle pour les petits acteurs : les modèles non frontière, issus de startups ou de la recherche, seraient exemptés.
Pour une équipe qui construit sur ces modèles, l’enseignement est clair.
La dépendance à un seul fournisseur de modèle d’IA de pointe devient un point de vigilance opérationnel.
Surveiller les alternatives, tester plusieurs modèles, garder une capacité de bascule : ces réflexes prennent de la valeur.
La proposition reste pour l’instant un texte personnel, pas une loi, et son adoption dépend de Washington, de l’évolution de la réglementation et de l’accord des autres labos.
Notre verdict :
Le débat sur l’AGI captera l’attention, mais l’information utile est ailleurs. En posant une procédure d’évaluation avant sortie, Hassabis dessine un futur où l’accès aux modèles de pointe pourrait être conditionné. C’est ce point, pas la prophétie sur la singularité, que les équipes marketing et produit doivent suivre.
Si demain la sortie des modèles que vous utilisez dépend d’un test de sécurité, êtes-vous prêts à changer de fournisseur du jour au lendemain ?
Principalement passionné par les nouvelles technologies, l’IA, la cybersécurité, je suis un professionnel de nature discrète qui n’aime pas trop les réseaux sociaux (je n’ai pas de comptes publics). Rédacteur indépendant pour LEPTIDIGITAL, j’interviens en priorité sur des sujets d’actualité mais aussi sur des articles de fond. Pour me contacter : [email protected]
