L’AGI « à quelques années » : Demis Hassabis (Google DeepMind) alerte sur les risques d’une IA sans garde-fous

L’AGI serait « à quelques années », et la fenêtre pour l’encadrer se compterait en mois. C’est le message de Demis Hassabis, patron de Google DeepMind et prix Nobel de chimie 2024. Dans un manifeste publié sur X, il décrit une technologie au potentiel immense, mais des risques cyber déjà réels et des menaces biologiques et nucléaires à venir. Sa crainte : une course entre labos qui avance plus vite que notre compréhension de ce qu’on construit. Que faut-il retenir de son alerte ? Et surtout, qu’est-ce que ça implique concrètement ?
Demis Hassabis - Google DeepMind
Demis Hassabis – Google DeepMind

L’essentiel en bref

  • Hassabis planifie l’AGI « à quelques années » et parle des « contreforts de la singularité ».
  • Il alerte sur des risques cyber déjà présents, et des menaces biologiques et nucléaires à l’horizon.
  • Sa réponse : agir maintenant, pendant la fenêtre qui précède l’arrivée de l’AGI.

Le calendrier de Hassabis : l’AGI « à quelques années »

Le point de départ du manifeste est une prédiction.

Pour Demis Hassabis, l’AGI est « probablement à quelques courtes années ».

Il définit cette AGI comme un système doté de toutes les capacités cognitives du cerveau humain.

Selon lui, nous sommes déjà dans les « contreforts de la singularité ».

Il compare l’impact attendu à celui de la découverte du feu ou de l’électricité, pas à celui d’internet.

Son chiffrage : « dix fois la révolution industrielle, dix fois plus vite ».

10x L’impact que Hassabis prête à l’IA par rapport à la révolution industrielle, à une vitesse dix fois supérieure. (Source : Demis Hassabis)

Attention toutefois car ces annonces restent toutefois la conviction d’un dirigeant qui construit et vend cette technologie. Hassabis le reconnaît lui-même : sur ce calendrier, les experts ne sont pas d’accord.

Définition :

AGI : intelligence artificielle générale, un système capable d’égaler l’ensemble des capacités cognitives humaines, contre les IA actuelles, spécialisées sur des tâches précises.

Les risques que Hassabis pointe si rien n’est fait

Hassabis affirme que les modèles frontière (Claude Fable 5, GPT-5.6, …) posent déjà des problèmes de cybersécurité.

D’autres menaces pourraient suivre : risques biologiques et nucléaires, à mesure que les capacités progressent.

Il vise aussi un danger plus lointain : la perte de contrôle sur des systèmes de plus en plus agentiques et capables de s’améliorer eux-mêmes.

Son diagnostic sur la cause tient en une phrase : le secteur est enfermé dans une course commerciale et géopolitique très intense.

Résultat : les progrès sur la frontière dépassent notre compréhension de la technologie.

Sa réponse opérationnelle est un organisme de standards chargé de tester les modèles avant leur sortie, capable au besoin de coordonner un ralentissement entre labos.

Hassabis n’est pas isolé : d’autres voix du secteur, dont Dario Amodei chez Anthropic, plaident pour un cadre similaire, et les débats sur l’évolution de la réglementation montent partout.

Ce que ce scénario implique pour les pros du digital

Cette alerte venant de l’un des patrons de l’IA les plus influents ne doit pas être mis de côté.

Les risques cyber ne sont plus une projection : ils touchent déjà les outils que vous utilisez au quotidien.

Ensuite, votre dépendance à ces modèles augmente chaque trimestre.

Contenu, support, analyse de données, publicité : une part croissante de vos workflows repose désormais déjà sur un ou deux modèles d’IA de pointe.

Si la régulation se durcit, l’accès à ces modèles pourrait devenir moins prévisible.

Les pros ont déjà eu un aperçu de cet effet avec la suspension temporaire de Claude Fable 5.

4 réflexes deviennent utiles :

  • Tester plusieurs fournisseurs,
  • Garder une capacité de bascule,
  • Utiliser une plateforme professionnelle qui intègre le model routing automatisé (comme supasst le propose pour les professionnels du marketing),
  • et intégrer la sécurité dès la conception de vos usages IA.

Le manifeste évoque aussi des questions plus larges, comme un monde de « post-rareté » et l’impact de l’IA sur l’emploi.

Notre verdict :

Si la date d’arrivée de l’AGI est une projection à prendre avec un peu de recul, les risques cyber, eux, sont déjà bien réels. Pour les pros, il ne s’agit avant-tout de sécuriser ses usages de l’IA et de réduire sa dépendance à un seul modèle, dès maintenant.

Si l’AGI arrive bien « dans quelques années », votre entreprise sera-t-elle prête à travailler avec des modèles plus puissants, mais aussi plus surveillés ?

Un avis ? post

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *