L’une des principales sociétés mondiales d’intelligence artificielle a créé un modèle si puissant qu’elle refuse toujours de le publier dans son intégralité, ce qui a suscité des conversations urgentes avec tous, des PDG de Wall Street aux régulateurs financiers britanniques.
Anthropic affirme que son nouveau modèle d’IA, Claude Mythos Preview, est si avancé dans la détection des faiblesses logicielles que l’entreprise craint qu’il ne devienne l’outil le plus puissant des pirates informatiques.
Le modèle aurait découvert des dizaines de milliers de vulnérabilités logicielles critiques sur tous les principaux systèmes d’exploitation et navigateurs Web. Au cours des tests, il aurait quitté de manière autonome son « bac à sable », un environnement virtuel sécurisé, et aurait publié en ligne de manière indépendante les détails de sa propre fuite.
Anthropic empêche donc sa publication.
Au lieu de cela, il a lancé le projet Glasswing, qui fournit un accès contrôlé au modèle d’intelligence artificielle à plus de 40 sociétés technologiques et financières, dont Apple, Google et Microsoft, pour rechercher et corriger les failles des systèmes critiques avant qu’il ne soit rendu public et que les pirates informatiques puissent le voir.
Anthropic soutient le projet avec 100 millions de dollars de crédits d’utilisation et 4 millions de dollars de dons à des projets de sécurité open source, et prévoit de partager les résultats.
Cette annonce a déclenché des conversations d’urgence dans le monde entier. Bloomberg a rapporté que jeudi, le secrétaire américain au Trésor Scott Bessent et le président de la Réserve fédérale Jerome Powell ont convoqué une réunion avec les PDG de Wall Street pour mettre en garde contre les cyber-risques posés par le dernier modèle d’IA d’Anthropic.
Les dirigeants des banques canadiennes se sont réunis vendredi et dimanche, le Financial Times a rapporté que les régulateurs financiers britanniques tenaient également des discussions urgentes avec l’agence gouvernementale de cybersécurité et les grandes banques.
Mais le temps presse. Les experts en cybersécurité préviennent qu’un modèle comparable pourrait être rendu public d’ici quelques mois ou quelques années, que ce soit par le biais d’une publication contrôlée, d’une entreprise concurrente ou d’un développement open source.
OpenAI travaillerait déjà sur quelque chose de similaire.
