Claude Mythos : le modèle d’IA le plus dangereux jamais créé ?

Cela fait deux semaines qu’Anthropic, créateur de Claude, a dévoilé son tout nouveau modèle surpuissant, Claude Mythos. Cette intelligence artificielle est tellement avancée que la firme a décidé de ne pas autoriser l’accès au public, jugeant que ce serait trop dangereux. La raison évoquée est qu’elle est trop performante dans la détection des failles de sécurité dans les logiciels et systèmes d’exploitation.

Anthropic a donc annoncé par la même occasion le projet Glasswing, un partenariat avec de grandes entreprises afin qu’elles puissent utiliser Claude Mythos pour évaluer et corriger les failles de sécurité dans leurs propres logiciels. Hélas, il semble que les mesures de sécurité mises en place soient insuffisantes. Selon Bloomberg, des personnes non autorisées ont réussi à accéder à Mythos.

Un accès non autorisé par des passionnés

La bonne nouvelle, c’est que ce ne sont pas, a priori, de dangereux cybercriminels, mais simplement des passionnés d’intelligence artificielle. Ils échangent via Discord, et se servent d’outils pour trouver des informations concernant de nouveaux modèles qui n’ont pas été annoncés sur des sites comme GitHub.

« Nous enquêtons sur un rapport faisant état d’un accès non autorisé à Claude Mythos Preview via l’environnement de l’un de nos prestataires tiers », a déclaré un porte-parole d’Anthropic. Selon ce rapport, l’un d’entre eux travaillait chez un des prestataires et a pu utiliser son accès combiné à d’autres outils pour leur permettre d’utiliser Claude Mythos. Ils ont notamment dû deviner où se situait le modèle en ligne, en se basant sur les autres de la firme. Ils s’en serviraient régulièrement depuis le jour de l’annonce du modèle et n’auraient pas testé les capacités de Claude Mythos en matière de cybersécurité, préférant tester d’autres tâches pour éviter de se faire repérer. Le groupe aurait même eu accès à d’autres modèles qui n’ont pas encore été annoncés.

Cela illustre le danger que pourraient poser les IA les plus avancées, même si elles ne sont pas accessibles par le grand public. Si des individus mal intentionnés ne parviennent pas à forcer les défenses d’Anthropic, ils peuvent tenter de passer par un prestataire ayant accès au système, dont la sécurité est souvent moins robuste. Ce n’est sans doute pas la dernière fois que des personnes non autorisées y auront accès.

Mozilla corrige 271 failles dans Firefox

Mais peut-être que le jeu en vaut la chandelle. Mozilla a pu accéder à Claude Mythos, afin de soumettre son navigateur Firefox à une analyse approfondie. Le résultat est impressionnant. L’organisme avait déjà utilisé Claude Opus 4.6 pour inspecter le code de Firefox, et le chatbot avait détecté 22 failles de sécurité. Mozilla vient d’annoncer la sortie de Firefox 150 qui corrige pas moins de 271 failles détectées par Claude Mythos. C’est un chiffre vertigineux !

Lire l’article

La cybersécurité a toujours été une course contre la montre entre les spécialistes et les hackers, sans qu’aucun des deux camps ne prenne réellement l’avantage. Avec des outils comme Claude Mythos, les développeurs des logiciels semblent enfin avoir une longueur d’avance, et Mozilla envisage déjà la fin des failles « zero-day ». Est-il possible qu’à terme la recherche de failles soit exhaustive, et que même si les modèles comme Claude Mythos tombent entre de mauvaises mains, ce ne serait pas grave puisqu’il n’y aurait plus de failles à découvrir ?

La fin de l’obsolescence ?

Ce genre d’avancée pourrait avoir des répercussions sur notre rapport à nos appareils électroniques. Même si les constructeurs améliorent leur politique de publication de mises à jour de sécurité pour leurs nouveaux appareils, de nombreux appareils plus anciens, comme les smartphones, tablettes et même téléviseurs, ne reçoivent déjà plus de mises à jour et sont donc exposés à des risques.

Lire l’article

Et n’oublions pas Windows 10, dont la fin du support étendu est prévue pour le mois d’octobre, alors que de nombreux appareils sont incompatibles avec Windows 11. S’il n’y avait plus de failles, ces appareils pourraient continuer à fonctionner sans risque beaucoup plus longtemps. Ils ne recevraient plus de nouvelles fonctionnalités et présenteraient sans doute des problèmes de compatibilité, mais ils ne risqueraient pas d’être piratés.