Anthropic révolutionne le domaine de l’intelligence artificielle en démontrant comment une IA, Claude, parvient à surpasser les chercheurs humains dans l’amélioration d’autres modèles d’IA. À travers une étude rigoureuse, l’entreprise met en lumière le potentiel d’automatisation de la recherche en alignement, offrant ainsi une perspective inédite sur le futur des technologies intelligentes.
L’essentiel à retenir
- Claude, l’IA d’Anthropic, surpasse les chercheurs humains en améliorant les modèles d’IA en moins de six heures.
- Le coût de l’utilisation de Claude pour ces recherches est de 4 dollars par heure, comparé à 150 dollars pour un chercheur humain.
- Les méthodes de Claude conservent leur efficacité sur des modèles 4,7 fois plus grands que ceux utilisés pour l’entraînement.
Imaginez un laboratoire où une intelligence artificielle, nommée Claude, consulte la littérature scientifique, propose des méthodes correctives et les teste avec une efficacité impressionnante. Vous pourriez penser être dans un film de science-fiction, mais c’est la réalité que vit actuellement Anthropic, une entreprise à la pointe de l’innovation technologique.
Comment Claude améliore les modèles d’IA
Chaque semaine, nous sélectionnons les solutions les plus utiles pour les professionnels du digital : IA, productivité, marketing, création de contenu et business. Voici les outils que nous recommandons actuellement.
☁️ pCloud – Le stockage cloud sécurisé avec une offre à vie.
Sauvegardez vos fichiers, photos et documents importants avec plusieurs centaines de Go ou plusieurs To disponibles.
→ Découvrir l'offre pCloud
🛒 Shopify – Créez votre boutique e-commerce sans coder.
Une solution complète pour lancer, gérer et développer votre activité en ligne.
→ Tester Shopify gratuitement
🤖 Jasper – L'assistant IA pour accélérer votre marketing.
Création de contenus, campagnes publicitaires et idées marketing : gagnez du temps grâce à l'intelligence artificielle.
→ Découvrir Jasper
🎬 CapCut Pro – Le montage vidéo dopé à l'IA.
Créez rapidement des vidéos professionnelles avec des outils avancés et automatisés.
→ Tester CapCut Pro
📊 HubSpot CRM – Le CRM idéal pour structurer votre croissance.
Gérez vos prospects, vos ventes et vos campagnes marketing depuis une seule plateforme.
→ Découvrir HubSpot CRM
🧠 MindManager – Organisez vos idées et vos projets efficacement.
Un outil puissant pour créer des mind maps, structurer vos stratégies et mieux collaborer.
→ Découvrir MindManager
🇬🇧 Gymglish – Améliorez votre anglais professionnel chaque jour.
Des cours personnalisés et courts pour progresser facilement, quel que soit votre niveau.
→ Profiter de l'essai gratuit
🌍 Preply – Apprenez une langue avec un professeur particulier.
Trouvez un enseignant adapté à vos objectifs et progressez à votre rythme.
→ Trouver votre professeur
Anthropic a mis au point un système nommé Automated Alignment Researcher (AAR), où Claude joue le rôle central. Claude analyse les publications scientifiques, développe des méthodes de correction et les teste. Grâce à cette boucle de recherche automatisée, Claude parvient à proposer des solutions plus performantes que celles des chercheurs humains expérimentés. La surveillance par un agent spécifique garantit l’intégrité des propositions, évitant tricherie et biais.
Cette approche a été validée dans dix catégories de défaillances d’alignement, utilisant des bancs d’essai publics tels que Petri ou ConfAIde. Les résultats sont impressionnants, notamment dans la catégorie de la tromperie, où Claude parvient à combler 85% des écarts de sécurité, contre seulement 20% avec l’intervention humaine classique.
Des coûts et une efficacité inédits
L’un des arguments majeurs de cette innovation réside dans son coût. Avec seulement 4 dollars par heure, Claude représente une solution économique par rapport aux 150 dollars requis pour un chercheur humain. De plus, les performances sont au rendez-vous : Claude déploie ses meilleures propositions en moins de six heures.
Dans un test grandeur nature, Claude Sonnet 5 a aligné un modèle en développement, Opus 4.8, en 60 heures, comblant 65% de l’écart de sécurité avec seulement 2 000 exemples d’entraînement. Cela représente une réduction drastique par rapport aux procédures standard, nécessitant habituellement environ 15 000 fois plus d’exemples.
Les défis et limites de cette approche
Malgré ces succès, Anthropic reconnaît certaines limites. Les catégories testées sont relativement étroites par rapport aux défaillances rencontrées en production. De plus, la durabilité des corrections après un entraînement par renforcement reste à vérifier. Cependant, ces résultats préliminaires démontrent la faisabilité d’un alignement automatisé à court terme, même si la recherche vraiment ouverte par IA reste un défi.
Des chercheurs extérieurs, comme Sayash Kapoor de l’université de Princeton, soulignent les difficultés des IA à mener des recherches véritablement ouvertes, notamment en abandonnant trop tôt des pistes prometteuses.
Comment l’automatisation de l’ingénierie est en train d’évoluer
L’automatisation ne se limite pas à la recherche en alignement. Un autre aspect de l’innovation chez Anthropic concerne l’automatisation du travail d’ingénierie. D’après un mémo interne de juin, Claude contribue désormais à plus de 80% du code produit par l’entreprise, une augmentation spectaculaire par rapport aux moins de 5% avant février 2025.
Les questions éthiques et la créativité dans l’IA
La capacité des IA à mener des recherches créatives soulève des questions éthiques importantes. Jack Clark, cofondateur d’Anthropic, exprime ses doutes quant à un scénario d’auto-amélioration rapide de l’IA, en raison d’un manque de créativité.
FAQ
Qu’est-ce que Claude d’Anthropic ?
Claude est une intelligence artificielle développée par Anthropic, conçue pour améliorer les modèles d’IA en proposant et testant des méthodes correctives.
Quels sont les coûts associés à l’utilisation de Claude ?
Le coût de l’utilisation de Claude est d’environ 4 dollars par heure, ce qui est bien inférieur aux 150 dollars nécessaires pour un chercheur humain.
Claude peut-elle remplacer les chercheurs humains ?
Bien que Claude surpasse les chercheurs humains dans certaines tâches d’amélioration de l’IA, elle rencontre des limites dans les recherches réellement ouvertes et créatives.
Quel est le rôle de l’automatisation dans le travail d’ingénierie chez Anthropic ?
Anthropic intègre l’automatisation dans son travail d’ingénierie, avec Claude générant plus de 80% du code, marquant une avancée significative dans l’efficacité de l’entreprise.