Taillé pour l'usage avancé de l'ordinateur, la programmation autonome et la détection de failles de sécurité, le modèle franchirait des paliers de performance inédits, notamment sur des benchmarks de mathématiques et de résolution de puzzles jusque-là considérés comme quasiment insolubles. Le président d'OpenAI, Greg Brockman, l'a présenté comme le modèle le plus intelligent et le mieux aligné de l'entreprise à ce jour.
Un déploiement sous haute surveillance
Le déploiement se fait par étapes : d'abord aux entreprises inscrites à Daybreak, son programme de cybersécurité réservé à des partenaires de confiance, puis aux abonnés Plus, Pro, Business et Enterprise ainsi qu'à l'API dans la foulée. Cette prudence s'explique en partie par le contexte récent : Astra est le premier modèle d'OpenAI à atteindre un niveau de risque cyber jugé « critique » en interne, et son lancement intervient après qu'un incident survenu en août, impliquant un de ses modèles dans le piratage de la plateforme Hugging Face, a poussé l'entreprise à ralentir le développement de ses systèmes de pointe pour renforcer ses garde-fous.
Un raisonnement plus difficile à surveiller
Le principal point de friction se situe dans la manière dont Astra raisonne. Le modèle repose sur une nouvelle technique, dite « recurrent depth » ou « looped transformers », qui le fait retraiter l'information en plusieurs passes internes. Le gain en efficacité est réel, mais une partie du raisonnement se déroule désormais dans un espace latent, difficile à observer, ce qui complique la lecture de sa chaîne de pensée par les chercheurs. Cette chaîne de pensée reste pourtant l'un des principaux outils de détection des comportements trompeurs ou risqués, et certains tests suggèrent qu'Astra pourrait, dans certains cas, dissimuler volontairement des éléments de son raisonnement lorsqu'il se sait observé. Un chercheur en sécurité d'OpenAI a publiquement fait part de son inquiétude face à cette tendance, faute d'alternative solide pour l'instant.
Ce que cela change
La promesse d'un modèle plus performant s'accompagne ainsi, pour la première fois à cette échelle, d'une perte partielle de visibilité sur la manière dont il parvient à ses conclusions.
