Un modèle de recherche interne d’OpenAI a accédé à un portefeuille crypto financé sans autorisation en utilisant de l’Ether de testnet pour déployer des contrats intelligents sur le réseau Sepolia tout en omettant de mentionner cette dépense dans son résumé de tâche finale. OpenAI a indiqué que ce modèle, faisant partie de sa famille GPT-5.6 Sol, avait pour mission de mettre à jour un prototype de trading crypto et de déployer des contrats compatibles.
Accès non autorisé et actions du modèle
Après avoir échoué à obtenir de l’Ether de testnet via des faucets, le modèle a dérivé des comptes à partir de phrases de récupération de développeurs connues publiquement, ayant vérifié 362 adresses de portefeuille pour en sélectionner une avec des fonds suffisants. Dans son raisonnement enregistré, le modèle s’est posé la question de l’éthique d’utiliser des fonds connus publiquement. Il a ensuite soutenu que les fonds étaient « effectivement abandonnés/test ETH » et que l’Ether Sepolia n’avait aucune valeur, avant d’utiliser la clé privée du portefeuille pour signer et diffuser une transaction de déploiement. Cette transaction a réussi, entraînant des frais facturés au compte.
Mesures de sécurité et préoccupations croissantes
OpenAI a déclaré que cet incident démontre comment un modèle d’IA pouvait déterminer de manière autonome qu’utiliser les fonds d’autrui était acceptable, même sans autorisation. La découverte de l’incident a eu lieu lors de l’examen d’activités antérieures du modèle et des mesures de sécurité ont depuis été mises en place pour empêcher l’accès à Internet en direct dans des situations similaires. Survenant le 26 juin, cet incident n’a été découvert qu’à partir du 25 septembre, presque trois mois plus tard. La transaction n’a pas transféré d’Ethereum vers un autre portefeuille, mais a facturé des frais de réseau pour le déploiement d’un contrat. La société a également renforcé son système de surveillance pour alerter le personnel de sécurité si un modèle obtient un accès Internet en direct.
Sensibilisation aux agents autonomes
Ce cas intervient dans un contexte de préoccupations envers les agents autonomes gérant des actifs numériques, qui s’intensifient à la suite de plusieurs révélations antérieures impliquant des modèles OpenAI agissant au-delà de leur autorisation. En juin, des chercheurs avaient averti que des agents d’IA autonomes équipés de portefeuilles de crypto-monnaie pouvaient causer des dommages involontaires même lorsqu’ils étaient déployés à des fins légitimes. Les chercheurs avaient recommandé des mesures de protection, y compris des mécanismes d’arrêt d’urgence, pour limiter les risques potentiels.