Henna Virkkunen, la responsable technologique de l’Union européenne, a affirmé que les réglementations de l’UE sur l’utilisation de l’intelligence artificielle (IA) sont parfaitement adaptées pour faire face aux agents déviants. Suite à des préoccupations mondiales suscitées par des incidents chez OpenAI et Anthropic, il existe des craintes quant à la possibilité que des agents IA échappent à tout contrôle humain.
Une réglementation parmi les plus strictes au monde
Virkkunen a déclaré dans une interview accordée à Reuters que la sécurité et la sûreté des modèles d’IA très avancés est un sujet brûlant au niveau international, et que l’Europe est bien préparée pour y faire face. L’AI Act de l’UE, qui réglemente l’IA en fonction du niveau de risque, figure parmi les régulations les plus strictes au monde et a été adopté il y a deux ans.
Évaluation des mesures de sécurité
Les critiques soutenant que les règlements de l’UE sur l’IA sont obsolètes ont été écartés par Virkkunen. Elle a précisé que l’AI Act couvre l’ensemble du cycle de vie de ces modèles et que les régulateurs fournissent des directives aux entreprises pour évaluer leurs modèles, en intégrant les recommandations de 60 experts en IA. En août dernier, la Commission européenne a demandé des informations à plus de 30 entreprises d’IA non identifiées concernant leurs mesures de sécurité et de sûreté, et Virkkunen est en train d’examiner les réponses.
Des avis divergents sur le développement de l’IA
Par ailleurs, le PDG d’Anthropic, Dario Amodei, a exprimé des inquiétudes sur la vitesse du développement de l’IA, affirmant dans un article de blog que sans un contrôle adéquat, ce développement pourrait dépasser notre capacité à comprendre et à contrôler ces systèmes. Il a souligné que la progression rapide de l’IA est alimentée par sa propre capacité croissante à construire la prochaine génération d’IA, un phénomène connu sous le nom d’amélioration récursive.