La NSF lance un fonds de 50M$ pour développer des IA plus sûres et explicables

Un programme fédéral pour des systèmes d'IA fiables et transparents

La National Science Foundation (NSF) a dévoilé un important fonds de recherche consacré au développement d'intelligences artificielles plus sûres et compréhensibles. Doté de 50 millions de dollars, le programme de subventions pour la sécurité de l'IA financera des recherches visant à créer des modèles d'apprentissage automatique robustes et interprétables, utilisables dans des applications critiques comme la santé, les transports ou la sécurité nationale.

L'urgence de sécuriser l'IA

Alors que les systèmes d'IA s'intègrent toujours plus à notre quotidien, les inquiétudes concernant leur fiabilité et leurs processus décisionnels grandissent. Des incidents récents impliquant des comportements imprévisibles d'IA dans des véhicules autonomes ou des outils de diagnostic médical ont souligné le besoin crucial de systèmes plus transparents. L'initiative de la NSF répond directement à ces préoccupations en finançant des recherches sur :

• Des modèles résistants aux attaques adverses
• Des IA explicables montrant leur "raisonnement"
• Des performances stables dans diverses conditions réelles
• Des standards de sécurité vérifiables pour le déploiement de l'IA

Structure du programme et priorités

Le programme attribuera des subventions de 500 000$ à 5M$ dans trois domaines clés. La recherche fondamentale explorera de nouveaux cadres mathématiques pour une IA fiable, tandis que les projets appliqués développeront des protocoles de sécurité sectoriels. Une part importante soutiendra également la création d'outils open-source aidant les développeurs à tester et valider leurs systèmes.