DARPA fait appel aux hackers pour renforcer les logiciels critiques contre les menaces cybernétiques

DARPA cherche hackers pour renforcer logiciels contre menaces cybernétiques

L’urgence de sécuriser les infrastructures logicielles vulnérables est au cœur d’un nouveau programme ambitieux de la DARPA – le Défi Cyber AI (AIxCC). Grâce à des compétitions impliquant les meilleurs talents en matière de sécurité, l’AIxCC vise à stimuler des outils innovants qui détectent automatiquement et corrigent les failles à grande échelle.

Comme l’a souligné Perri Adams, responsable du programme AIxCC de la DARPA, lors de son annonce à BlackHat 2023, la vie moderne dépend de plus en plus des logiciels, mais cette base de code étendue représente une surface d’attaque majeure pour les acteurs malveillants. Les années récentes ont révélé le besoin urgent de capacités avancées pour sécuriser nos fondations logicielles.

Adams estime que les compétitions peuvent permettre des avancées à l’intersection de l’intelligence artificielle et de la sécurité. Elle s’est d’abord passionnée pour la cybersécurité grâce à des jeux de Capture the Flag lorsqu’elle était étudiante en informatique. La concurrence contre des hackers d’élite a été très éducative, révélant les diverses compétences requises pour la défense. Ces concours continuent d’influencer son approche pour catalyser l’innovation.

L’AIxCC représente une nouvelle forme de défi visant à stimuler des progrès dans la sécurisation des logiciels vulnérables qui soutiennent les systèmes critiques. Les équipes doivent créer des systèmes d’IA capables d’identifier et de corriger automatiquement les vulnérabilités à grande échelle pour réussir.

• Anthropic a levé 100 $ auprès de la société de télécommunications sud-coréenne pour un LLM personnalisé.
• AdaTape de Google AI est une nouvelle approche d’IA avec une architecture basée sur les transformateurs
• Démasquer les Deepfakes Exploiter les modèles d’estimation de la pose de la tête pour une précision de détection améliorée

Adams souligne les progrès récents de l’IA qui offrent des perspectives prometteuses pour anticiper les menaces si elles sont utilisées de manière responsable. L’AIxCC vise à réunir les meilleurs talents en matière d’IA et de sécurité pour explorer ce potentiel à travers la compétition. Elle estime que le pouvoir des défis est une fonction contraignante et une collaboration jusqu’à présent manquante. L’AIxCC est une occasion de montrer comment l’IA peut être appliquée de manière significative aux plus grands défis numériques de la société.

L’AIxCC vise à relever le défi de la sécurisation des infrastructures en mobilisant des chercheurs en sécurité et des experts en IA dans une mission collaborative. Le programme de deux ans comprend des volets financés et ouverts pour les équipes qualifiées qui souhaitent participer à la résolution des problèmes de sécurité des logiciels.

L’objectif est de surmonter les contraintes de ressources qui empêchent la correction manuelle des failles logicielles omniprésentes. Les concurrents utiliseront des techniques d’IA pour développer des systèmes automatisés de sécurisation du code largement utilisé à l’échelle de l’infrastructure nationale.

Des acteurs clés du secteur privé, dont Anthropic, Google, Microsoft et OpenAI, fourniront un accès aux principales plates-formes d’IA pour les concurrents. La DARPA s’attend à ce que l’intégration de l’IA commerciale de pointe catalyse des innovations révolutionnaires en matière de cybersécurité.

Le projet OpenSSF de la Linux Foundation conseillera les équipes sur l’application efficace de l’IA aux problèmes de sécurité des logiciels open-source, qui représentent la majorité des logiciels nécessitant une protection. Des événements auront lieu lors des prestigieuses conférences de sécurité DEFCON et BlackHat.

Jusqu’à sept équipes financées peuvent recevoir jusqu’à 750 000 $ chacune pour participer aux demi-finales, où une vingtaine d’équipes au total se qualifieront pour la finale. Des prix pouvant atteindre 75 000 $ seront décernés aux meilleurs participants qui démontreront le mieux le potentiel de l’IA pour renforcer l’intégrité des logiciels.

En sollicitant des ingénieurs en sécurité compétents pour trouver et corriger les failles de manière proactive, l’AIxCC illustre une stratégie éclairée pour la défense cybernétique. Le programme reconnaît que les technologues sont un allié puissant dans la construction de la résilience, plutôt qu’une responsabilité à contrôler.

L’AIxCC vise à cultiver des capacités avancées avant que les catastrophes ne se produisent en incitant les hackers à mettre leurs talents à contribution. Le développement de solutions autonomes dès aujourd’hui permettra de sécuriser les systèmes critiques contre les attaques des nations adverses à l’avenir.

Grâce à ce partenariat public-privé innovant, la DARPA cherche à canaliser le potentiel immense de l’IA au profit de la société en renforçant le code vulnérable qui constitue les piliers de notre monde interconnecté.

Adams estime que l’AIxCC s’appuiera de manière réfléchie sur des décennies de recherche en matière de sécurité plutôt que de simplement appliquer des réseaux neuronaux aux problèmes. L’objectif est de stimuler une innovation substantielle à la croisée de l’IA et des méthodologies éprouvées.

Elle souligne le rôle crucial que joue l’open source dans la défense et l’intégrité de la chaîne d’approvisionnement. Le projet OpenSSF de la Linux Foundation conseillera les équipes sur la résolution des problèmes vitaux de sécurité open-source.

Dans la vision d’Adams, les vainqueurs de l’AIxCC contribueront au bien public en rendant leurs innovations open source. Les nouvelles capacités autonomes développées seront librement disponibles pour les développeurs commerciaux et communautaires.

En fin de compte, Adams considère l’AIxCC comme une opportunité de diriger les immenses capacités de l’IA vers le bénéfice de la société. Le programme reconnaît que les technologues sont des partenaires dans la construction de la résilience numérique. En incitant leurs talents, l’AIxCC vise à cultiver des systèmes de défense avancés prêts à affronter les menaces de demain.

We will continue to update IPGirl; if you have any questions or suggestions, please contact us!