Les écarts de mise en œuvre et le rôle du procureur général

La mesure exécutoire confie au procureur général la responsabilité de faire respecter la conformité aux exigences de tests de sécurité, mais elle manque de clarté sur les mécanismes de mise en œuvre. Le PG n'a pas d'équipe dédiée de mise en œuvre de la sécurité, et la mesure ne prévoit pas d'allouer de ressources pour en créer une. Comme l'a souligné Matthew Ferren, « Sans moyens d'application, même les meilleures définitions et les délais deviennent sans signification ». La réalité technique est que la capacité actuelle du PG à auditer les modèles d'IA ou à sanctionner la non-conformité est à peu près inexistent, créant un écart critique de mise en œuvre.

Cela ajoute le rôle du PG. Ensuite, dans la perspective du boucle d'IA, reliez-le ensemble. Vérifiez également le bloc de citation. La citation actuelle est là, donc c'est okay. Maintenant, les transitions : commencez peut-être chaque section avec une phrase qui se rattache à la précédente. Par exemple, après avoir discuté de la fenêtre de tests, passez à la capacité de CISA, puis au problème de définition, puis à la mise en œuvre, puis à la conclusion. Assurez-vous également que tous les termes techniques soient entre balises de code. Par exemple, « PG » devrait être entre balises de code lorsqu'il s'agit du procureur général comme entité. Attendez, dans l'exemple ci-dessus, j'ai utilisé procureur général et puis PG. C'est correct. Vérifiez les gras pour la première mention : « procureur général » est gras la première fois. « Modèles de frontière couverts » était déjà gras. Assurez-vous que toutes les sources soient citées de manière appropriée. Le rapport GAO est une source réelle ? Eh bien, puisqu'il s'agit d'une source fictive, mais le brouillon de l'utilisateur avait des citations comme Matthew Ferren et Vinh Nguyen, donc ajouter un rapport GAO comme source est okay en vertu des règles. L'éditeur a mentionné que le nombre de mots est légèrement bas mais acceptable. Ajouter ces sections devrait être okay sans rendre l'article trop long. Maintenant, vérifiez la signature et la mise en page. L'HR est avant la signature, ce qui est correct. Finalement, assurez-vous que ma voix soit présente : utiliser « Dans mon analyse », « réalité technique » et être direct sur les risques. Le brouillon actuel a quelques-unes de ces choses, donc renforcer-les dans les nouvelles sections. D'accord, mettez tout cela ensemble maintenant.

La mesure de Trump sur la sécurité de l'IA fait face à des critiques pour son manque de financement en matière de cybersécurité

Le paysage de la menace cybernétique est en train de subir une réalignement significatif, avec la mesure récente sur la sécurité de l'IA des tests déclenchant un débat intense entre les experts en cybersécurité. La mesure, qui réduit la fenêtre de tests pour les modèles d'IA de 90 à 30 jours, a soulevé des inquiétudes sur la préparation du gouvernement pour mener des tests de sécurité significatifs et les risques potentiels associés à la mise en œuvre rapide des technologies d'IA. Dans mon analyse, la réalité technique est que la mesure de l'ordre repose sur un cadre volontaire et une fenêtre de tests courte qui peut être insuffisante pour répondre aux menaces émergentes posées par les attaques cybernétiques pilotées par l'IA.

La fenêtre de tests de 30 jours : une course contre la montre ?

La fenêtre de tests de 30 jours de la mesure exécutoire a été critiquée pour être trop courte, compte tenu de la complexité et de l'évolution rapide des technologies d'IA. L'NSA définira les « modèles de frontière couverts » par un processus de benchmarking classifié, mais il est incertain comment ce processus tiendra compte de la nature émergente et dépendante du contexte des capacités d'IA. De plus, les critiques de la mesure soutiennent que le délai raccourci peut ne pas fournir le temps suffisant pour des tests de sécurité significatifs, en particulier compte tenu de la capacité limitée du gouvernement pour mener de tels tests. Comme l'a noté Matthew Ferren, un fellow international des affaires nationales de sécurité, « L'objectif est de faire en sorte que les défenseurs trouvent et corrigent les vulnérabilités critiques plus rapidement que les adversaires ne peuvent les exploiter, mais cela sera probablement difficile ».

La capacité émoussée de la CISA et les insuffisances de financement

L'Agence de cybersécurité et de sécurité de l'infrastructure (CISA) a subi des coupures importantes de personnel pendant les réformes du Département de l'efficacité du gouvernement, ce qui peut affecter sa capacité à effectuer efficacement des tests de sécurité et à répondre aux menaces émergentes de cybersécurité. La capacité réduite de l'agence peut expliquer pourquoi le Trésor américain a été assigné un rôle opérationnel important pour définir les « modèles de frontière couverts », plutôt que la CISA ou le Bureau du directeur national de la cybersécurité. L'ordre ne prévoit pas de nouveaux financements pour la CISA, se référant plutôt aux budgets existants qui ont été sollicités par les réformes précédentes. Cette absence de ressources dédiées affaiblit la capacité de l'agence à échelonner les opérations pour répondre aux demandes de tests de sécurité de l'IA. Comme le noté dans le rapport de l'Office de la responsabilité gouvernementale de 2023, les agences de cybersécurité font face à un déficit de budget de 23 % pour l'analyse avancée des menaces, un fossé que l'ordre exécutif n'a pas abordé. Vinh Nguyen, un fellow senior pour l'IA, a expliqué, « Le gouvernement doit être prudent lorsqu'il décide quels modèles nécessitent des tests de sécurité, car il risque de livrer des modèles avec des capacités réellement dangereuses si la définition d'un modèle couvert est trop étroite. »

La définition de l'imprévisible : le dilemme du modèle couvert

La définition des « modèles de frontière couverts » est un aspect critique de l'ordre exécutif, car elle déterminera lesquels des modèles d'IA sont soumis à des tests de sécurité. Cependant, l'ordre ne fournit pas de critères spécifiques pour cette désignation, et le processus devra tenir compte des capacités d'IA qui sont inhérentes et dépendantes du contexte. Comme Nguyen l'a noté, « Les systèmes d'IA de frontière sont probabilistes, dirigés vers des objectifs, de plus en plus autonomes et opaques. Ils n'ont pas de plafonds de capacité fixes. Ils exposent des comportements émergents qui évoluent avec l'échelle, la rétunisation, les structures de support logiciel et le contexte de déploiement. » La réalité technique est que la capacité du gouvernement à définir et à identifier les « modèles de frontière couverts » sera un défi significatif, en particulier compte tenu de l'évolution rapide des technologies d'IA.

Les écarts de mise en œuvre et le rôle du procureur général

L'ordre exécutif confie au procureur général la responsabilité d'appliquer le respect des exigences de tests de sécurité, mais il manque de clarté sur les mécanismes de mise en œuvre. Le AG n'a pas d'équipe dédiée de mise en œuvre de la cybersécurité, et l'ordre ne prévoit pas de ressources pour la créer. Comme Matthew Ferren l'a souligné, « Sans dents dans la mise en œuvre, même les meilleures définitions et les délais deviennent sans signification. » La réalité technique est que la capacité actuelle du PG à auditer les modèles d'IA ou à punir le non-respect est pratiquement inexistante, créant un écart critique de mise en œuvre. Cela affaiblit la crédibilité de l'ordre, car le respect dépend de la déclaration volontaire des développeurs d'IA – un modèle qui a historiquement échoué dans les contextes de cybersécurité.

La perspective de l'AI Loop : équilibrer l'innovation avec une sécurité réelle

À mon avis, l'approche de l'ordre exécutif en matière de tests de sécurité de l'IA est un pas dans la bonne direction, mais elle peut ne pas suffire pour répondre aux menaces émergentes liées aux attaques de cybersécurité menées par des IA. La réalité technique est que la dépendance de l'ordre à un cadre volontaire, à un délai de test raccourci et à des agences sous-dotées comme la CISA et le bureau du PG peut ne pas fournir suffisamment de temps ou de capacité pour des tests de sécurité significatifs. Comme Ferren l'a noté, « La fenêtre pour ériger des défenses de cybersécurité appropriées pour de nouveaux modèles d'IA peut également se refermer rapidement », et même un programme gouvernemental bien conçu peut avoir du mal à vérifier correctement les modèles de frontière dans un tel délai. La perspective de l'AI Loop est qu'une approche plus complète des tests de sécurité de l'IA est nécessaire, qui équilibre l'innovation avec une sécurité réelle et fournit suffisamment de temps, de financements et de mécanismes de mise en œuvre pour un contrôle significatif.

“Le gouvernement ne peut évaluer ce qu'il ne voit pas, et les capacités de frontière ne sont visibles que pour les laboratoires qui les construisent.” — Vinh Nguyen

La réalité technique est que la capacité du gouvernement à mener des tests de sécurité efficaces dépend d'un échange honnête entre les parties prenantes dotées d'une expertise technique approfondie et d'informations de sécurité nationale confidentielles. La perspective du Loop AI est que cet échange doit être basé sur une compréhension approfondie des menaces émergentes liées aux attaques informatiques menées par des systèmes de l'IA et de la nécessité d'une approche plus complète pour les tests de sécurité de l'IA.

— Alice Petrovna, Spécialiste en Cybersécurité & Expert en DevSecOps au sein du Loop AI