Le PDG de CrowdStrike, George Kurtz, s'oppose aux appels au ralentissement de l'IA : la solution réside dans le contrôle à l'exécution

Le PDG de CrowdStrike, George Kurtz, s'est opposé au débat sur la nécessité de ralentir le rythme de développement des « modèles de frontière » dans le domaine de l'intelligence artificielle. M. Kurtz a déclaré que les modèles avancés et à poids ouverts étant déjà largement accessibles, ralentir les activités de développement à ce stade ne permettrait pas d'éliminer les risques de cybersécurité existants.

S'exprimant sur CNBC après l'appel du PDG d'Anthropic, Dario Amodei, à ralentir le développement de modèles d'IA plus puissants, M. Kurtz a souligné que des modèles dotés de capacités dangereuses sont désormais en circulation publique. Décrivant la situation par l'expression « le génie est sorti de la bouteille », M. Kurtz estime que le besoin réel n'est pas d'essayer d'arrêter les modèles, mais de mettre en place des systèmes de sécurité capables de surveiller ce qu'ils font lors de leur utilisation réelle et d'intervenir si nécessaire.

L'approche de M. Kurtz se concentre sur le débat sécuritaire, devenu plus critique avec la prolifération des agents d'IA autonomes. Tout en reconnaissant que ces systèmes peuvent créer des risques sérieux, le PDG de CrowdStrike soutient que la solution n'est pas une politique de ralentissement général, mais des contrôles à l'exécution qui limitent les autorisations des agents, rendent leurs opérations visibles et bloquent les comportements malveillants.

Le débat est apparu dans une période agitée pour les valeurs technologiques. La hausse de l'action CrowdStrike, passée de 206 dollars à plus de 235 dollars lundi, a également placé les évaluations de l'entreprise axées sur l'IA et la cybersécurité au centre de l'attention du marché.

DEUX APPROCHES DANS LE DÉBAT SUR LA SÉCURITÉ

La sortie de M. Kurtz coïncide avec des préoccupations croissantes en matière de sécurité suite aux récentes attaques liées à Hugging Face et RubyGems. Ces événements ont ouvert le débat non seulement sur la puissance des modèles d'IA, mais aussi sur les accès et les autorisations d'exécution qui devraient être accordés aux systèmes autonomes. Dans le même temps, la publication par Microsoft de mises à jour pour 974 vulnérabilités de sécurité, dont deux failles « zero-day » dans le cadre du « Patch Tuesday », illustre l'ampleur de la pression sur le front de la défense.

Le PDG de CrowdStrike partage une ligne similaire à celle de David Sacks sur la nécessité d'un contrôle strict des agents autonomes. Cependant, il reste prudent vis-à-vis des interventions étatiques massives. Selon M. Kurtz, des réglementations trop lourdes pourraient affaiblir la compétitivité des États-Unis face à leurs rivaux mondiaux. C'est pourquoi il estime que des modèles où les laboratoires d'IA et les entreprises de sécurité travaillent ensemble, en déplaçant le contrôle vers l'environnement de production, sont plus applicables.

Dans ce cadre, M. Kurtz a cité l'initiative Project Glasswing d'Anthropic en exemple. Le projet vise à combiner les protections au niveau du laboratoire avec des outils de surveillance à l'exécution dans l'environnement de production pour le modèle Mythos d'Anthropic. Ainsi, la sécurité ne se limite pas aux restrictions lors de la phase de développement du modèle ; la surveillance de ses comportements lorsque le modèle fonctionne dans un environnement réel devient également une partie intégrante de la défense.

L'appel de M. Amodei a suscité des débats au-delà du secteur technologique. L'administration Trump s'est opposée au ralentissement du rythme de développement de l'IA, arguant que cela pourrait désavantager les États-Unis face à la Chine. La partie chinoise a également exprimé l'opinion qu'une approche basée sur la peur et une concurrence acharnée nuirait à la gouvernance mondiale de l'IA.

Le débat se structure ainsi autour de deux axes principaux : la proposition de ralentir les progrès avant l'émergence de modèles plus puissants, et l'approche consistant à accepter que les modèles actuels sont déjà accessibles et à orienter les investissements de sécurité vers la surveillance en temps réel, les contrôles d'agents et les outils de défense. M. Kurtz trouve la seconde voie plus réaliste et applicable.

Source de l'actualité: 12punto