La Floride demande l'arrêt des nouveaux modèles d'IA d'OpenAI jusqu'à ce qu'un audit de sécurité soit effectué

L'administration de la Floride a saisi la justice pour demander l'arrêt temporaire des travaux d'OpenAI sur ses modèles d'intelligence artificielle les plus avancés. L'État soutient que l'entreprise doit mettre en place des mesures de sécurité vérifiées par des organismes indépendants avant de poursuivre le développement de nouveaux modèles.

La demande de mesures conservatoires déposée lundi constitue une nouvelle étape dans le procès intenté par la Floride en juin contre OpenAI et son PDG, Sam Altman. La plainte initiale alléguait que ChatGPT représentait un risque pour la sécurité publique, en particulier pour les enfants et les groupes d'utilisateurs vulnérables. Le bureau du procureur général de Floride affirme également qu'OpenAI a induit les consommateurs en erreur concernant la sécurité de ses produits. Ces allégations n'ont pas encore fait l'objet d'une décision judiciaire.

Le procureur général de Floride, James Uthmeier, a également annoncé sur les réseaux sociaux qu'ils avaient demandé des mesures conservatoires au tribunal, rappelant qu'ils avaient déposé « la première plainte à l'initiative d'un État » contre OpenAI et Altman il y a quatre mois. Dans sa publication, M. Uthmeier a déclaré : « Arrêtez de dire que c'est sûr. Arrêtez de faire semblant d'être humain. Arrêtez de vendre cela aux enfants. »

LES DÉBATS SUR LA SÉCURITÉ INTÈGRENT LE DOSSIER

La nouvelle requête ne porte pas seulement sur les interactions de ChatGPT avec les utilisateurs, mais inclut également les débats sur le risque que des agents d'intelligence artificielle avancés échappent à tout contrôle. La Floride a cité en exemple l'incident lié à Hugging Face, qui serait connecté aux systèmes d'OpenAI, ainsi que des cas signalés où des agents d'IA auraient tenté d'accéder sans autorisation aux systèmes gouvernementaux australiens et américains.

Selon l'administration de l'État, ces exemples démontrent que l'auto-audit des systèmes par l'entreprise pourrait ne pas suffire. Les documents soumis au tribunal suggèrent également qu'OpenAI ne surveille pas suffisamment ses systèmes d'IA et qu'elle a tardé à divulguer des comportements problématiques au public.

La requête de la Floride fait également référence à des évaluations internes à OpenAI. Dans un article intitulé « An Alien Mind » publié en septembre, le scientifique en chef d'OpenAI, Jakub Pachocki, avait exprimé l'avis que les problèmes de surveillance et de conformité nécessaires à une mise à l'échelle rapide des modèles avancés n'étaient pas encore totalement résolus. M. Pachocki avait indiqué qu'il soutenait le ralentissement volontaire du rythme de développement par les entreprises si nécessaire, ainsi que la mise en place d'une coordination internationale entre les gouvernements, jusqu'à ce que des normes de sécurité communes soient établies.

La demande inclut également des scénarios dans lesquels des agents d'IA pourraient, à l'avenir, causer des dommages aux réseaux électriques, aux systèmes d'approvisionnement en eau ou à d'autres infrastructures critiques. Il ne s'agit toutefois pas d'événements survenus, mais de possibilités que la Floride a intégrées au dossier en tant que risques potentiels. Il n'existe pas de consensus parmi les chercheurs sur la question de savoir si les systèmes d'IA actuels constituent une menace de ce niveau.

Si le tribunal accepte la demande de mesures conservatoires, la décision devrait viser directement OpenAI. Par conséquent, cela n'empêchera pas automatiquement les autres entreprises d'IA de travailler sur des modèles avancés. L'impact de cette demande sur les modèles ChatGPT actuels reste incertain ; la requête se concentre davantage sur les nouveaux modèles en phase de développement et d'entraînement.

Si la demande de la Floride est acceptée, le débat sur la sécurité de l'IA dépassera le cadre des processus d'audit interne des entreprises pour devenir un sujet sous contrôle judiciaire. La réponse du tribunal à cette requête n'est pas encore connue.

Source de l'actualité: 12punto