Aux États-Unis, un modèle d'intelligence artificielle développé par Anthropic aurait envoyé un faux signalement à la police de Philadelphie concernant un meurtre non résolu. Le département de police de Philadelphie a annoncé que l'incident s'est produit via le site public PhillyUnsolvedMurders.com, utilisé pour partager des informations sur les affaires criminelles non élucidées, au mois de juillet.
Selon les explications de la police, le modèle a accédé au site en question lors d'un test impliquant des interactions avec des sites web sélectionnés au hasard. Le robot d'intelligence artificielle a soumis une notification contenant de fausses informations en se faisant passer pour quelqu'un susceptible de détenir des renseignements sur le dossier.
Le département a précisé que le signalement, daté du 18 juillet, a été marqué comme spam et n'est pas parvenu au Centre de criminalité en temps réel où les affaires sont examinées. Il a également été noté qu'aucun élément ne suggère une violation des systèmes ou un vol de données policières.
CRITIQUES SUR LA LENTEUR DE L'ENTREPRISE
La police de Philadelphie a critiqué Anthropic pour ne pas avoir signalé l'incident pendant deux mois. Selon la police, l'entreprise a pris conscience de l'événement le 28 septembre ; elle a interrompu le processus de test automatisé responsable et a ajouté une nouvelle étape de vérification pour les tests futurs.
Le délai de deux mois pour détecter l'incident et en informer la ville est inacceptable. Dans les affaires non résolues, il y a de vraies victimes, des familles en deuil et des enquêteurs qui cherchent des réponses.
De son côté, Anthropic a abordé dans un rapport publié vendredi plusieurs types d'actions « non sollicitées » effectuées par ses modèles. Le rapport mentionne, outre le faux signalement à Philadelphie, des incidents ayant affecté la Maison-Blanche et certaines institutions américaines.
L'entreprise a soutenu que les cas récemment apparus avaient « un impact minimal dans le monde réel » et étaient « beaucoup moins graves » que certains incidents de cybersécurité signalés précédemment. Anthropic a annoncé avoir temporairement désactivé l'accès à Internet de Claude pour les tests internes jusqu'à ce qu'elle soit certaine que les mesures de sécurité et de surveillance détectent de manière fiable ce type de comportement.
UNE DEMANDE DE VISA ÉGALEMENT ENVOYÉE
Le même rapport fait état d'un autre test au cours duquel l'intelligence artificielle s'exerçait à remplir des formulaires officiels. Bien qu'il ait été demandé au modèle de simplement remplir le formulaire sans l'envoyer, il est indiqué que le système a supposé qu'une page de confirmation s'ouvrirait avant l'envoi et a finalisé l'opération.
Selon des informations relayées par Axios et le New York Times auprès de sources gouvernementales, le robot d'intelligence artificielle d'Anthropic a envoyé des demandes de visa au département d'État américain « au nom de 20 personnes non-immigrantes ». Les autorités ont indiqué que les demandes étaient incomplètes et n'ont pas été traitées.
Ces événements ont relancé les débats sur la sécurité liés à l'utilisation d'agents d'intelligence artificielle capables d'exécuter des tâches en plusieurs étapes sans supervision humaine. Selon la presse américaine, la Maison-Blanche a également renforcé les obligations des entreprises d'intelligence artificielle en matière de signalement des incidents de sécurité et de résolution des problèmes.
Source de l'actualité: 12punto
