En Floride, une femme menaçante arrêtée grâce à l'IA Claude

Résumé

Une femme de Floride a été arrêtée après qu’une menace visant le bureau du shérif, formulée dans une conversation avec Claude, a été signalée aux autorités.

Les faits

Une femme du comté de Lee, en Floride, a été arrêtée après qu’une menace liée à une conversation avec le chatbot Claude d’Anthropic a été signalée aux forces de l’ordre par l’équipe chargée de la revue humaine d’Anthropic. La conversation était présentée par son autrice comme une forme de « journal » personnel. Le rapport d’arrestation cite une déclaration datée du 26 septembre, attribuée à une utilisatrice identifiée sous le prénom de « Carli », indiquant qu’elle allait « tirer sur » le bureau du shérif du comté de Lee. Un message envoyé le lendemain aurait également mentionné une nouvelle arme à feu. La femme, domiciliée à Bonita Springs, a été interpellée chez elle sans incident. Un détective du renseignement du bureau du shérif du comté de Lee a ensuite repris l’enquête. La conversation était au moins la troisième de ce type à parvenir aux autorités depuis août. Le dossier judiciaire fait état d’une accusation criminelle enregistrée le 30 septembre au titre de la loi 836.10 de Floride, qui vise les menaces écrites ou électroniques de fusillade de masse ou d’acte terroriste. L’accusation concerne une menace écrite ou électronique de fusillade de masse ou d’acte terroriste.

Pourquoi c’est important

Cette affaire illustre le rôle croissant des mécanismes de revue humaine des conversations dans la détection de menaces potentiellement crédibles. Selon le rapport d’arrestation, Anthropic surveille les conversations à la recherche de formulations clés et de contenus susceptibles d’être considérés comme menaçants, avant de pouvoir les transmettre à une équipe humaine selon leur gravité. Elle met également en évidence la question juridique posée par des menaces formulées dans une conversation avec un chatbot. Les messages retrouvés lors de la revue humaine d’Anthropic, notamment la mention d’une arme le lendemain, constituent vraisemblablement les éléments à l’appui de l’arrestation et de l’accusation.

Questions fréquentes

Que s’est-il passé en Floride ?

Une femme du comté de Lee a été arrêtée après qu’une menace visant le bureau du shérif a été signalée aux autorités par l’équipe de revue humaine d’Anthropic.

Quel outil d’IA était concerné ?

La menace figurait dans une conversation avec Claude, le chatbot d’Anthropic, que son autrice décrivait comme un « journal ».

Quelle accusation a été enregistrée ?

Une accusation criminelle fondée sur la loi 836.10 de Floride, relative aux menaces écrites ou électroniques de fusillade de masse ou d’acte terroriste.

Combien de conversations comparables ont atteint la police depuis août ?

Il s’agissait au moins de la troisième conversation de ce type à parvenir aux autorités depuis août.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.