États-Unis : une Floridienne inculpée pour des menaces confiées à Claude

Carli Michelle Heller pensait échanger en toute intimité avec l’IA sur son projet de meurtre du shérif de son comté. Mal lui en a pris, car la police a débarqué chez elle après le signalement de sa conversation.

C’est une histoire des plus déroutantes, rapportée le 2 octobre par le journal Gulf Coast. Elle concerne Carli Michelle Heller, 30 ans, habitante du comté de Lee, en Floride, désormais inculpée pour menaces écrites de violence en raison de ses échanges avec le chatbot d’Anthropic, Claude.

Selon le rapport de police, elle avait confié à l’intelligence artificielle, le 26 septembre vers 5 h 10, son intention de s’en prendre au shérif de son comté. « Je vais descendre le shérif sur-le-champ. C’est ma dernière chance, j’en ai marre », avait écrit Carli dans un message.

« J’ai acheté un nouveau (…) pistolet aujourd’hui », a-t-elle encore indiqué le lendemain. De quoi faire débarquer les forces de l’ordre à son domicile quelques jours plus tard pour l’arrêter. Et cela sans qu’elle soit passée à l’acte.

Aucun voisin ni aucun proche ne l’a dénoncée. Elle n’a pas non plus fait de publication sur les réseaux sociaux. Mais Claude, avec qui elle pensait échanger en toute discrétion, l’a signalée.

« Une conviction de bonne foi »

Le chatbot dispose en effet d’un système automatisé de signalement, conformément à la politique de confidentialité d’Anthropic. Celle-ci indique que l’entreprise peut communiquer les données des utilisateurs aux forces de l’ordre lorsqu’elle estime « de bonne foi que cette divulgation est raisonnablement nécessaire pour empêcher qu’une personne subisse un préjudice grave ».

Il s’agit, selon la page d’aide du groupe, d’une situation exceptionnelle. Et, malheureusement pour Carli Michelle Heller, l’alerte donnée par un membre du personnel d’Anthropic, à l’origine de l’intervention de la police, ne nécessite aucun document juridique préalable.

Interrogée, la mise en cause a argué que l’IA était son journal intime. Si l’argument peut paraître recevable en théorie — formuler des menaces dans un carnet n’est pas une infraction —, il ne l’est pas dans le cas d’espèce.

« On n’est jamais véritablement anonyme »

La loi de la Floride vise en effet, en des termes clairs, toute personne qui transmet une menace « de quelque manière que ce soit permettant à une autre personne d’en prendre connaissance ».

La législation est d’autant plus implacable qu’un journal intime sur papier reste généralement dans un tiroir. Mais celui de Heller est arrivé sur les serveurs d’Anthropic. Et quelqu’un, là-bas, l’a effectivement lu, alors que les plateformes technologiques sont de plus en plus tenues pour responsables des intentions d’actes répréhensibles portées à leur connaissance par les utilisateurs.

« On n’est jamais véritablement anonyme lorsqu’on utilise l’IA », rappelle le shérif Carmine Marceno. L’affaire illustre, une nouvelle fois, la collision frontale entre la confidentialité supposée par une utilisatrice et les impératifs de sécurité publique d’une entreprise technologique.