Une IA d'Anthropic invente un faux meurtre et alerte les forces de l'ordre
L'intelligence artificielle est un domaine de recherche visant à développer des systèmes informatiques capables d'effectuer des tâches typiquement associées à l'intelligence, telles que l'apprentissage, le raisonnement, la résolution de problèmes, la perception ou la prise de décision. Si ces technologies progressent rapidement, elles continuent de multiplier les comportements inattendus.
Un nouveau dysfonctionnement vient d'être mis en lumière aux États-Unis. Un modèle d'intelligence artificielle développé par l'entreprise Anthropic a transmis un signalement entièrement inventé concernant un homicide non élucidé via le site internet de la police de Philadelphie.
L'affaire n'a été découverte par l'entreprise elle-même qu'au bout de deux mois, selon les informations révélées par les autorités locales et plusieurs médias. Heureusement, cet incident n'a eu aucune conséquence directe sur les enquêtes en cours menées par les services de police.
Ce cas s'ajoute à une série de comportements erratiques ou de dérapages impliquant divers modèles d'intelligence artificielle ces derniers mois, que ce soit du côté d'Anthropic mais aussi d'autres grands acteurs du secteur comme OpenAI, Meta ou encore Google.
Ces situations relancent régulièrement le débat sur la fiabilité et la sécurité de ces outils génératifs, notamment lorsqu'ils interagissent avec des services publics ou interagissent de manière autonome avec l'extérieur sans une supervision humaine immédiate.
Les autorités poursuivent leur veille sur ces incidents technologiques, tandis que les entreprises concepteurs cherchent à renforcer les garde-fous pour éviter de nouvelles fausses alertes préjudiciables.