La Cour de cassation inflige une amende à un avocat pour avoir utilisé ChatGPT dans un procès pour meurtre

La Cour suprême du Nouveau-Mexique a récemment condamné l’avocat de Santa Fe, Stephen Aarons, pour outrage au tribunal après qu’il eut déposé un mémoire d’appel contenant des témoignages et des témoins inventés par ChatGPT. L’année dernière, M. Aarons défendait un client condamné pour meurtre lorsqu’il a utilisé le chatbot pour résumer les dossiers du procès, avant de déposer le document ainsi obtenu sans aucune relecture préalable. Le mémoire comprenait des déclarations attribuées à des témoins qui n’existaient pas, ainsi que des propos inventés de toutes pièces et faussement attribués à un témoin réel.

La réaction de la cour fut sans détour. La juge C. Shannon Bacon a demandé sans ambages à M. Aarons s’il suivait un tant soit peu l’actualité, compte tenu de la fréquence à laquelle les « hallucinations » de l’IA dans les documents judiciaires ont fait la une des journaux, et a laissé entendre qu’il avait soit ignoré ce phénomène, soit pris un risque inconsidéré avec le dossier de son client. Maître Aarons, qui exerce le droit depuis plus de quatre décennies, a reconnu sa propre « stupidité », ajoutant qu’il avait supposé à tort que le logiciel produirait un résumé fiable.

Au-delà de cette réprimande, le tribunal lui a infligé une amende de 5 000 dollars, payable à un fonds de protection des clients, et a renvoyé l’affaire devant le conseil de discipline des avocats de l’État. Cette affaire fait suite à plusieurs autres cas dans lesquels des avocats ont fait l’objet de sanctions ou d’une enquête disciplinaire après avoir présenté au tribunal des documents générés par l’IA et non vérifiés (1, 2, 3).