Un juge de l'État de Washington rejette une vidéo améliorée par l'IA en raison de modifications inexactes de l'image dans une affaire de triple meurtre

Le juge de la Cour supérieure Leroy McCullogh a rejeté l'utilisation d'une vidéo améliorée par l'IA présentée comme preuve dans une affaire de triple meurtre dans le comté de King, Washington. L'utilisation de telles vidéos dans le cadre de poursuites pénales pose deux problèmes majeurs. Premièrement, l'amélioration de l'image par l'IA crée et supprime des détails de l'original. Deuxièmement, il n'existe aucune méthode permettant de prouver que les modifications apportées par l'IA aboutissent à une vidéo qui représente fidèlement la scène réelle.

La technologie de l'IA a progressé rapidement au point qu'elle peut être utilisée pour réparer des photos endommagées et améliorer des photos de mauvaise qualité. L'IA est capable de le faire en générant des détails à partir de l'entraînement de millions d'images existantes. Simplement, lorsque l'IA voit une section qui ressemble à un champ d'herbe dans une image de mauvaise qualité, elle prend les images de champ d'herbe les plus probables qu'elle a vues auparavant et tente de les remplacer par des images de meilleure qualité. Il est important de noter que l'IA générative ne sait pas ce qui est réel, de sorte que les vidéos améliorées peuvent contenir des détails qui n'existent pas dans la vie réelle ou même être dépourvues de détails essentiels.

L'IA générative utilise des millions d'images combinées à des algorithmes pour créer un ensemble massif de nombres qui représentent ces images. Les images originales ne sont pas conservées par l'IA, de sorte que la façon dont l'IA améliore une image avec des détails qu'elle a vus utilise des "méthodes opaques pour représenter ce que l'IA 'pense' devoir être montré", selon le juge McCullogh.

Les lecteurs qui envisagent de devenir avocats devraient prendre le temps de se renseigner sur le fonctionnement de l'IA générative afin d'éviter de commettre des erreurs telles que la soumission de dossiers basés sur de fausses affaires.