[Dépêches] Avocats et IA générative : qui tient vraiment le dossier ?

Le conseil consultatif conjoint de déontologie de la relation avocat-magistrat (CCC) met en garde les avocats contre les dangers que représente l’intelligence artificielle générative (IAG). Le conseil propose ainsi une grille d’usage des outils d’IAG juridique et alerte sur les risques déontologiques qu’ils peuvent engendrer.

Si les outils d'IAG semblent être source de qualité et d'efficacité, que ce soit en matière de recherches documentaires ou d'aide à la rédaction, ils n'en sont pas moins source de risques majeurs : erreurs factuelles, reproduction de biais ou stéréotypes déjà présents dans les données d'apprentissage, atteinte à la confidentialité des données ou au secret professionnel, difficulté à expliciter les raisonnements juridiques reproduits en l'absence de vérification suffisante.

Le CCC invite donc à concilier les progrès offerts par cette technologie avec la vigilance déontologique qui s'impose en matière judiciaire, notamment, dans quatre cas d'usage concrets :

• recherches juridiques ;
• IA interne spécifiques pour optimiser et automatiser des tâches répétitives ou chronophages ;
• assistance à la rédaction ;
• appui au traitement de litiges sériels.

Conscient que les praticiens recourent de plus en plus à ces outils, le CCC rappelle que l'humain doit demeurer au cœur du processus décisionnel et opérationnel afin de garantir l'exactitude des informations produites. Il met également en avant les risques de :

• déresponsabilisation ;
• biais algorithmiques pouvant conduire à des discriminations ;
• erreurs factuelles ou hallucinations ;
• explicabilité insuffisante ;
• atteintes à la confidentialité et au secret professionnel ;
• perte d'esprit critique ;
• risque d'appauvrissement du raisonnement intellectuel.

Ces risques, déjà observés dans le monde du travail, à travers les discriminations algorithmiques, pourraient également affecter les décisions de justice automatisées : conçus à partir de données historiquement biaisées, les algorithmes risquent de reproduire, voire d'amplifier, les discriminations qu'ils devraient corriger. La CCC préconise dès lors plusieurs bonnes pratiques :

• comprendre le fonctionnement des différents outils d'IAG afin de mieux s'en servir ;
• systématiser le contrôle humain derrière tout usage de l'IAG ;
• vérifier l'exactitude des informations produites ;
• exclure l'introduction de toutes données personnelles ou confidentielles dans un outil non sécurisé ;
• informer les justiciables (et toute personne y étant confrontée) des risques juridiques et éthiques ;
• utiliser les outils d'IAG de façon raisonnée et maîtrisée ;
• favoriser des échanges réguliers entre les juridictions, barreaux et justiciables pour assurer une compréhension partagée des outils utilisés.

© Reproduction interdite, sauf autorisation écrite préalable