Hallucinations de l’IA en justice : l’aveu de Sullivan & Cromwell, symptôme d’un risque systémique pour la profession juridique

2 citations juridiques erronées, certaines totalement fictives : c’est l’aveu inhabituel qu’a dû faire le cabinet Sullivan & Cromwell devant une juridiction fédérale américaine. Un incident qui, loin d’être isolé, tend à s’inscrire dans une série de défaillances similaires liées à l’usage de l’intelligence artificielle. 

L’utilisation de l’intelligence artificielle dans les cabinets d’avocats franchit un cap, et expose désormais clairement ses fragilités. Dans une lettre adressée à une juridiction fédérale américaine, le cabinet Sullivan & Cromwell a reconnu avoir déposé des écritures entachées de nombreuses erreurs imputables à des “hallucinations” d’un outil d’IA.

Une défaillance reconnue devant le juge

Dans cette affaire, le cabinet new-yorkais, intervenant dans le cadre d’une procédure de faillite, a admis que plusieurs citations juridiques figurant dans une requête déposée en urgence étaient inexactes, voire inexistantes. Au total, pas moins de 42 erreurs ont été identifiées, incluant des références erronées au Code des faillites américain.

L’associé Andrew Dietderich a explicitement attribué ces anomalies à des “hallucinations” de l’IA, c’est-à-dire à la capacité de certains outils à générer des contenus juridiquement plausibles mais factuellement faux : décisions inventées, citations déformées ou sources inexistantes.

Plus préoccupant encore, le cabinet reconnaît que ses propres mécanismes internes de contrôle n’ont pas permis de détecter ces erreurs avant leur transmission à la juridiction. Autrement dit, la défaillance n’est pas seulement technologique : elle est aussi organisationnelle.

L’obligation de vigilance à l’épreuve de l’IA

Cet épisode illustre une tension croissante entre innovation technologique et exigences fondamentales de la profession d’avocat. En droit français comme en droit américain, la responsabilité de l’avocat repose notamment sur une obligation de compétence, de diligence et de vérification des sources.

L’intégration d’outils d’IA dans la production juridique ne modifie pas ces obligations : elle les renforce. L’avocat demeure pleinement responsable des contenus qu’il soumet au juge, même lorsque ceux-ci sont générés ou assistés par des technologies avancées.

L’affaire Sullivan & Cromwell rappelle ainsi une évidence parfois négligée : l’IA ne constitue pas une source du droit. Elle est un outil, dont les résultats doivent être systématiquement vérifiés, contextualisés et validés par un professionnel qualifié.

Un phénomène en expansion

Loin d’être isolé, cet incident s’inscrit dans une tendance plus large. Selon une base de données recensant les cas d’hallucinations juridiques, créée par Damien Charlotin, juriste et chercheur associé à HEC Paris et à Sciences Po Paris, plus de 1 300 décisions à travers le monde auraient déjà été affectées par ce type d’erreurs.

Cette multiplication des incidents s’explique par plusieurs facteurs :

• L’adoption rapide des outils d’IA générative dans les cabinets, souvent sans encadrement suffisant ;

• Une confiance excessive dans des technologies perçues comme performantes ;

• Des processus internes parfois inadaptés à ces usages.

L’intervention du cabinet adverse, qui a signalé les incohérences dans les écritures, souligne par ailleurs un risque contentieux accru : celui de voir ces erreurs exploitées stratégiquement par les parties adverses.

Vers une redéfinition de la gestion des risques

Face à cette montée des risques, les acteurs du secteur commencent à s’adapter. Certains cabinets renforcent leurs protocoles internes, notamment en matière de relecture et de validation humaine des productions assistées par IA.

Parallèlement, de nouveaux enjeux assurantiels émergent. Des cabinets de conseil recommandent désormais aux directions juridiques et aux cabinets d’avocats de souscrire des assurances spécifiques couvrant les risques liés à l’IA, dans un contexte où les polices traditionnelles tendent à exclure ce type de sinistres

Cette évolution pourrait à terme conduire à une véritable structuration du “risque IA” en droit, au même titre que les risques cyber ou les risques professionnels classiques.

Une transformation culturelle de la pratique juridique

Au-delà des aspects techniques et assurantiels, l’affaire révèle une mutation plus profonde du rapport des juristes à la production du droit. L’intégration de l’IA ne se limite plus à un gain d’efficacité : elle reconfigure les conditions mêmes de fiabilité des écritures juridiques.

L’enjeu n’est donc plus de savoir si l’IA doit être utilisée en pratique juridique, mais dans quelles conditions elle peut l’être sans compromettre la qualité, la vérifiabilité et, en définitive, la crédibilité du droit lui-même.