Sullivan & Cromwell présente ses excuses au tribunal après qu'une IA a généré de fausses citations juridiques

TLDR

• Un prestigieux cabinet d'avocats soumet un document judiciaire avec des citations fabriquées par l'IA

• Sullivan & Cromwell reconnaît des défaillances de vérification dans une affaire de faillite

• Des inexactitudes générées par l'IA compromettent une soumission devant un tribunal fédéral

• L'avocat adverse découvre une jurisprudence fabriquée dans un dépôt juridique

• L'incident souligne le besoin critique de protocoles de validation de l'IA renforcés

La profession juridique fait face à un regain d'examen de la fiabilité de l'intelligence artificielle à la suite d'une erreur significative d'un cabinet d'avocats américain d'élite. Sullivan & Cromwell a publiquement reconnu avoir soumis un document judiciaire truffé de citations de cas fabriquées par l'IA et de références juridiques inexactes. L'incident a incité le cabinet à mener une enquête interne approfondie sur ses dispositifs de protection liés à l'intelligence artificielle.

Des citations fabriquées compromettent une soumission devant un tribunal fédéral

Le prestigieux cabinet d'avocats a découvert des failles substantielles dans un document de faillite du Chapitre 15 relatif au contentieux du Prince Group. Les systèmes d'intelligence artificielle ont produit des références de cas fictives et ont analysé de manière incorrecte des dispositions des lois américaines sur les faillites. Ces fabrications ont été incluses dans des documents présentés à un tribunal fédéral de faillite de New York.

Andrew Dietderich, qui supervise la division restructuration du cabinet, a pris personnellement la responsabilité des lacunes du document. Il a confirmé que, bien que le cabinet maintienne des directives établies d'utilisation de l'IA, ces protocoles n'ont pas été respectés lors de la création de ce document particulier. L'organisation a depuis mis en œuvre des mesures correctives pour éviter la récurrence d'erreurs pilotées par l'IA dans les soumissions juridiques ultérieures.

Boies Schiller Flexner, agissant au nom des parties adverses, a identifié des divergences et les a portées à l'attention judiciaire. Leur examen a révélé que certains cas référencés étaient entièrement inexistants ou citaient des opinions judiciaires totalement sans rapport. Par conséquent, le cabinet a déposé une version amendée avec des annotations identifiant clairement les erreurs produites par l'IA.

Les défaillances de vérification mettent en évidence les défis systémiques de l'IA

Cet épisode démontre les difficultés généralisées auxquelles sont confrontés les cabinets d'avocats qui intègrent l'intelligence artificielle pour améliorer la productivité et gérer les charges de travail. De nombreuses pratiques juridiques déploient des systèmes d'IA pour la recherche juridique et la création de documents, mais des protocoles de vérification inadéquats continuent de créer des vulnérabilités. Les professionnels du droit doivent naviguer entre l'efficacité opérationnelle et la précision lorsqu'ils intègrent l'IA dans leurs flux de travail.

Sullivan & Cromwell a déclaré qu'il applique des politiques rigoureuses d'utilisation de l'IA, incluant la révision manuelle obligatoire de tous les documents générés par l'IA. Le cabinet a concédé que les mécanismes de contrôle qualité ont échoué lors de cette affaire, permettant à du contenu défectueux d'avancer sans contrôle. L'incident a amplifié l'examen des cadres de gouvernance de l'intelligence artificielle dans des contextes juridiques critiques.

Les données du secteur révèlent une fréquence croissante d'hallucinations de l'IA apparaissant dans des dépôts judiciaires, notamment impliquant des précédents juridiques inventés. Les recherches documentent plus de 1 300 occurrences de ce type dans le monde, la majorité étant concentrée dans les tribunaux américains. Ce schéma émergent souligne l'impératif de mécanismes d'authentification plus rigoureux lors du déploiement de l'IA dans les processus de documentation juridique.

Les implications vont au-delà d'un incident isolé

Le contentieux du Prince Group est centré sur des accusations de vastes schémas de fraude, englobant des pratiques de travail forcé et des malversations financières. Les procureurs américains ont engagé à la fois des procédures pénales et des efforts de confiscation de biens liés aux opérations de l'organisation. Par conséquent, la précision dans les documents juridiques devient primordiale dans les affaires impliquant des allégations transnationales complexes.

Sullivan & Cromwell a précédemment représenté des clients dans des affaires importantes, notamment les procédures d'insolvabilité de la plateforme FTX. Le cabinet facture des tarifs premium et gère des dossiers de réorganisation sophistiqués couvrant plusieurs juridictions légales. Cette défaillance liée à l'IA a suscité des interrogations concernant le contrôle qualité dans les grandes entreprises juridiques.

Le cabinet maintient son enquête interne en cours tout en réévaluant les programmes de formation et les cadres de conformité régissant le déploiement de l'intelligence artificielle. Son objectif inclut le renforcement des mesures de protection et l'amélioration de la responsabilité tout au long des flux de travail de création de documents. Alors que l'intégration de l'intelligence artificielle s'accélère, le secteur juridique est confronté à des attentes croissantes pour garantir la fiabilité et éliminer les erreurs coûteuses.

The post Sullivan & Cromwell Issues Court Apology After AI Generates False Legal Citations appeared first on Blockonomi.