3 Minuten
KI-Fehler sorgen für juristische Kontroverse am US-Bundesgericht
Ein aufsehenerregender Vorfall verdeutlicht die Risiken künstlicher Intelligenz im juristischen Bereich: Ein US-Bezirksrichter hat ein zentrales Urteil in einem Biopharma-Wertpapierfall zurückgezogen. Dieser ungewöhnliche Schritt erfolgte, nachdem festgestellt wurde, dass das Urteil gefälschte Zitate sowie gravierende Fehler bei der Zitierung von Präzedenzfällen enthielt – typische Probleme, die oft bei der Nutzung KI-gestützter Recherchetools auftreten.
Rechtsfehler offenbaren wachsende Abhängigkeit von KI
Der Sachverhalt kam ans Licht, als Anwalt Andrew Lichtman Richter Julien Xavier Neals in New Jersey schriftlich auf mehrere Unstimmigkeiten in dessen aktuellem Beschluss aufmerksam machte, mit dem der Antrag auf Abweisung einer Klage gegen das Pharmaunternehmen CorMedix abgelehnt worden war. Zu den dokumentierten Problemen zählten fehlerhafte Angaben zum Ausgang von drei verschiedenen Fällen sowie zahlreiche erfundene Zitate, die früheren Gerichtsentscheidungen zugeschrieben wurden – Probleme, die zunehmend mit unsachgemäßem Einsatz von Sprachmodellen wie ChatGPT oder Claude in Verbindung gebracht werden.
Offizielle Korrektur und Unsicherheit über den KI-Einsatz
Wie Bloomberg Law berichtet, veröffentlichte das Gericht schnell ein Memorandum, in dem der Fehler im ursprünglichen Urteil eingeräumt und eine korrigierte Fassung in Aussicht gestellt wurde. Während kleinere Tippfehler oder stilistische Anpassungen nach einem Urteil durchaus üblich sind, sorgen derart umfassende Korrekturen – insbesondere wenn sie inhaltliche oder zitationsbezogene Fehler betreffen – für Bedenken hinsichtlich der Zuverlässigkeit digitaler Rechtsverfahren.
KI in der juristischen Recherche: Chancen und Herausforderungen
Dieses Ereignis reiht sich in eine wachsende Zahl ähnlicher Vorfälle ein, während Juristen mit fortschrittlichen KI-Tools experimentieren. Bereits Anfang des Monats mussten die Verteidiger des MyPillow-Gründers Mike Lindell eine Strafe zahlen, weil sie gefälschte, von KI generierte Gerichtsentscheidungen zitiert hatten. Auch der Chatbot Claude von Anthropic sorgte für Schlagzeilen, nachdem er fehlerhafte Quellenangaben in Streitfällen mit Musikverlagen geliefert hatte. Diese Beispiele unterstreichen zwar die Geschwindigkeit und Effizienz, die KI-Systeme wie große Sprachmodelle (Large Language Models, LLMs) bei der juristischen Recherche bieten – sie zeigen aber ebenso, wie wichtig sorgfältige Kontrolle durch Fachpersonen ist, da KI weiterhin täuschend echt wirkende, aber falsche Informationen („KI-Halluzinationen“) erzeugen kann.
Marktrelevanz und vorsichtige Einführung
Während die Rechtsbranche verstärkt auf generative KI-Plattformen und maschinelles Lernen für Fallanalysen, Recherche und Dokumentenerstellung setzt, zeigen diese Warnbeispiele die Dringlichkeit der Datenprüfung. Kanzleien, Gerichte und Mandanten müssen zwischen Vorteilen wie effizienterer Recherche, Kostenersparnissen und Automatisierung sowie den erheblichen Risiken von Fehlinformationen abwägen. Trotz wachsender Beliebtheit sind KI-Tools noch keine verlässlichen Alternativen zur klassischen juristischen Arbeit und sollten zur Unterstützung, nicht jedoch als alleinige Autorität verwendet werden.
Fazit: Die Zukunft von KI im Recht bleibt partnerschaftlich
Diese prominente Korrektur verdeutlicht, dass bei allen Fortschritten durch künstliche Intelligenz weiterhin sorgfältige Prüfung und Faktenkontrolle unerlässlich sind. Während KI die Technologien im Rechtswesen transformiert, ist es notwendig, gemeinsam bewährte Standards und ethische Leitlinien zu entwickeln, um die Integrität des Rechtswesens weltweit zu schützen.
Quelle: theverge
Kommentare