3 Minuten
Künstliche Intelligenz im Gericht: Utah-Anwalt wegen KI-generiertem Schriftsatz sanktioniert
Ein aktueller Fall aus Utah verdeutlicht die Risiken und Verantwortlichkeiten beim Einsatz von Künstlicher Intelligenz (KI) im juristischen Bereich. Der Rechtsanwalt Richard Bednar wurde mit einer Geldstrafe belegt, nachdem er einen Berufungsantrag eingereicht hatte, der gefälschte Gerichtsentscheidungen und Quellen enthielt. Das teils mithilfe von ChatGPT verfasste Dokument bezog sich unter anderem auf das erfundene Urteil „Royer v Nelson“, das in keiner anerkannten juristischen Datenbank auffindbar ist und ursächlich auf KI-generierte Inhalte zurückgeführt werden konnte.
Was lief schief? Der ChatGPT-Vorfall im Gericht
Laut Berichten von ABC4 reichten Bednar und sein Kollege Douglas Durbano eine Notfall-Berufung für ihren Mandanten ein. Während der Prüfung stellte die Gegenseite jedoch fest, dass mehrere Zitate und angebliche Präzedenzfälle keinem realen Gerichtsfall entsprachen und offenbar künstlich erzeugt worden waren. Weitere Untersuchungen zeigten, dass Teile des Schriftsatzes vollständig von ChatGPT oder vergleichbaren KI-Anwendungen erstellt wurden, was erneut Bedenken hinsichtlich des unkontrollierten Einsatzes von KI in wichtigen juristischen Verfahren aufwarf.
Verantwortung und Konsequenzen
Bei der gerichtlichen Anhörung im April bekannte sich Bednar offen zu seinem Fehler und übernahm die Verantwortung. Er erklärte, dass der erste Entwurf von einem nicht zugelassenen juristischen Mitarbeiter – einem Jurastudium-Absolventen – mit ChatGPT erstellt wurde. Entscheidend war, dass Bednar die Quellen nicht vor Abgabe überprüfte. Der betreffende Mitarbeiter wurde inzwischen entlassen. Das Gericht stellte zudem klar, dass Durbano an der Erstellung des fehlerhaften Dokuments nicht beteiligt war, und anbot, die Anwaltskosten der Gegenseite zu übernehmen.
Die wachsende Bedeutung und Grenzen von KI in der juristischen Recherche
Das Utah Court of Appeals betonte die zunehmende Nutzung von Künstlicher Intelligenz – insbesondere ChatGPT – bei juristischer Recherche und Dokumentation. Während KI-Tools Anwaltskanzleien Effizienz und neue Möglichkeiten bieten, bleibt die Verantwortung für die Richtigkeit aller Angaben bei den Juristen. Dieser Fall verdeutlicht die Gefahren einer übermäßigen Abhängigkeit von KI in Berufsfeldern, in denen Genauigkeit und Glaubwürdigkeit an erster Stelle stehen.
Sanktionen und Marktbedeutung
In Folge wurde Bednar zur Übernahme sämtlicher Rechtskosten der Gegenpartei verpflichtet, musste seinem Mandanten die Gebühren im Zusammenhang mit dem fehlerhaften Schriftsatz erstatten und zusätzlich 1.000 US-Dollar an die gemeinnützige Organisation „And Justice for All“ spenden. Der Vorfall dient weltweit als Präzedenzfall für den verantwortungsvollen Umgang mit generativer KI in juristischen und anderen risikoreichen Bereichen und als Warnung für Berufsträger, die KI-Tools unbedacht einsetzen.
KI-Tools im juristischen Alltag: Zentrale Erkenntnisse
Obwohl Plattformen wie ChatGPT zahlreiche Vorteile bieten – etwa bei der schnellen Erstellung von Dokumenten und der juristischen Recherche – sind sorgfältige Kontrolle, menschliche Überprüfung und ein Bewusstsein ihrer Beschränkungen unverzichtbar. In einer Zeit, in der Künstliche Intelligenz immer präsenter im Rechtswesen und anderen Branchen wird, sind kontinuierliche Fortbildung und professionelle Sorgfalt entscheidend für Vertrauen und Qualität bei digitalen Innovationen.
Quelle: smarti
Kommentare