Zurück zur Übersicht
Geldstrafe für US-Anwalt: Oberster Gerichtshof von New Mexico sanktioniert erfundene KI-Zeugen in Mordberufung
BranchennachrichtenKünstliche IntelligenzJustizRecht

Geldstrafe für US-Anwalt: Oberster Gerichtshof von New Mexico sanktioniert erfundene KI-Zeugen in Mordberufung

Der Oberste Gerichtshof des US-Bundesstaates New Mexico hat den Anwalt Stephen Aarons zu einer Geldstrafe in Höhe von 5.000 US-Dollar verurteilt und ihn wegen Missachtung des Gerichts belangt. Anlass für diese gerichtliche Maßnahme war die Einreichung einer Berufung gegen die Verurteilung eines Mandanten wegen Mordes, in welcher durch Künstliche Intelligenz erfundene Zeugen und gefälschte polizeiliche Aussagen enthalten waren. Laut einem Bericht der Nachrichtenagentur Reuters begründete das Gericht seine Entscheidung in einer am Mittwoch eingereichten Verfügung damit, dass Aarons es versäumt habe, die tatsächlichen Behauptungen sowie die rechtlichen Grundlagen der Eingabe ordnungsgemäß zu überprüfen. Der Fall verdeutlicht die juristischen Risiken und die strikte Prüfungspflicht bei der Nutzung von KI-Systemen in sensiblen Gerichtsverfahren.

The Verge

Die wichtigsten Punkte

  • Gerichtliche Sanktion: Der Oberste Gerichtshof von New Mexico hat den Rechtsanwalt Stephen Aarons zu einer Geldstrafe von 5.000 US-Dollar verurteilt.
  • Missachtung des Gerichts: Das Gericht stufte das Handeln des Anwalts offiziell als Missachtung des Gerichts (contempt of court) ein.
  • Erfundene Beweise und Zeugen: In der Berufungsschrift gegen eine Verurteilung wegen Mordes wurden durch Künstliche Intelligenz frei erfundene Zeugen sowie gefälschte polizeiliche Zeugenaussagen verwendet.
  • Verletzung der Sorgfaltspflicht: Die Sanktion wurde verhängt, da der Anwalt die Tatsachenbehauptungen und rechtlichen Grundlagen des eingereichten Schriftsatzes nicht verifiziert hatte.

Analyse

Falsche Zeugenaussagen in einem Mordverfahren

Der Einsatz von generativen KI-Werkzeugen in juristischen Verfahren birgt erhebliche Risiken, wenn Anwender die Ausgaben ungeprüft übernehmen. Wie ein Bericht der Nachrichtenagentur Reuters offenlegt, erreichte dieses Problem im US-Bundesstaat New Mexico eine neue Dimension. Gegenstand des Verfahrens war ein Rechtsstreit mit höchstem Einsatz: die Berufung gegen die Verurteilung eines Mandanten wegen Mordes.

In den beim Obersten Gerichtshof von New Mexico eingereichten Schriftsätzen tauchten Zeugen und angebliche Aussagen von Polizeibeamten auf, die in der Realität niemals existiert hatten. Diese Angaben stammten aus Halluzinationen eines KI-Systems. Das Auftauchen gänzlich fabrizierter Zeugenaussagen in einem Kapitalstrafverfahren stellt eine gravierende Beeinträchtigung des gerichtlichen Prozesses dar, da Gerichte auf die Richtigkeit der vorgetragenen Tatsachen angewiesen sind.

Gerichtsentscheidung und Missachtung des Gerichts

In einer am Mittwoch veröffentlichten Verfügung zog der Supreme Court von New Mexico klare Konsequenzen aus dem Fehlverhalten. Das Gericht belegte den Rechtsanwalt Stephen Aarons mit einer Geldbuße in Höhe von 5.000 US-Dollar. Darüber hinaus wurde Aarons wegen Missachtung des Gerichts belangt.

Die Begründung der Richter hebt hervor, worin der eigentliche Verstoß des Juristen lag: Er habe es versäumt, die faktischen Behauptungen und die juristischen Grundlagen der Berufung vor der Einreichung zu prüfen. Das Gericht stellte damit unmissverständlich klar, dass die Verantwortung für den Inhalt juristischer Dokumente vollständig beim unterzeichnenden Anwalt verbleibt – unabhängig davon, welche Hilfsmittel oder Technologien bei der Erstellung herangezogen wurden.

Bedeutung für die KI-Branche

Der Fall aus New Mexico unterstreicht die anhaltenden Herausforderungen beim praktischen Einsatz generativer Sprachmodelle in professionellen und haftungsrelevanten Berufsfeldern:

  1. Grenzen automatisierter Texterstellung: Sprachmodelle neigen zu sogenannten Halluzinationen – sie generieren plausibel klingende Fakten, Personen und Zitate, die faktisch nicht existieren. Das unkritische Vertrauen in diese Systeme führt in Berufen mit Verifikationspflichten zu schweren Konsequenzen.
  2. Haftung und Verantwortung: Die Entscheidung des Gerichts demonstriert, dass technologische Unzulänglichkeiten von den Justizbehörden nicht als Entschuldigung akzeptiert werden. Professionelle Anwender tragen die rechtliche und finanzielle Verantwortung für alle KI-generierten Inhalte.
  3. Bedarf an Verifikationsmechanismen: Für Entwickler und Anbieter von KI-Anwendungen für den Rechtssektor zeigt der Vorfall, dass zuverlässige Kontrollmechanismen, Quellenverweise und Validierungswerkzeuge unverzichtbar sind, um Falschinformationen vor ihrer Einreichung bei Behörden zu verhindern.

Häufig gestellte Fragen

Warum wurde der Anwalt Stephen Aarons vom Gericht bestraft?

Der Oberste Gerichtshof von New Mexico verhängte die Geldstrafe in Höhe von 5.000 US-Dollar und stellte eine Missachtung des Gerichts fest, weil Stephen Aarons in einem Mordberufungsverfahren durch KI erfundene Zeugen sowie gefälschte polizeiliche Zeugenaussagen eingereicht hatte. Er hatte es versäumt, die Richtigkeit der Angaben und Rechtsausführungen zu überprüfen.

Welche Auswirkungen hatte der Einsatz von KI in diesem Fall?

Die eingesetzte Künstliche Intelligenz generierte frei erfundene Personen und Aussagen von Ermittlern, die als vermeintliche Beweise in den offiziellen Berufungsantrag einflossen. Dies führte zu einer fehlerhaften Einreichung vor Gericht und letztlich zur Verurteilung des Anwalts wegen Missachtung des Gerichts.

Welche Pflichten haben Juristen beim Einsatz von KI laut der Gerichtsentscheidung?

Aus der gerichtlichen Verfügung geht hervor, dass Juristen verpflichtet sind, alle tatsächlichen Behauptungen und rechtlichen Angaben vor der Einreichung eigenhändig und gewissenhaft zu überprüfen. Das ungeprüfte Übernehmen von KI-Inhalten schützt nicht vor Sanktionen.

Ähnliche Nachrichten

Google Duplex in Gemini: Wie sich der Dienst für Anrufe bei Unternehmen weiterentwickelt hat
Branchennachrichten

Google Duplex in Gemini: Wie sich der Dienst für Anrufe bei Unternehmen weiterentwickelt hat

Google Duplex wurde laut einer Überschrift im Google Research Blog so weiterentwickelt, dass es in Gemini auch im Auftrag von Nutzern bei Unternehmen anrufen kann. Die Meldung ist dem Thema generative KI zugeordnet. Der bereitgestellte Originalinhalt besteht allerdings nur aus dieser Themenangabe. Die Information über die Anrufe stammt daher aus der Überschrift. Sie benennt das Ergebnis der Weiterentwicklung, beschreibt aber weder die einzelnen Schritte noch die technische Umsetzung. Auch zur Verfügbarkeit, zu den Voraussetzungen für die Nutzung und zu konkreten Anwendungsfällen liegen keine Angaben vor. Entsprechend lässt sich die genannte Funktion einordnen, ohne daraus Rückschlüsse auf ihren Umfang oder ihre Funktionsweise zu ziehen.

Formale Verifikation von Software: Wie KI und Lean bei mathematischen Korrektheitsbeweisen helfen
Branchennachrichten

Formale Verifikation von Software: Wie KI und Lean bei mathematischen Korrektheitsbeweisen helfen

Softwarekorrektheit mathematisch nachzuweisen, war traditionell eine Aufgabe für Fachleute. Richard MacManus beschreibt bei Latent Space, wie KI und Lean heute dabei helfen, diesen Prozess zu automatisieren. Im Mittelpunkt steht die formale Verifikation: Der Nachweis, dass Software korrekt ist, wird mit mathematischen Mitteln geführt. Die Veränderung betrifft laut Meldung den Weg zu diesem Nachweis. KI und Lean unterstützen die Automatisierung eines Prozesses, für den bislang spezialisierte Arbeit nötig war. Der Titel rahmt die formale Verifikation als Mittel gegen minderwertige Inhalte. Die Kurzmeldung selbst bleibt beim konkreten Anwendungsfall Software. Sie nennt weder einzelne automatisierte Arbeitsschritte noch das Ausmaß der Automatisierung. Von einem vollständig automatisierten Verfahren ist nicht die Rede.

Riemannsche Vermutung: Eine KI und ein Mensch beanspruchen jeweils eine Lösung
Branchennachrichten

Riemannsche Vermutung: Eine KI und ein Mensch beanspruchen jeweils eine Lösung

Eine KI und ein Mensch beanspruchen laut TechCrunch AI jeweils, die Riemannsche Vermutung gelöst zu haben. Die Meldung bezeichnet die Vermutung als 167 Jahre alt und berichtet, dass das jüngste KI-gestützte Ergebnis unter Mathematikerinnen und Mathematikern für Erstaunen sorgt. Dem KI-gestützten Ergebnis steht ein konkurrierender menschlicher Lösungsanspruch gegenüber. Entscheidend ist die Unterscheidung zwischen dem Anspruch, eine Lösung gefunden zu haben, und der Bestätigung, dass die Vermutung tatsächlich gelöst wurde. Der vorliegende Meldungstext bestätigt weder den KI-gestützten noch den menschlichen Lösungsanspruch und erläutert auch nicht, worin die beiden Ansätze bestehen. Damit berichtet der Beitrag von Tim Fernholz über zwei konkurrierende Ansprüche, ohne über deren Gültigkeit zu entscheiden.