Wegweisendes Urteil: Google verantwortlich für KI-generierte Falschaussagen

Ein deutsches Gericht hat entschieden, dass Google für ungenaue oder verleumderische Informationen haftbar gemacht werden kann, die von seiner KI-Overviews-Funktion generiert wurden. Die Entscheidung markiert einen bedeutenden Meilenstein in der wachsenden Debatte über KI-Haftung.

Bericht:

Ein deutsches Gericht hat ein bedeutendes Urteil zur rechtlichen Verantwortung von KI-Systemen gefällt und entschieden, dass Google für falsche oder verleumderische Informationen haftbar gemacht werden kann, die von seiner KI-Overviews-Funktion generiert wurden.

Der von The Decoder berichtete Fall wurde von zwei deutschen Verlagen angestrengt, die behaupteten, Googles KI-generierte Zusammenfassungen hätten ihre Unternehmen fälschlicherweise als Betrug dargestellt und ihnen fragwürdige Praktiken vorgeworfen.

In seinem Urteil zog das Gericht eine Unterscheidung zwischen herkömmlichen Suchmaschinen und KI-generierten Antworten. Die Richter stellten fest, dass konventionelle Suchmaschinen Nutzer in erster Linie durch das Anzeigen von Links und Ausschnitten von Inhalten, die von anderen erstellt wurden, auf Websites Dritter weiterleiten. KI-Overviews hingegen generieren originelle Antworten auf der Grundlage von Informationen, die aus mehreren Quellen zusammengetragen werden.

Laut dem Gericht reproduzieren KI-generierte Zusammenfassungen nicht lediglich vorhandene Inhalte, sondern erstellen „eigenständige, neue und substanzielle Aussagen". Infolgedessen gelangte das Gericht zu dem Schluss, dass KI-generierte Ausgaben anders behandelt werden sollten als herkömmliche Suchergebnisse.

Die Richter stellten fest, dass nur Google in der Lage ist, das zugrundeliegende KI-System, das diese Antworten produziert, zu verändern, zu korrigieren oder zu verbessern. Daher kam das Gericht zu dem Ergebnis, dass ungenaue oder verleumderische Aussagen, die von KI-Overviews generiert werden, Teil von Googles eigener geschäftlicher Tätigkeit darstellen, was das Unternehmen potenziell für diese Ausgaben haftbar macht.

Das Gericht wies außerdem Googles Argument zurück, dass Nutzer KI-generierte Informationen selbst überprüfen sollten, bevor sie sich darauf verlassen. Die Richter bemerkten, dass die Anforderung, dass Nutzer jede Antwort auf Fakten prüfen, den Nutzen von KI-generierten Zusammenfassungen erheblich verringern würde.

Google argumentierte, dass Nutzer im Allgemeinen verstehen, dass KI-Systeme nicht immer korrekt sind und dass KI-generierte Inhalte Fehler enthalten können. Das Unternehmen verwies auf Warnhinweise und Haftungsausschlüsse, die in der gesamten KI-Branche verwendet werden und Nutzer dazu auffordern, Informationen unabhängig zu überprüfen.

Nach dem Urteil erklärte Google, es investiere intensiv in die Verbesserung der Qualität und Genauigkeit von KI-Overviews und die überwiegende Mehrheit der Antworten liefere genaue Informationen. Das Unternehmen merkte außerdem an, dass die Entscheidung nicht endgültig sei und einer weiteren rechtlichen Überprüfung unterliege.

Der Fall hat internationale Aufmerksamkeit erregt, da er eine weiterreichende Rechtsfrage rund um generative KI-Systeme behandelt. Im Gegensatz zu herkömmlichen Plattformen, die Inhalte von anderen hosten oder anzeigen, generieren generative KI-Tools wie Googles KI-Overviews, OpenAIs ChatGPT, Microsofts Copilot und Anthropics Claude originelle Antworten auf der Grundlage von ihnen zur Verfügung stehenden Informationen.

Das deutsche Urteil ist eine der bislang klarsten gerichtlichen Entscheidungen, die sich damit befasst, ob Unternehmen, die KI-Systeme betreiben, für ungenaue Informationen haftbar gemacht werden können, die von diesen Systemen generiert werden. Während die Entscheidung derzeit nur innerhalb Deutschlands gilt, wird erwartet, dass sie zu laufenden Diskussionen über KI-Regulierung und Haftung in mehreren Rechtssystemen weltweit beitragen wird.