Ein deutsches Gericht hat entschieden, dass Google direkt für falsche Informationen verantwortlich gemacht werden kann, die durch seine KI-Übersichten generiert werden, was eine der ersten großen rechtlichen Entscheidungen zur Regulierung der Haftung für KI-generierte Suchergebnisse darstellt.
Der Fall wurde von zwei in München ansässigen Verlagen eingereicht, nachdem Googles KI-generierte Zusammenfassungen sie angeblich mit Betrügereien, Abonnementfallen und anderen fragwürdigen Geschäftspraktiken in Verbindung gebracht hatten. Nach Ansicht des Gerichts tauchten die Behauptungen nicht im vom KI-System referenzierten Quellmaterial auf und wurden als Teil der Google-Zusammenfassung generiert.
Das Regionalgericht München erließ am 28. Mai eine einstweilige Verfügung und ordnete Google an, die Anzeige der umstrittenen Informationen einzustellen. Das Gericht verpflichtete das Unternehmen außerdem, den Großteil der mit dem Fall verbundenen Anwaltskosten zu übernehmen.
Ein zentrales Thema in der Entscheidung war, ob KI-generierte Zusammenfassungen wie traditionelle Suchergebnisse behandelt werden sollten.
Google argumentierte, dass Nutzer verstehen, dass KI-generierte Informationen ungenau sein können und dass KI-Übersichten Links bereitstellen, die es den Nutzern ermöglichen, Informationen unabhängig zu verifizieren. Das Gericht wies dieses Argument zurück und stellte fest, dass das Vorhandensein von Quelllinks das Unternehmen nicht automatisch vor Haftung schützt, wenn den Nutzern falsche Angaben vorgelegt werden.
Die Juroren kamen zu dem Schluss, dass KI-Überblicke sich von herkömmlichen Suchergebnissen unterscheiden, weil das System Informationen in seinem eigenen Format umschreibt, organisiert und präsentiert, anstatt lediglich Links zu Drittanbieter-Inhalten anzuzeigen. Daher entschied das Gericht, dass die Zusammenfassungen als eigener Google-Inhalt und nicht als neutrale Suchergebnisse behandelt werden sollten.
Laut dem Urteil kombinierte Googles KI-System Informationen aus nicht verwandten Quellen und stellte Verbindungen zwischen den Publishern und angeblichem Fehlverhalten her, die durch das zugrundeliegende Material nicht gestützt wurden. Das Gericht erklärte, dass diese erhobenen Ansprüche neue und unabhängige Aussagen des Google-Systems darstellten.
Die Entscheidung könnte weiterreichende Auswirkungen auf KI-gestützte Suchwerkzeuge und generative KI-Dienste haben. Deutsche Gerichte haben Suchmaschinen historisch gesehen nur begrenzten Schutz vor Haftung für Inhalte Dritter gewährt, die in Suchergebnissen erscheinen, doch das Münchner Gericht stellte fest, dass dieser Schutz nicht automatisch auf KI-generierte Zusammenfassungen ausgeweitet wird.
Google hat argumentiert, dass KI-generierte Informationen nicht blind vertraut werden sollten und dass Nutzer Quellmaterial zum Kontext überprüfen können. Das Gericht widersprach und entschied, dass das Unternehmen für die durch die Funktion generierten Angaben zur Rechenschaft gezogen werden kann, da Google das KI-System und die dahinterstehenden Algorithmen kontrolliert.