Een Duitse rechtbank heeft geoordeeld dat Google direct verantwoordelijk kan worden gehouden voor valse informatie die wordt gegenereerd door zijn AI Overviews-functie, waarmee het een van de eerste grote juridische beslissingen is die aansprakelijkheid voor door AI gegenereerde zoekresultaten aanspreekt.
De zaak werd aangespannen door twee uitgeverijen uit München, nadat Google’s AI-gegenereerde samenvattingen deze naar verluidt koppelden aan oplichting, abonnementsvalkuilen en andere dubieuze zakelijke praktijken. Volgens de rechtbank kwamen de claims niet voor in het bronmateriaal dat door het AI-systeem werd genoemd en werden ze gegenereerd als onderdeel van Google’s samenvatting.
De regionale rechtbank van München vaardigde op 28 mei een voorlopige verbod uit, waarin Google werd opgedragen te stoppen met het tonen van de betwiste informatie. De rechtbank verplichtte het bedrijf ook om het grootste deel van de juridische kosten die met de zaak gepaard gingen te dekken.
Een belangrijk punt in de uitspraak was of door AI gegenereerde samenvattingen als traditionele zoekresultaten behandeld moeten worden.
Google stelde dat gebruikers begrijpen dat AI-gegenereerde informatie onnauwkeurig kan zijn en dat AI Overzichten links bieden waarmee gebruikers onafhankelijk informatie kunnen verifiëren. De rechtbank verwierp dat argument en oordeelde dat het bestaan van bronlinks het bedrijf niet automatisch beschermt tegen aansprakelijkheid wanneer valse verklaringen aan gebruikers worden gepresenteerd.
De jury concludeerde dat AI Overzichten verschillen van conventionele zoekresultaten omdat het systeem informatie herschrijft, organiseert en presenteert in zijn eigen formaat in plaats van simpelweg links naar derde-partij content weer te geven. Daarom bepaalde de rechtbank dat de samenvattingen als Google’s eigen inhoud moeten worden behandeld in plaats van als neutrale zoekresultaten.
Volgens de uitspraak combineerde het AI-systeem van Google informatie uit niet-gerelateerde bronnen en legde het verbanden tussen de uitgevers en vermeend wangedrag die niet werden ondersteund door het onderliggende materiaal. De rechtbank stelde dat deze gegenereerde claims neerkwamen op nieuwe en onafhankelijke verklaringen die door het systeem van Google zijn geproduceerd.
De beslissing kan bredere gevolgen hebben voor AI-gestuurde zoektools en generatieve AI-diensten. Duitse rechtbanken hebben historisch gezien zoekmachines beperkte bescherming geboden tegen aansprakelijkheid voor derde-partijinhoud die in zoekresultaten verschijnt, maar de rechtbank van München oordeelde dat die bescherming niet automatisch geldt voor door AI gegenereerde samenvattingen.
Google heeft betoogd dat AI-gegenereerde informatie niet blindelings vertrouwd moet worden en dat gebruikers bronmateriaal kunnen bekijken voor context. De rechtbank was het daar niet mee eens en oordeelde dat omdat Google het AI-systeem en de algoritmen erachter beheert, het bedrijf verantwoordelijk kan worden gehouden voor de door de functie gegenereerde verklaringen.