Um tribunal alemão decidiu que o Google pode ser responsabilizado diretamente por informações falsas geradas pelo recurso de Visões Gerais de IA, marcando uma das primeiras grandes decisões legais a tratar da responsabilidade pelos resultados de busca gerados por IA.
O caso foi movido por duas editoras sediadas em Munique após resumos gerados por IA pelo Google supostamente os ligar a golpes, armadilhas de assinatura e outras práticas comerciais questionáveis. Segundo o tribunal, as alegações não apareciam no material de origem referenciado pelo sistema de IA e foram geradas como parte do resumo do Google.
O Tribunal Regional de Munique emitiu uma liminar temporária em 28 de maio, ordenando que o Google pare de exibir as informações contestadas. O tribunal também exigiu que a empresa cobrisse a maior parte dos custos legais associados ao caso.
Uma questão fundamental na decisão foi se resumos gerados por IA deveriam ser tratados como resultados de busca tradicionais.
O Google argumentou que os usuários entendem que informações geradas por IA podem ser imprecisas e que as Visões Gerais de IA fornecem links permitindo que os usuários verifiquem informações de forma independente. O tribunal rejeitou esse argumento, concluindo que a existência de links de origem não isenta automaticamente a empresa de responsabilidade quando declarações falsas são apresentadas aos usuários.
Os juízes concluíram que as Visões Gerais de IA diferem dos resultados de busca convencionais porque o sistema reescreve, organiza e apresenta informações em seu próprio formato, em vez de simplesmente exibir links para conteúdo de terceiros. Como resultado, o tribunal determinou que os resumos deveriam ser tratados como conteúdo próprio do Google, e não como resultados de busca neutros.
De acordo com a decisão, o sistema de IA do Google combinou informações de fontes não relacionadas e criou conexões entre os editores e supostas má conduta que não eram sustentadas pelo material subjacente. O tribunal afirmou que essas alegações geradas equivalem a novas declarações independentes produzidas pelo sistema do Google.
A decisão pode ter implicações mais amplas para ferramentas de busca baseadas em IA e serviços de IA generativa. Historicamente, os tribunais alemães oferecem aos mecanismos de busca proteção limitada contra responsabilidade por conteúdo de terceiros que aparece nos resultados, mas o tribunal de Munique concluiu que essas proteções não se estendem automaticamente a resumos gerados por IA.
O Google argumentou que as informações geradas por IA não devem ser confiáveis cegamente e que os usuários podem revisar o material fonte para obter contexto. O tribunal discordou, decidindo que, como o Google controla o sistema de IA e os algoritmos por trás dele, a empresa pode ser responsabilizada pelas declarações geradas pelo recurso.