Googles AI Overviews, som visar snabba svar högst upp i sökresultaten, ger rätt svar i ungefär 90 procent av sökningar. Det betyder att var tionde svar kan vara fel. Med miljontals sökningar varje timme blir det snabbt enorma mängder felaktiga svar som sprids.
I tester har AI:n bland annat valt fel fakta trots rätt källor eller hänvisat till sidor som inte ens innehåller svaret. Google ifrågasätter testerna men medger att AI kan göra misstag. Problemet är att många nöjer sig med svaret direkt och inte klickar vidare.