Slecht nieuws over het AI-overzicht bovenaan in Google: dit is het gevaar

De AI-overzichten van Google lijken handig, maar zijn helaas niet altijd betrouwbaar. Uit onderzoek van The New York Times en AI-analysebedrijf Oumi blijkt dat je er maar beter mee oplet.

10 procent fout

In test met duizenden eenvoudige vragen gaf de AI in ongeveer 90 procent van de gevallen een correct antwoord, maar in 1 op de 10 gevallen zat hij er volledig naast. Dat lijkt misschien niet zo slecht, maar op de enorme schaal van Google wordt het een probleem.

De zoekmachine verwerkt immers miljarden zoekopdrachten per dag. Zelfs een klein percentage fouten betekent dus dat er op grote schaal verkeerde of misleidende informatie wordt verspreid.

AI helemaal bovenaan

Wat het extra riskant maakt, is hoe die informatie wordt gepresenteerd. De AI-antwoorden staan helemaal bovenaan de pagina en ogen overzichtelijk, overtuigend en volledig. Daardoor voelen veel gebruikers minder noodzaak om verder te klikken of bronnen te controleren.

Grote risico's afhankelijk van het onderwerp

De impact hiervan kan sterk verschillen afhankelijk van het onderwerp. Een fout in een recept of een sportfeitje is vervelend, maar onschuldig. Wanneer het echter gaat over gezondheid of andere belangrijkte thema's, kunnen verkeerde antwoorden wel degelijk gevaarlijk zijn.

Denk kritisch na

In een reactie benadrukt Google dat dergelijke tests niet echt representatief zijn voor echte zoekopdrachten. Toch blijft het kernprobleem bestaan: zolang AI niet foutloos is, kan blind vertrouwen risico's met zich meebrengen.

De conclusie is dan ook duidelijk: AI-overzichten maken zoeken sneller en makkelijker, maar ze vervangen geen kritisch denkvermogen. "Vertrouw nooit op één bron", zegt Pratik Verma, topman van een bedrijf dat mensen helpt om AI te gebruiken, dan ook. "Vergelijk het resultaat altijd met een andere bron."