Wandelaars gered na slecht advies van AI-tool

Een wandeltocht liep uit op een reddingsoperatie toen een groep wandelaars advies volgde van Google Gemini—een AI-tool (kunstmatige intelligentie software) die vragen beantwoordt en informatie geeft. Volgens het lokale politiebureau raadde Gemini de wandelaars aan veel minder eten en water mee te nemen dan hun groep nodig had.

De wandelaars merkten pas onderweg dat iets mis was, toen hun voorraden opraken. Ze moesten door reddingsdiensten worden geholpen. Dit laat zien dat AI-tools, hoewel vaak nuttig, ernstige fouten kunnen maken—vooral als het gaat om advies dat van invloed is op gezondheid en veiligheid.

Google Gemini is een chatbot die probeert elk willekeurig vraag te beantwoorden, ongeveer zoals je een zoekmachine om hulp vraagt. Maar in tegenstelling tot een zoekmachine klinkt het heel zelfverzekerd, zelfs wanneer het ongelijk heeft. De wandelaars vertrouwden op het advies alsof het van een betrouwbare bron kwam, zonder in te zien dat AI moeite kan hebben met complexe, praktische berekeningen—zoals hoeveel voedsel een bepaalde groep werkelijk nodig heeft.

Dit geval stelt ons voor een belangrijk vraag: wanneer kun je AI vertrouwen, en wanneer moet je het advies controleren met menselijke experts? Bij activiteiten waar fouten gevaarlijk kunnen zijn—zoals wandelen, gezondheidsraad of financieel advies—is het verstandig AI-suggesties eerst te checken bij betrouwbare bronnen of professionals.