Vad som hände på berget
Tre oerfarna klättrare från Roseville i Kalifornien räddades från Mount Shasta på morgonen den 31 augusti efter en bestigning som blev en flerdygnsstrapats, rapporterade CBS Sacramento med hänvisning till sheriffkontoret i Siskiyou County.
Gruppen slog basläger på omkring 2 560 meters höjd på lördagen och gav sig av mot toppen klockan tre på natten till söndagen med dagsryggsäckar. Klättrare på Shasta uppmanas att vända om senast vid middagstid om de inte nått toppen; den här gruppen stod på toppen klockan sju på kvällen. En timme in i nedstigningen ringde de sheriffens larmcentral för att fråga om vägen, och kom sedan ur kurs ner i Mud Creek Canyon på bergets sydsida. En av männen föll och skadade ett knä, och gruppen tillbringade natten i ravinen.
Kraftiga vindar stoppade två helikopterförsök. Klätterrangers från det amerikanska skogsverket nådde gruppen till fots vid halv tio på morgonen, vårdade den skadade, gav dem mat och vatten och följde dem ned; de var tillbaka i baslägret vid tretiden.
Vad sheriffkontoret sade om AI:n
Efteråt berättade männen för en polis att de hade förlitat sig i hög grad på Googles Gemini för information om leden och om vad de skulle packa.
“Det var ett kritiskt felsteg, eftersom Gemini rådde dem att ta med sig långt mindre mat och vatten än gruppen behövde, särskilt när den planerade åttatimmarsbestigningen blev en flerdygnsstrapats”, uppgav sheriffkontoret i sitt uttalande. Det tillade att klättrare bör ringa skogsverkets rangerstation vid Mount Shasta före turen för att få de mest exakta uppgifterna, och aldrig förlita sig enbart på AI när de planerar sin tur.
Google kommenterade inte i rapporteringen.
Varför detta inte är en hallucinationshistoria
Det är frestande att lägga det här i högen med modeller som hittar på, men den läsningen missar vad som faktiskt gick fel. En packlista för en åtta timmar lång bestigning är inte ett falskt svar. Det är ett korrekt svar på den ställda frågan, levererat utan det en ranger hade lagt till oombedd: marginalen för att bestigningen tar tre gånger så lång tid.
Säkerhetsråd i fjällen består nästan uteslutande av den marginalen. Regeln om att vända vid middagstid finns för att toppdagen regelmässigt drar över. En ranger som får höra en åttatimmarsplan hör en åttatimmarsplan som kan bli sexton, och packar svaret därefter. En modell besvarar frågan framför sig, och en fråga om en åttatimmarsbestigning ger proviant för åtta timmar.
Det glappet lagas inte med bättre faktakvalitet. Det handlar om huruvida ett system som ger råd med konsekvenser är byggt för att fråga vad som händer när planen spricker.
Mönstret att hålla ögonen på
Sökmotorer har burit det här ansvaret i två decennier och löst det genom att skicka människor till en auktoritet — en rangerstation, en sida hos parkförvaltningen, en fjällräddningsorganisation. En assistent som svarar direkt tar bort steget där läsaren hade sett källan och dess förbehåll.
Konsument-AI byggs samtidigt in i reseplanering, läkemedelsfrågor och ekonomiska beslut, och samma strukturella glapp gäller alla tre: modellen svarar på det den fick frågan om, medan yrkesutövaren svarar på det personen behöver. Formell vägledning har inte hunnit ikapp, och i dess frånvaro kommer varningen från sheriffer på länsnivå.
