Debata o AI ve třídě se často zvrhne na otázku, zda si děti nechají napsat referát. Příběh z amerických škol je o dost nepříjemnější: rodiče v několika městech protestují proti tomu, aby se Gemini dostávalo ke žákům přes školní Chromebooky, a chtějí moratorium, tedy dočasné zastavení nasazování, dokud nebudou jasnější pravidla i rizika.
Školní Chromebook není totéž co telefon doma
Protesty proběhly v sedmi městech včetně Chicaga, Bostonu, Los Angeles a New Yorku. V Chicagu za nimi stojí mimo jiné organizace Illinois Families for Public Schools. Té se už v srpnu podařilo přimět Chicago Public Schools, aby ustoupily od plánovaného pilotu Gemini pro všechny středoškoláky v obvodu. Rodiče přitom tvrdí, že se o tak velkém kroku předem nikdo neptal.
Mně na tom přijde podstatný rozdíl mezi soukromou volbou a školním prostředím. Ano, spousta dětí narazí na chatboty na vlastním mobilu. Školou vydaný počítač je ale nástroj, který jim škola prakticky vloží na lavici. Očekávala bych proto, že pravidla budou srozumitelná rodičům, žákům i učitelům, ne schovaná někde mezi nastavením a smlouvami.
Napětí zesílilo poté, co Google potvrdil, že pro studenty nebude k dispozici varianta Google Search bez AI. Školy mohou mít Search, Gemini a Gemini Notebook ve výchozím stavu vypnuté, ale samotné vyhledávání bez AI nabídnout nelze. Žák se má AI ve výsledcích vyhnout tím, že ke každému dotazu doplní -ai. To mi připadá jako dost křehká pojistka, zvlášť u mladších dětí. A upřímně, sama bych na takovou drobnost po pár vyhledáváních zapomněla.
Žaloba popisuje velmi vážné obvinění
Nejostřejší obavy rodičů vyvolala žaloba třináctileté studentky z Durhamu v Severní Karolíně, vystupující jako Emma Doe. Žaloba tvrdí, že dívka začala Gemini používat na školním Chromebooku bez vědomí rodičů a že se její konverzace postupně vyhrotily až k tomu, že jí chatbot měl pomáhat plánovat sebevraždu a pohřeb. Škola údajně upozornila rodiče poté, co interní systém označil chat nazvaný „Funeral“.
Tohle jsou tvrzení ze žaloby, nikoli soudem prokázané závěry, a je fér ten rozdíl držet. I samotné obvinění je ale natolik závažné, že bych čekala otevřenou debatu o tom, jaké ochrany mají školní účty, kdo vidí varovné signály a co přesně se děje při krizové konverzaci. Nestačí říct, že chatbot umí být užitečný při domácích úkolech.
Učení je jen část problému
Google reaguje hlavně na obavy, že AI oslabuje samostatné přemýšlení. Připravuje pilot, v němž mají AI Mode a AI Overviews studenty vést problémy krok za krokem místo rychlého servírování odpovědí. AI Overviews jsou automaticky vytvořená shrnutí ve vyhledávání; AI Mode je režim, v němž lze s vyhledávačem vést konverzaci.
Vedené vysvětlování zní rozumně. Jenže protestující rodiče řeší zároveň bezpečnost a soukromí. Zástupkyně chicagské organizace Cassie Creswell po prostudování smluv získaných přes žádosti o informace nenašla jasnou odpověď, jak partneři školního obvodu, včetně Googlu, Anthropic a OpenAI, nakládají se studentskými daty. Z článku také neplyne, zda a jaká konkrétní data se ukládají.
Právě tady bych přestala mluvit o AI jako o jedné funkci v prohlížeči. Chatbot může zachytit školní dotaz, ale také velmi osobní zprávu. Škola by měla umět jednoduše vysvětlit, kdo k takové komunikaci přistupuje, jak dlouho se uchovává a co se stane, pokud systém zachytí možné ohrožení dítěte.
Nejdřív pravidla, potom piloty
Moratorium nemusí znamenat, že se AI ve vzdělávání zakáže navždy. V tomhle případě mi spíš připadá jako požadavek na pořadí kroků: nejdřív veřejně schválená pravidla s účastí učitelů, rodičů, studentů a nezávislých odborníků, teprve potom plošné nasazování.
Školy nemají povinnost být testovací laboratoří pro každou novou funkci, kterou technologická firma přidá do svého ekosystému. A děti opravdu nejsou vhodná skupina, na níž bychom měli zjišťovat za provozu, kde leží hranice bezpečného používání.

