AI chatboti mají umět odpovědět rovnou, bez obcházení deseti odkazů a tří agresivních pop-upů na cookies. To pohodlí chápu až podezřele dobře. Nově odtajněné materiály ve sporu New York Times proti OpenAI a Microsoftu ale ukazují i druhou stranu: lidé uvnitř firem si měli uvědomovat, že tím oslabují web, který jejich systémy potřebují jako zdroj informací.
Chatbot místo návštěvy zdroje
Nejvýraznější věta z podkladů mluví o „doom loop“, tedy začarovaném kruhu. Interní dokument Microsoftu měl popisovat situaci, v níž AI obsahová strategie poškozuje zároveň výkon modelů i celý web: produkt ohrožuje ekonomické základy svých vlastních dodavatelů obsahu.
Ten mechanismus není zase tak záhadný, i když jeho důsledky jsou obří. Vydavatel zaplatí reportéra, editora, fotografa a provoz webu. Vyhledávač nebo chatbot pak nabídne hotovou odpověď, takže čtenář nemá důvod kliknout. Méně návštěvnosti znamená méně příjmů; méně příjmů může znamenat méně původní práce. A modelům pak zbývá méně kvalitního materiálu, na kterém se mohou učit.
V materiálech se objevuje i tvrzení, že AI souhrny mohly snížit příchody z vyhledávání až o 60 procent. To není číslo, které bych brala jako obecně prokázaný stav celého internetu: jde o spekulaci interních mediálních a ekonomických expertů OpenAI popsanou v podání Times. I tak mě zarazilo, že se podobný dopad řešil uvnitř firmy, ne jen v textech vydavatelů, kteří pochopitelně bijí na poplach.
Nejde jen o kliky, ale i o trénovací data
Spor se vede také o to, odkud modely berou texty pro trénink. Tréninková data jsou velké soubory textu, na kterých se jazykový model učí rozpoznávat vzorce v řeči a psát odpovědi. Podle citací ve zveřejněných dokumentech označil Brent Hecht z Microsoftu takové získávání obsahu za „největší krádež práce v lidských dějinách“ a za výsměch principu fair use, tedy americké právní výjimce umožňující za určitých okolností využít cizí dílo bez svolení.
Microsoft se od Hechtových formulací distancoval. Jeho mluvčí pro The Verge řekl, že šlo o osobní pohled zaměstnance, nikoli právní analýzu ani stanovisko firmy. V dalším soudním podání Microsoft jeho roli popsal jako záměrně oponentní a akademicky zaměřenou. To je důležité upřesnění: z ostré interní citace se automaticky nestává přiznání společnosti.
Nemizí tím ale otázka, kterou ty citace otevírají. Jestliže firmy vědí, že tvůrci obvykle nezamýšleli použití svého obsahu pro tento účel a nejsou za něj odměňováni, nestačí mi odpověď ve stylu „internet byl přece veřejný“. Veřejně dostupné není totéž co bez následků volně vytěžitelné. Musela jsem si tohle opakovat i sama sobě, protože hranice mezi vyhledáním textu a jeho hromadným použitím pro model je intuitivně mnohem méně pohodlná, než se zdá.
„Memorizace“ není drobná technická vada
Podklady dále obsahují interní úvahy o tom, že GPT-4 „memoroval spoustu dat“ a mohl být velmi dobrý v doslovném opakování. Memorizace zde znamená, že model nepracuje jen s naučeným stylem nebo obecnou znalostí, ale dokáže vracet dlouhé konkrétní pasáže ze svých trénovacích dat.
New York Times v podání uvádí příklady dlouhých úseků článků, které měl ChatGPT vracet z titulů včetně Times, Mercury News, Denver Post, LifeHacker nebo Eurogamer. Z článku The Verge ale neplyne, zda jde o běžné chování, nebo o výstupy vyvolané zvlášť zvolenými dotazy. Soud právě takové věci bude muset rozebrat mnohem pečlivěji než já nad ranní kávou a lehce přehřátým notebookem.
Pohodlný internet může být chudší internet
Mně osobně na tom nepřijde nejděsivější ani jedna hlasitá citace, ale obyčejná ekonomická logika. Chatbot, který odpověď převezme a zabalí do jednoho okénka, je pro uživatele skvělý. Pro člověka, který zdroj vytvořil, už to skvělé být nemusí. A bez lidí, kteří budou mít z čeho platit poctivou práci, nebude mít AI co elegantně shrnovat.
Tento spor zatím nerozhodl, co je legální, kdo komu dluží peníze ani jak má vypadat rozumné licencování. Odtajněné dokumenty ale dělají jednu věc velmi dobře: berou debatě o „AI a webu“ její abstraktní mlhu. Najednou je vidět, že i uvnitř největších firem někdo pojmenoval problém dost přesně.
