První rozhovor s chatbotem bývá trochu podezřele snadný. Napíšete normální větu, dostanete normální větu zpátky a mozek si skoro automaticky řekne: aha, někdo na druhé straně tomu rozumí. Právě tady se podle mě hodí na chvíli přibrzdit — ne proto, abychom se chatbota báli, ale abychom od něj nečekali kouzelnickou licenci na pravdu.
LLM: velký stroj na pokračování textu
Za mnoha známými chatboty stojí LLM neboli large language model, česky velký jazykový model. Je to systém natrénovaný na obrovském množství textů, který se naučil odhadovat, jaká část textu by měla následovat po té předchozí.
Zní to až moc prostě? Mně to napoprvé také přišlo jako trik se slovíčky. Jenže aby model dokázal rozumně doplnit pokračování věty, musí zachytit spoustu vzorců: gramatiku, význam slov, styl dopisu, strukturu receptu i to, že po otázce na hlavní město Francie lidé obvykle čekají „Paříž“, ne návod na výměnu pneumatik.
Text si přitom nečte úplně jako člověk po slovech. Rozděluje ho na menší kousky zvané tokeny; token může být celé krátké slovo, část delšího slova nebo interpunkce. Model pak postupně vybírá pravděpodobné další tokeny. Jeden, další, další — a výsledkem je odstavec, který působí, jako by ho někdo promyslel u kafe. Ve skutečnosti jde o velmi složité pokračování textu, ne o malého člověka uvnitř obrazovky. To je možná méně romantické, ale pro používání dost podstatné.
Co se děje po odeslání otázky
Věta „Vysvětli mi fotosyntézu pro dítě“ není pro chatbot jen hledaný dotaz jako v klasickém vyhledávači. Model dostane váš text, předchozí zprávy z konverzace a často i instrukce služby, která ho provozuje. Z nich sestaví odpověď token po tokenu.
Předchozí zprávy jsou důvod, proč lze navázat: „A teď to zkrať do tří vět.“ Chatbot ví, k čemu se „to“ vztahuje, protože má část rozhovoru v kontextu. Kontext je zjednodušeně pracovní plocha, kam se vejde aktuální konverzace a materiály, které mu dáte. Není to ale lidská paměť ani důkaz, že si vás bude pamatovat při každé příští návštěvě.
Praktická drobnost: chatbotu pomáhá, když mu dáte cíl a hranice. Místo „Napiš něco o dovolené“ zkuste „Navrhni třídenní plán deštivé dovolené v Brně pro dva dospělé, pěšky a s rozpočtem do 2 000 Kč denně. U neověřených otevíracích dob mě na to upozorni.“ Nejde o tajné zaříkadlo zvané prompt. Jen jste jasněji popsali úkol — a i lidem se pak pracuje lépe, což je lehce nepříjemné zjištění pro nás všechny.
Plynulost není ověřený fakt
Jazykový model nemá zabudovaný detektor pravdy, který by se u každé věty rozsvítil zeleně nebo červeně. Jeho základní práce je vytvořit věrohodné pokračování. Proto dokáže podat správnou informaci s jistotou, ale také si s úplně stejným klidem vymyslet zdroj, datum, název knihy nebo funkci, která neexistuje.
Tomu se říká halucinace modelu: výstup zní uvěřitelně, jenže neodpovídá skutečnosti. Neznamená to, že chatbot „lže“ v lidském smyslu; nemá úmysl vás napálit. Spíš doplnil text způsobem, který jazykově sedí, ale fakticky minul terč. A trefil ho s takovým sebevědomím, že bych mu občas nejradši podala mikrofon do televizní debaty.
Ověřování se vyplatí hlavně u zdraví, práva, financí, aktuálních zpráv, čísel, citací a všeho, podle čeho se chystáte něco opravdu udělat. Chatbot může být skvělý pomocník pro první orientaci, seznam otázek, vysvětlení pojmu, osnovu textu nebo návrh variant. Konečné rozhodnutí ani zdroj faktů z něj ale nedělejte.
První bezpečné pokusy
Začala bych úkoly, kde případná chyba nic nepokazí. Nechte si vysvětlit pojem, který jste nikdy nepochopili. Požádejte o pět nápadů na večeři z toho, co zbývá doma. Nechte si upravit příliš ostrý e-mail do zdvořilé verze. Pak se doptávejte: „Použij jednodušší slova“, „Uveď příklad“, „Co v této odpovědi může být nepřesné?“
Citlivé údaje bych do chatu nevkládala. Hesla, rodná čísla, celé smlouvy s osobními daty, neveřejné pracovní materiály nebo cizí soukromé zprávy do experimentu nepatří. Konkrétní pravidla ukládání a používání konverzací se navíc liší službu od služby, takže má smysl otevřít si její nastavení soukromí dřív, než jí svěříte polovinu života.
Chatbot tedy není ani orákulum, ani jen hloupý automat na doplňování vět. Je to užitečný nástroj na práci s jazykem, který občas trefí hřebík na hlavičku a občas si hřebík sebejistě domaluje. V příštích dílech se nám bude hodit hlavně jedna dovednost: ptát se konkrétně a nenechat se ukolébat pěkně znějící odpovědí.
