Chatbot, který navrhne e-mail, je užitečný. Agent, který e-mail sám rozešle, dohledá přílohu, zapíše schůzku do kalendáře a objedná oběd, zní ještě užitečněji — a trochu jako začátek situace, kdy si budu muset s vlastním počítačem domlouvat podmínky spolupráce.
Právě agenti jsou teď všude. Mně osobně ale přijde důležité oddělit působivou ukázku od nástroje, kterému bych bez dozoru svěřila skutečnou práci.
Agent není jiný mozek, ale chatbot s rukama
AI agent je program, který jazykový model používá k tomu, aby se pokusil splnit cíl ve více krocích. Nejen odpoví „tady je plán cesty“, ale může vyhledávat spoje, číst dokumenty, pracovat s tabulkou, zavolat další službu nebo připravit návrh rezervace.
Rozdíl dělají nástroje. To jsou funkce, k nimž agent dostane přístup: třeba vyhledávání na webu, kalendář, e-mail, firemní databáze nebo interní systém. Model sám do kalendáře nic nezapíše; pouze rozpozná, že by měl použít nástroj „vytvořit událost“, doplní údaje a program tento požadavek provede.
Další součástí je smyčka: agent vyhodnotí zadání, navrhne krok, podívá se na výsledek a rozhodne, co dál. Slovo „plánování“ tu nezní tak romanticky, jak by se mohlo zdát. Znamená zkrátka, že místo pevně napsané posloupnosti kroků systém do jisté míry volí postup sám. A volit špatně umí stejně ochotně jako chatbot vymyslet neexistující zdroj.
Automatizace není vždy agent a to je dobrá zpráva
Spousta výborných automatizací žádného agenta nepotřebuje. Příchozí faktura se uloží do složky, formulář vytvoří úkol, každé pondělí přijde přehled prodejů. Takový pracovní postup má předem dané kroky a je snazší ho otestovat. Méně efektní, více uklidňující.
Agent dává smysl tam, kde se úkoly pokaždé trochu liší a člověk by jinak přeskakoval mezi více místy. Může například projít dlouhé odpovědi ze zákaznického formuláře, roztřídit je podle tématu, dohledat související informace ve znalostní bázi a připravit koncepty odpovědí. Člověk je pak schválí, upraví nebo zahodí.
Naopak věta „zařiď mi nejlepší dovolenou“ je demonstrace plná malých pastí. Co znamená nejlepší? Nejlevnější, nejkratší cesta, hotel bez schodů, nebo místo, kde nebude pršet? Agent se může doptat, ale také si domyslet prioritu, kterou jste vůbec neměli. U doporučení je to nepříjemné. U objednávky za desítky tisíc už docela drahé.
Nejdřív čtení, potom návrhy, až nakonec akce
Bezpečný začátek bych si představila jako stupnici oprávnění. Nejdřív agent pouze čte: shrne složku dokumentů nebo vytáhne úkoly z poznámek. Potom může navrhovat: připraví e-mail, položky do kalendáře nebo změny v tabulce, ale nic neodešle. Teprve později smí provádět malé a snadno vratné akce, ideálně po výslovném potvrzení.
Pravidlo nejmenšího oprávnění zní suše, ale zachraňuje nervy: nástroji dejte jen přístup, který pro daný úkol opravdu potřebuje. Agent třídící dokumenty nepotřebuje číst celý e-mail ani znát heslo k bankovnictví. API klíč, tedy tajný kód, jímž program získá přístup ke službě, berte podobně opatrně jako heslo. Nelepte ho do chatu a nenechávejte ho v projektu, který může vidět kdokoli.
Začátečnický pokus může vypadat docela obyčejně: nechte agenta z několika vlastních, necitlivých poznámek připravit týdenní seznam úkolů. Nebo mu dejte veřejné odkazy a požádejte o rešerši s odkazy na původní stránky. Výsledek si projděte. Zjistíte, kde se ptá zbytečně, kde si domýšlí a zda vůbec šetří čas. Teprve potom má smysl připojovat další služby.
Brzda není projev nedůvěry, ale součást návrhu
U každého agenta bych chtěla znát odpověď na pár nudných, ale podstatných otázek: Co přesně může udělat? Kolik může utratit? Kdo schvaluje odeslání nebo smazání? Kde uvidím záznam jeho kroků? A jak ho zastavím, když začne být až příliš iniciativní?
Schvalování člověkem není selhání automatizace. Je to rozumná hranice mezi „pomoz mi připravit podklady“ a „rozhodni za mě“. Obzvlášť opatrná bych byla u financí, zdravotních informací, smluv, osobních dat, zabezpečení domácnosti a čehokoli, co nejde jednoduše vzít zpět. Agentovi bych zatím nedala klíče od bytu, přístup k bankovnictví ani právo oznamovat lidem, že jsem se rozhodla za ně.
Celý seriál začal otázkou, co AI vlastně je. Po osmi dílech mi vychází jednoduchá odpověď: je to sada nástrojů, které umějí být překvapivě šikovné, ale potřebují jasné zadání, kontrolu a člověka, který nese odpovědnost. U agentů to platí dvojnásob — protože tentokrát už nejde jen o věty na obrazovce.
