ChatGPT si v USA začíná sahat na mnohem citlivější data než na seznam receptů nebo pracovní e-maily. OpenAI rozšiřuje ChatGPT Health pro všechny přihlášené uživatele od 18 let a mně z toho trochu naskakuje kombinace technologické zvědavosti a velmi opatrného zvednutého obočí.
Zdravotní informace přímo v běžném chatu
ChatGPT Health dovoluje propojit s chatbotem zdravotní záznamy a údaje z aplikací pro sledování zdraví. Patří sem například poznámky po návštěvě lékaře, výsledky laboratorních vyšetření, léky nebo poznámky od pečujícího týmu. Připojit lze data od poskytovatelů zdravotní péče i ze služeb Apple Health, Weight Watchers, MyFitnessPal a Function.
Dosud pro podobné věci existovala samostatná záložka ChatGPT Health. Nově má jít pokládat dotazy nad připojenými údaji rovnou v hlavním chatu. ChatGPT si má před použitím zdravotních dat k personalizaci odpovědi vyžádat svolení.
Praktické využití si umím představit celkem snadno: člověk má roztroušené laboratorní výsledky, poznámku z ordinace a seznam léků a chce se v nich lidsky zorientovat. To ale pořád není totéž jako získat spolehlivou medicínskou radu. Zdravotní záznam není další PDF, které bych bez většího přemýšlení hodila do chatu, i kdyby mě zrovna zlobila tabulka s hodnotami.
Věta o lepším úsudku než lékař má dost ostré hrany
Nejvíc mě nezaujalo samotné propojení dat, ale věta Ashley Alexander, viceprezidentky OpenAI pro zdravotní produkty. Modely prý nyní dokážou uvažovat na úrovni lepší než klinický personál. To je mimořádně silné tvrzení, zvlášť vedle tlačítka, kterým uživatel právě připojuje své výsledky vyšetření.
Karan Singhal, který v OpenAI vede oblast zdravotnictví, pak formulaci mírnil. Upozornil na jednotlivé studie, jež tímto směrem ukazují, ale netvrdil už jednoduše, že modely jsou nad kliniky. A právě tady bych byla ráda za víc konkrétních podkladů: v jakých úkolech, proti jakým profesím, na jakých datech a hlavně co se stane ve chvíli, kdy model neví, že neví. Z tohoto oznámení to neplyne.
„Uvažování“ modelu navíc není kouzelné medicínské slovo. V kontextu AI jde o schopnost postupovat přes více kroků při řešení úlohy; samo o sobě to nedokazuje správnou diagnózu, bezpečné doporučení ani schopnost vidět člověka v jeho skutečné situaci.
Šifrování je důležité, ale neřeší všechno
OpenAI píše, že konverzace jsou šifrované při přenosu i při uložení a připojená data v Health mají dostat dodatečnou ochranu šifrováním. To je správný základ. Uživatelé také mohou kontrolovat a měnit, jaké typy zdravotních dat připojili.
Bezpečnost přenosu ale není jediná otázka. Druhá je, zda rady od chatbota člověk nepřecení jen proto, že zní klidně, souvisle a opírají se o jeho vlastní záznamy. Den před širším spuštěním podal floridský pastor žalobu na OpenAI; tvrdí v ní, že mu ChatGPT poskytl velmi nebezpečná zdravotní doporučení a že kvůli nim odložil péči při plicní embolii. Jde o tvrzení v žalobě, ne o pravomocně zjištěný závěr, ale načasování zkrátka nepůsobí pohodlně.
OpenAI uvádí, že ChatGPT Health odbornou péči podporuje, nikoli nahrazuje. Beru to jako podstatnou větu, která by měla být v produktu vidět stejně výrazně jako pohodlné tlačítko pro připojení dalších dat. U zdravotních témat není dobrý výsledek jen přesná odpověď; někdy je jím včasné a jasné „tohle řešte s lékařem“.
Užitečný pomocník, kterému bych nedávala poslední slovo
Rozšíření ChatGPT Health je velký krok hlavně tím, že se zdravotní AI přesouvá z experimentálního kouta do běžného rozhraní, které už lidé znají. Mně osobně dává smysl jako nástroj na vysvětlení záznamů a přípravu otázek do ordinace. S rolí někoho, kdo posuzuje, zda péči odložit, bych mu ale nesvěřila ani malou část rozhodnutí.
Technologie může zdravotní papírování zpřehlednit. Sebevědomé marketingové věty by ho však neměly proměnit v falešný pocit, že máme lékaře v kapse.
