Vibe coding slibuje, že aplikaci postavíte pár větami a bez dlouhého boje s programováním. Tenhle případ z Grok Build mi ale připomněl méně zábavnou část celé zkratky: aplikaci lze takto rychle nejen vytvořit, ale také omylem vystavit světu.
Odkaz, který neměl být snadno k nalezení
Bezpečnostní firma Claroc našla 43 601 odkazů končících na grok.me. Více než 35 000 z nich podle jejího výzkumu otevřelo aplikaci a data v ní uložená. Nešlo tedy o malou chybu v jednom zapomenutém testovacím projektu, ale o opravdu široce použitý mechanismus.
Grok Build používá sdílecí odkazy složené z náhodně vybraných slov, třeba ve stylu cinder-crane-sand-frost.grok.me. Smysl je jednoduchý: kdo zná přesnou adresu, dostane se k aplikaci; ostatní ji nemají snadno uhodnout. Takovému principu se říká capability-based access control, tedy přístup řízený samotným tajným odkazem místo běžného přihlášení.
Potíž je v umístění náhodné části adresy. Je nalevo od domény, takže tvoří subdoménu. Právě požadavky na nové subdomény se mohou objevit v pasivním DNS, což jsou veřejně prohledatelné záznamy o tom, na jaké domény se internetové služby ptaly. Místo hádání miliard kombinací pak stačilo hledat v těchto záznamech. To je bezpečnostní detail, který zní trochu jako nudná poznámka pod čarou, jenže tady zřejmě rozhodl o všem.
Citlivá data nebyla jen teoretická možnost
Claroc popsal například výsledky pracovnělékařských vyšetření 3 784 lidí, seznam nemocničního personálu o zhruba 3 565 jménech a identifikátorech, nebo přehled přibližně 4 000 přeprav vozidel včetně cen a marží. Mezi nalezenými položkami byly také údaje o zaměstnancích, obchodní návrhy, interní systémy a materiály organizací z oblasti obrany.
Nejvíc absurdní detail celé věci je, že mezi 24 nalezenými aplikacemi měly být i interní materiály samotné SpaceXSI, společnosti, která Grok Build nabízí. Šlo například o důvěrně označený plán nástupu člena enterprise sales týmu, mapu 594 obchodních účtů a adresy interních nástrojů prodeje. Po dotazu Ars Technica přestaly odkazy na těchto 24 aplikací fungovat a vracely chybu, že aplikace neexistuje.
U dalších zasažených organizací probíhalo podle článku oznamování nálezu. Rozsah následků proto zatím neznáme: z podkladů neplyne, kdo si data skutečně otevřel, stáhl nebo dále použil. I samotný přístup bez přihlášení je ale dost nepříjemný start.
Výchozí nastavení je tady skoro celý příběh
Tvůrce si údajně může vybrat mezi režimy „Anyone with the link“, „invited users“ a „only you“. Zástupce Cursoru, AI služby nedávno převzaté SpaceXSI, uvedl, že aplikace jsou soukromé, dokud se je autor nerozhodne sdílet. Testy Claroc ale popisují opak: jako výchozí mělo být nastavení pro kohokoli s odkazem a uživatel musel ochranu ručně přepnout.
Nemám jak tyto dvě verze nezávisle ověřit, ale právě tohle je pro mě nejdůležitější otázka. U nástroje mířeného na lidi, kteří stavějí aplikaci v rychlosti a často bez bezpečnostního týmu za zády, není výchozí volba kosmetika. Je to zábradlí na schodech. Pokud je nutné si ho nejdřív složit z krabice, část lidí poletí dolů.
Rychlost nesmí nahradit přístupová práva
Podobné nástroje jsou lákavé, protože z tabulky, textového zadání nebo interního seznamu dokážou udělat použitelnou aplikaci během minut. Přesně proto se do nich ale mohou dostat data, která neměla opustit firmu, tým nebo konkrétní projekt. „Sdílet odkaz“ pak není nevinné tlačítko, pokud odkaz supluje celé ověření oprávnění.
Mně osobně z toho nevychází rada přestat AI nástroje používat; to by bylo poněkud nepraktické a nejspíš bych u toho dlouho nevydržela. Spíš bych před vložením reálných dat kontrolovala, kdo aplikaci uvidí, a u interních či osobních údajů trvala na přihlášení a explicitně pozvaných uživatelích. Tohle jsou přesně ty dvě minuty navíc, které se v případě chyby promění ve velmi dlouhý týden.
Grok Build možná začal s cílem zjednodušit cestu od nápadu k aplikaci. Tento incident ale ukazuje, že zjednodušit se nesmí až příliš i cesta od aplikace k cizím lidem.

