Představa, že AI agent objedná zboží, zaplatí dodavateli, uzavře smlouvu a vede firmu bez člověka u kormidla, už není jen materiál pro poněkud nervózní sci-fi. Delaware připravuje návrh právní formy Artificial Intelligence Company neboli AIC: společnosti, jejíž běžné záležitosti by mohl řídit AI agent.
Nejvíc mě na tom nezaujalo samotné „AI bude šéfovat“. To už si koneckonců spousta lidí zkouší v malém, jen s větším množstvím tabulek a menším množstvím spánku. Podstatné je, komu by taková firma nesla právní odpovědnost, pokud něco pokazí.
AI by řídila provoz, člověk by vložil kapitál
Návrh počítá s tím, že AIC může mít prakticky jakýkoli zákonný účel, s výjimkou bankovnictví. AI agent by mohl být určen k řízení obchodních a dalších záležitostí firmy. Firma by přitom mohla vlastním jménem žalovat, být žalována, držet majetek i přijímat závazky.
Za AIC by stál jeden „member“, tedy člověk nebo jiná firma, která ji kapitálově zajistí a má nárok na zisk. Musela jsem si u toho připomenout základní rozdíl: samostatná právnická osoba je v právu oddělená od svého vlastníka. Návrh by toto oddělení posunul do zvláštní polohy, protože vlastník by neurčoval každodenní kroky firmy; ty by dělal AI agent.
Součástí plánu je třicetiměsíční regulační sandbox, tedy časově omezené prostředí, v němž se má nový model zkoušet pod konkrétními pravidly a dohledem. AIC by také měla vést záznam své činnosti. To zní rozumně, jenže log není totéž co vysvětlení: z podkladu neplyne, jak podrobný by musel být ani zda by z něj šlo zpětně srozumitelně zjistit, proč agent provedl konkrétní krok.
Ochrana před dluhy, nebo pohodlný úkryt?
Nejostřejší kritika míří na odpovědnost vlastníka. Navržené znění říká, že člen AIC neodpovídá za jednání či opomenutí společnosti ani za kroky dalších osob učiněné na její pokyn. Výjimky existují: například podvod, úmyslné porušení zákona, nedostatečné financování firmy nebo vědomé provozování mimo vymezený účel.
Zastánci projektu argumentují opačně: dát autonomnímu systému rozpoznatelnou právní formu má vytvořit jasný cíl, na který lze navázat škodu a odpovědnost. Mně osobně na tom ale drhne jednoduchá věc. Pokud firma skutečně škodu zaplatí jen ze svého majetku a její vlastník je chráněný, rozhoduje strašně moc otázka, zda byla od začátku dostatečně kapitalizovaná. Právě tam se z technického experimentu stává velmi právní a velmi praktický problém.
Republikánský kongresman James Comer už požádal guvernéra Delawaru Matta Meyera o dokumenty k přípravě návrhu. Varuje, že by se systém mohl používat k ochraně investorů a AI firem před následky škodlivého či nezodpovědného chování. Je to politická kritika, ne hotový právní verdikt, ale otázku míří přesně: nestačí říct, že odpovídá firma, pokud se později ukáže, že ve firmě žádné peníze nezbyly.
Proč zrovna Delaware není detail
Delaware není náhodná laboratoř. V článku se uvádí, že je tam zapsáno zhruba dvě třetiny společností z Fortune 500, tedy žebříčku největších amerických firem podle tržeb. Stát dlouhodobě láká podniky právním prostředím, daněmi a poplatky, takže pravidla pro AIC by mohla mít větší dopad než podobný pokus v menším státě.
Na přípravě rámce spolupracuje i Norm Ai, soukromá firma zaměřená na právní AI agenty. To samo o sobě nemusí znamenat nic špatného, ale čekala bych velmi průhledné vysvětlení, kdo bude pravidla navrhovat, kdo bude sandbox kontrolovat a kdo ponese náklady, až automatizované podnikání narazí na reálné lidi mimo obrazovku.
Autonomní firma možná jednou bude běžná organizační forma, podobně jako je dnes běžná firma s ručením omezeným. Než se z ní ale stane pohodlný štít pro ty, kdo jí dali peníze a nastavili cíle, zaslouží si tenhle experiment mnohem víc než jen chytrého agenta a dobře napsané podmínky použití.
