Meta a Apple spolu veřejně slaví jeden AI model. Už samotná tahle věta mě přiměla zkontrolovat, jestli jsem nepřehodila názvy firem: Muse Spark Open má být otevřený model Mety, který poběží na dvou počítačích Mac Studio s čipy M5 Ultra.
Nejde přitom o drobný model pro sumarizaci e-mailů. Meta mluví o 816 miliardách parametrů, tedy zhruba o počtu hodnot, z nichž se model při generování odpovědi skládá. Přesná praktická dostupnost pro běžného člověka z této zprávy neplyne, ale představa tak velkého modelu běžícího „na stole“ je sama o sobě pozoruhodná.
Dva Mac Studio místo vzdáleného cloudu
Muse Spark Open má podle Mety fungovat na sestavě dvou Maců Studio s M5 Ultra a nejnovějším frameworkem MLX. MLX je nástroj pro strojové učení na Apple Silicon, tedy čipech Applu; stará se mimo jiné o to, aby se výpočty rozumně využily přímo na tomto hardwaru.
Slovo „desktop“ si ale nepředstavujme jako obyčejný pracovní notebook u kuchyňského stolu. Dva Mac Studio v konfiguraci s nejvýkonnějším čipem jsou velmi specifická a nejspíš i drahá sestava. To, že model neběží v datacentru, ještě automaticky neznamená, že bude snadno dostupný každému. Cenu hardwaru ani konkrétní nároky na paměť podklad neuvádí.
Meta svůj model označuje za dosud nejschopnější americký open-weight model. „Open-weight“ znamená, že firma zveřejňuje váhy modelu, tedy jeho naučené parametry, aby jej ostatní mohli provozovat a upravovat za podmínek dané licence. Je to něco jiného než plně otevřený projekt se zveřejněnými daty a kompletním postupem trénování; tady bych si rozhodně přečetla licenci dřív, než bych začala plánovat domácí AI laboratoř.
Neobvykle přátelské objetí dvou rivalů
Meta a Apple nebývají firmy, které by si navzájem dělaly marketing s takovou chutí. Mark Zuckerberg poděkoval Applu a Johnu Ternusovi za práci na běhu Muse Spark Open na nových Macích Studio. Ternus naopak vyzdvihl efektivitu modelu na pracovním stole. Alexandr Wang z Mety navíc řekl Axiosu, že spolu firmy spolupracovaly několik měsíců.
Mně osobně na tom přijde nejzajímavější právě hardwareová část. Apple chce, aby jeho vlastní čipy byly seriózní platformou pro AI výpočty mimo cloud. Meta zase získává atraktivní cestu, jak předvést velký otevřený model mimo infrastrukturu velkých poskytovatelů cloudu. Není to romantické usmíření technologických rodin, spíš docela logická shoda zájmů. Jen s méně obvyklým množstvím veřejných gratulací.
Velká čísla, několik nezodpovězených otázek
Meta popisuje Muse Spark Open jako nativně multimodální model. To znamená, že má od základu pracovat s více druhy vstupů, ne jen s textem; podklad ale neupřesňuje, které modality a funkce budou při vydání skutečně dostupné. Firma také tvrdí, že model vyniká v dlouhých úlohách, složitém softwarovém inženýrství a vícekrokovém uvažování.
Jsou to lákavá tvrzení, ale v dostupném textu chybějí benchmarky, srovnání s jinými modely i detaily, co přesně znamená „vyniká“. Nevíme ani, zda budou pro běh na dvou Macích potřeba zvláštní úpravy, kolik bude mít model verzí nebo jak rychle bude odpovídat. U modelu této velikosti jsou to maličkosti asi jako zjišťovat, zda si k ponorce připlatit držák na kelímek, ale pro reálné použití rozhodují.
Apple k tomu zveřejnil technický text o MLX, Muse Spark Open a dalších dvou otevřených modelech. Teprve nezávislé testy ukážou, zda je tahle sestava praktický pracovní nástroj, nebo hlavně elegantní demonstrace toho, co se dá z velmi výkonných Maců vymáčknout.
Co si z toho odnést
Muse Spark Open zatím beru jako slibný signál, že lokální provoz velkých modelů není jen doménou serverových racků a linuxových kouzelníků. Dva špičkové Macy nejsou lidová konfigurace, ale Meta s Applem ukazují směr, který stojí za sledování.
A pokud se podobná optimalizace časem dostane i k menším modelům a dostupnějším strojům, budu ráda. Můj pracovní stůl by totiž druhý Mac Studio nejspíš unesl hůř než moje rozpočtová tabulka.
