Open source AI modely: co znamená otevřenost a kdy je využít

Open source AI modely jsou jazykové a další modely umělé inteligence, které si můžete stáhnout a provozovat sami, místo abyste je používali jen přes službu jejich výrobce. Kolem nich se ale vede řada nedorozumění. „Otevřený“ neznamená vždy totéž, „zdarma“ neplatí bez výhrad a „bezpečnější“ záleží na tom, jak model nasadíte. V tomto článku vysvětlíme, co otevřenost u AI modelů skutečně znamená, jaké rodiny modelů jsou známé, jaké mají výhody a nevýhody, jak je provozovat lokálně a proč je důležité číst licence.

Co znamená „otevřený“ u AI modelů

U běžného softwaru je pojem open source poměrně jasný: zdrojový kód je veřejný a licence dovoluje ho používat, upravovat a šířit. U AI modelů je situace složitější, protože model nevzniká jen z kódu. Skládá se z několika částí:

  • váhy modelu – naučené parametry, tedy samotný „mozek“ modelu,
  • kód pro trénink a spouštění,
  • trénovací data, na kterých se model učil,
  • dokumentace postupu tréninku a vyhodnocení.

Podle toho, které části výrobce zveřejní, rozlišujeme:

Otevřené váhy (open weights)

Většina modelů, o kterých se mluví jako o „open source“, má ve skutečnosti otevřené váhy. Model si stáhnete a můžete ho spustit, případně doladit na vlastních datech. Trénovací data a podrobný postup tréninku ale zveřejněny nejsou a licence může obsahovat různá omezení.

Plně otevřené modely

Plně otevřený model zveřejňuje váhy, kód, informace o trénovacích datech i postupu. Takové modely jsou cenné hlavně pro výzkum a pro ty, kdo potřebují rozumět tomu, z čeho model vznikl. Bývá jich méně a často nepatří k nejvýkonnějším.

Uzavřené modely

Uzavřené modely, typicky ty za službami jako ChatGPT, Claude nebo Gemini, používáte přes webové rozhraní nebo API. Váhy nemáte k dispozici a model běží na serverech výrobce.

Rozdíl mezi otevřenými vahami a plnou otevřeností je důležitý: model s otevřenými vahami můžete provozovat sami, ale neznamená to, že víte, na čem se učil, nebo že ho smíte použít jakkoli.

Otevřené váhy✓Váhy ke stažení a spuštění✓Lze doladit na vlastních datech✓Trénovací data nezveřejněna✓Licence může mít omezeníPlně otevřené✓Váhy, kód, data i postup✓Cenné hlavně pro výzkum✓Bývá jich méně✓Často nejsou nejvýkonnějšíUzavřené✓Přístup přes web nebo API✓Váhy nemáte k dispozici✓Běží na serverech výrobce
Otevřené váhy✓Váhy ke stažení a spuštění✓Lze doladit na vlastních datech✓Trénovací data nezveřejněna✓Licence může mít omezeníPlně otevřené✓Váhy, kód, data i postup✓Cenné hlavně pro výzkum✓Bývá jich méně✓Často nejsou nejvýkonnějšíUzavřené✓Přístup přes web nebo API✓Váhy nemáte k dispozici✓Běží na serverech výrobce
Otevřené váhy, plně otevřené a uzavřené modely – Model s otevřenými vahami můžete provozovat sami, to ale neznamená, že víte, na čem se učil, nebo ho smíte použít jakkoli.

Známé rodiny otevřených modelů

Otevřených modelů vychází velké množství a jejich pořadí v různých srovnáních se rychle mění. Proto zde uvádíme jen obecný přehled známých rodin, bez srovnávání výkonu:

  • Llama od společnosti Meta – jedna z rodin, které otevřené modely zpopularizovaly. Existuje v různých velikostech a komunita z ní vytvořila mnoho upravených verzí.
  • Mistral AI – evropská firma z Francie, která vydává otevřené i komerční modely. Pro evropské firmy je zajímavá i tím, že jde o evropského výrobce.
  • Qwen od skupiny Alibaba – rodina modelů v mnoha velikostech včetně specializovaných verzí, například pro programování. Praktický úvod nabízí Qwen AI kurz zdarma.
  • DeepSeek – čínský výrobce, jehož otevřené modely vzbudily velkou pozornost. Jak s ním pracovat a na co si dát pozor z hlediska dat, ukazuje DeepSeek kurz zdarma.
  • Kimi od společnosti Moonshot AI – další čínská rodina modelů, z nichž některé vyšly s otevřenými vahami.
  • Gemma od Googlu – menší otevřené modely odvozené z výzkumu kolem Gemini.

U každé rodiny existují verze s různými licencemi a podmínkami. Neplatí, že „všechno od výrobce X je volné“.

Otevřené vs uzavřené modely: výhody a nevýhody

Volba mezi otevřeným a uzavřeným modelem není otázka „lepší a horší“, ale toho, co potřebujete.

Výhody otevřených modelů:

  • Kontrola nad daty. Při provozu na vlastním serveru neopouštějí dokumenty a dotazy vaši infrastrukturu. To je silný argument pro firmy, které pracují s osobními údaji, obchodním tajemstvím nebo citlivými dokumenty.
  • Nezávislost na dodavateli. Výrobce vám model nemůže ze dne na den změnit, zdražit nebo vypnout. Verze, kterou jste nasadili, zůstává stejná.
  • Přizpůsobení. Model lze doladit na vlastních datech, upravit jeho chování nebo propojit s interními systémy bez omezení API.
  • Předvídatelné náklady při velkém objemu. Při trvale vysokém počtu dotazů může být vlastní provoz ekonomicky zajímavý, i když to vždy závisí na konkrétním využití.

Nevýhody a rizika:

  • Hardware a provoz. Výkonné modely potřebují grafické karty s velkou pamětí. Server je potřeba pořídit, zabezpečit, aktualizovat a monitorovat.
  • Kvalita. Nejvýkonnější uzavřené modely bývají v řadě úloh o krok napřed, i když se rozdíl u mnoha praktických úloh zmenšuje. Je dobré otestovat model na vlastních úlohách, nejen podle veřejných srovnání.
  • Odpovědnost. Za bezpečnost, filtry obsahu a správné nastavení odpovídáte sami. Výrobce vám nedodá podporu jako u komerční služby.
  • Původ a důvěryhodnost. Modely stahujte jen z oficiálních zdrojů výrobce nebo důvěryhodných repozitářů. Upravené verze od neznámých autorů mohou mít nečekané chování.

Jak provozovat open source AI modely lokálně

Lokální provoz má několik úrovní podle toho, k čemu model potřebujete.

Vyzkoušení na vlastním počítači. Existují aplikace, které umožňují stáhnout a spustit menší modely na výkonnějším notebooku nebo stolním počítači během několika minut. Často se používají komprimované (kvantizované) verze, které potřebují méně paměti za cenu mírně nižší kvality. Je to ideální způsob, jak zjistit, co otevřené modely zvládnou.

Server pro tým nebo firmu. Pro reálné nasazení ve firmě se model provozuje na serveru s jednou nebo více grafickými kartami, ke kterému se zaměstnanci připojují přes webové rozhraní nebo jej využívají interní aplikace. Jak takový server sestavit a jaký hardware zvolit, popisuje článek jak postavit vlastní AI server.

Integrace do aplikací. Vývojáři mohou lokální model propojit s vlastními aplikacemi, firemní znalostní bází nebo agenty. Tuto oblast včetně lokálních modelů a MCP serverů pokrývá pokročilý AI developer kurz.

Lokální provoz modeluVlastní počítačVyzkoušení, co otevřené modelyzvládnou•Menší modely•Často kvantizované verze•Méně paměti, mírně nižší kvalitaServer pro tým nebo firmuReálné nasazení ve firmě•Jedna nebo více grafických karet•Přístup přes webové rozhraní•Využití v interních aplikacíchIntegrace do aplikacíPráce pro vývojáře•Vlastní aplikace•Firemní znalostní báze•Agenti
Lokální provoz modeluVlastní počítačVyzkoušení, co otevřené modely zvládnou•Menší modely•Často kvantizované verze•Méně paměti, mírně nižší kvalitaServer pro tým nebo firmuReálné nasazení ve firmě•Jedna nebo více grafických karet•Přístup přes webové rozhraní•Využití v interních aplikacíchIntegrace do aplikacíPráce pro vývojáře•Vlastní aplikace•Firemní znalostní báze•Agenti
Lokální provoz open source AI modelů: tři úrovně – Úroveň volíte podle toho, k čemu model potřebujete.

Při plánování je dobré začít malým pilotem: vybrat jednu konkrétní úlohu, otestovat na ní několik modelů a teprve pak investovat do hardwaru.

Licence: na co si dát pozor

Licence je u otevřených modelů klíčová a často se podceňuje. Některé modely vycházejí pod obecně známými svobodnými licencemi, jiné pod vlastními licencemi výrobce, které mohou obsahovat například omezení podle velikosti firmy, zákaz určitých způsobů použití, povinnost uvádět autora nebo omezení pro použití výstupů k tréninku jiných modelů. Podmínky se navíc mohou lišit mezi verzemi téže rodiny.

Praktické doporučení:

  • před nasazením si přečtěte aktuální licenci konkrétní verze modelu přímo u výrobce,
  • ověřte, zda licence dovoluje komerční použití ve vašem případě,
  • uchovejte si kopii licence ke stažené verzi,
  • u důležitých projektů konzultujte podmínky s právníkem.

Nezapomeňte ani na regulaci. Nařízení EU o umělé inteligenci (AI Act) se vztahuje i na firmy, které AI systémy provozují, bez ohledu na to, zda je model otevřený, nebo uzavřený.

Závěr

Open source AI modely dávají firmám i vývojářům možnost mít AI pod vlastní kontrolou: data zůstávají doma, model se dá přizpůsobit a nezávisí na rozhodnutí jediného dodavatele. Na druhé straně vyžadují hardware, odborné znalosti a pečlivé čtení licencí. Většinou nejde o volbu buď, anebo – mnoho firem kombinuje uzavřené služby pro běžnou práci s otevřeným modelem pro citlivá data.

Zvažujete, zda se vaší firmě vyplatí vlastní model? Podívejte se, jak funguje AI server pro firmy, nebo si nejdřív otevřené modely vyzkoušejte v kurzech DeepSeek kurz zdarma a Qwen AI kurz zdarma.

Časté dotazy

Je open source AI model zdarma?

Samotné stažení vah bývá zdarma, ale provoz zdarma není. Potřebujete výkonný hardware nebo pronajatý server, energii a čas na nastavení a údržbu. U některých modelů navíc licence omezuje komerční použití, proto je vždy potřeba přečíst podmínky.

Je otevřený model bezpečnější pro firemní data?

Pokud model provozujete na vlastním serveru, data neopouštějí vaši infrastrukturu, což je z pohledu ochrany dat velká výhoda. Bezpečnost ale závisí i na tom, jak server zabezpečíte, kdo k němu má přístup a odkud jste model stáhli.

Mohu otevřený model spustit na běžném počítači?

Menší modely lze spustit na výkonnějším notebooku nebo stolním počítači, zejména v komprimovaných verzích. Větší modely vyžadují grafické karty s velkou pamětí nebo serverové řešení. Výkon a kvalita odpovědí se s velikostí modelu výrazně liší.

Mohlo by vás zajímat

Související články

Všechny články →

Kurzy, které se hodí

Všechny kurzy →