Kje dobiti dostop do modelov prek API: število modelov, začetno dobroimetje, načini plačila in najnižje cene.
Posodobljeno
OpenRouter ponuja en API in en račun za modele številnih proizvajalcev, vsako zahtevo pa usmeri k ponudniku modela. Primeren je za razvijalce, ki menjajo modele brez novih računov; nekateri modeli imajo brezplačne različice »:free«.
Lastni API podjetja Anthropic za modele Claude, ki se plačuje po žetonih in upravlja v konzoli Claude Console. Namenjen je aplikacijam in agentom, zgrajenim na Claudu.
Prek API OpenAI dostopate do modelov GPT ter modelov za slike, govor in vektorske predstavitve, plačilo pa je po porabljenih žetonih. Uporabljajo ga aplikacije, zgrajene na modelih OpenAI.
Googlov spletni studio, kjer ustvarite ključe za Gemini API in preizkusite modele Gemini ter Gemma. Nekateri modeli imajo brezplačni paket z omejitvami, plačljiva uporaba poteka prek Google Cloud, zato je primeren za brezplačne prototipe.
Groq poganja modele z odprtimi utežmi na lastnih čipih LPU in ponuja API, združljiv z OpenAI. Brezplačni paket z omejitvami je dober začetek za tiste, ki želijo hitre odzive odprtih modelov.
Oblačna platforma za modele z odprtimi utežmi: API brez upravljanja strežnikov, prilagajanje modelov in gruče grafičnih kartic. Together AI izberejo ekipe, ki odprte modele uporabljajo v večjem obsegu.
Fireworks AI je platforma za izvajanje odprtih modelov z API brez strežnikov, prilagajanjem in namenskimi namestitvami, novi računi pa dobijo manjše začetno dobroimetje. Primerna je za produkcijske aplikacije na odprtih modelih.
Za poceni dostop do modelov z odprtimi utežmi DeepInfra ponuja API s plačilom po žetonih, združljiv z OpenAI. Modele gosti na lastni infrastrukturi.
Mistral AI Studio, nekoč La Plateforme, je razvijalska platforma in API za modele Mistral. Brezplačni način deluje brez plačilne kartice, zato je primeren za aplikacije, ki jih šele gradite na Mistralovih modelih.
Uradni API podjetja DeepSeek za njegove modele, v obliki, združljivi z OpenAI. Namenjen je aplikacijam, ki temeljijo na modelih DeepSeek.
xAI API odpre dostop do modelov Grok iz lastnih programov. Uporabljajo ga razvijalci aplikacij, zgrajenih na Groku.
Cerebras Inference poganja modele z odprtimi utežmi na velikih čipih Cerebras, ki zajamejo celo silicijevo rezino, novi računi pa dobijo preizkusno dobroimetje. Zanimiv je za aplikacije, ki potrebujejo zelo hitre odgovore odprtih modelov.
Cloudflare Workers AI izvaja modele v omrežju grafičnih kartic Cloudflare, klic pa pošljete iz Workers ali prek REST API. Dnevna brezplačna kvota se meri v enotah Neurons, zato je izbira smiselna za aplikacije, ki že tečejo na Cloudflaru.
Z enim računom in žetonom Hugging Face kličete modele prek partnerskih ponudnikov izvajanja. Manjše mesečno brezplačno dobroimetje zadošča za preizkušanje številnih odprtih modelov s Hugging Face Hub.
Ko model izberete, potrebujete dostop do njega. Na tej strani so kartice ponudnikov API, pri katerih odprete račun, dobite ključ in model kličete iz svojega programa.
Proizvajalci z lastnimi modeli so Anthropic, OpenAI, Google, Mistral, DeepSeek in xAI. API proizvajalca običajno prvi dobi nove modele in ponuja vse njihove funkcije.
Platforme z veliko modeli so OpenRouter, Together AI, Fireworks, DeepInfra, Groq, Cerebras, Cloudflare in Hugging Face. Zbiralnik, kot je OpenRouter, vam z enim ključem odpre modele več proizvajalcev, kar je priročno za preizkušanje in preklapljanje.
Vrednost »Od« je najnižja cena vhoda med vsemi modeli ponudnika, ne cena modela, ki ga morda potrebujete. Ponudnik z nizko vrednostjo »Od« ima lahko tudi precej dražje modele. Za ceno določenega modela odprite njegovo vrstico na besedilni lestvici, kjer so ponudniki razvrščeni od najcenejšega.
Ključ API je kot geslo: ne objavljajte ga v javnem repozitoriju in ga ne vpisujte v kodo spletne strani, kjer ga lahko vidi vsak obiskovalec. Pri ponudniku nastavite omejitev porabe, da vas napaka v programu ne preseneti z visokim računom.
Brezplačne modele zbiramo na strani brezplačni API-ji. Viri: strani s ceniki in omejitvami ponudnikov (povezava in datum preverjanja sta na kartici) ter models.dev in LiteLLM.