Strežniki za agente, bote in modele, ki jih gostite sami: paketi, regije in možnosti plačila.
Posodobljeno
Nemško podjetje za gostovanje z oblačnimi strežniki z deljenimi ali namenskimi vCPU, obračunanimi po urah do mesečne zgornje meje. Hetzner je primeren za poceni strežnike za bote, agente in manjše modele, ki jih gostite sami.
Vultr ponuja oblačne strežnike, strežnike z višjo frekvenco procesorja in pakete z grafičnimi karticami v številnih regijah, z obračunom po urah. Primeren je, ko želite strežnik blizu svojih uporabnikov.
Oblak Linode je del Akamaija in ponuja strežnike z deljenim ali namenskim procesorjem ter pakete z grafičnimi karticami, obračunane po urah. Za splošne strežnike s preglednim cenikom.
Razvijalski oblak DigitalOcean ponuja virtualne strežnike Droplet, upravljane podatkovne zbirke in Droplete z grafičnimi karticami. Izberejo ga razvijalci, ki želijo preprosto nadzorno ploščo.
Contabo je nemški ponudnik poceni VPS in namenskih strežnikov, pri katerem daljši zakup zniža mesečno ceno. Za malo denarja ponuja veliko pomnilnika in prostora na disku.
Francoski ponudnik oblaka OVHcloud ima VPS, instance javnega oblaka in namenske strežnike. Primeren je za tiste, ki iščejo evropsko gostovanje pri velikem ponudniku.
Nemški ponudnik VPS in korenskih strežnikov z ugodnimi strežniki v Nemčiji in Avstriji. Po prvem naročilu lahko netcup zahteva preverjanje identitete ali predplačilo.
Agent, bot ali avtomatizacija, ki mora teči ves dan, potrebuje strežnik. Virtualni zasebni strežnik (VPS) je pogosta izbira: najamete ga na mesec in na njem namestite, kar potrebujete. Na tej strani so kartice ponudnikov VPS s podatki, ki so pomembni za delo z modeli.
Pakete Hetzner, Vultr in Linode beremo iz njihovih javnih API-jev. DigitalOcean, Contabo, OVHcloud in netcup vnašamo ročno, z datumom preverjanja.
Odvisno od tega, kje teče model. Agent ali bot, ki model kliče prek API, potrebuje malo: majhen paket zadostuje, saj težko delo opravi ponudnik modela. Če želite model poganjati sami na strežniku, potrebujete dovolj pomnilnika RAM za izbrani model ali paket z grafično kartico. Večji model zahteva več pomnilnika.
Cene so brez DDV, razen če kartica pravi drugače. Nekateri ponudniki prikazujejo ceno pri dolgoročnem zakupu, zato primerjajte pakete pri enakem obdobju obračuna in z DDV. Pakete z grafičnimi karticami navajamo le, kjer jih vrne API ponudnika.
Za povezovanje modelov s storitvami si oglejte orodja na strani avtomatizacija, ki jih lahko gostite sami. Za lasten zagon modelov so primerni izvajalniki s strani lokalne aplikacije LLM. Za dostop do modelov prek API pa glejte ponudnike API.
Na novem strežniku najprej posodobite sistem, prijavo z geslom zamenjajte s ključem SSH in odprite le vrata, ki jih res potrebujete. Ključe API za modele shranite v spremenljivke okolja, ne v kodo. Redno delajte varnostne kopije podatkov, ki jih agent ustvarja.
Viri: API-ji Hetzner, Vultr in Linode ter strani s ceniki ponudnikov (povezava je na vsaki kartici).