Palvelimet agenteille, boteille ja itse ylläpidetyille malleille: paketit, alueet ja maksutavat.
Päivitetty
Hetzner on saksalainen hosting-yhtiö, jonka pilvipalvelimissa on jaettu tai dedikoitu vCPU ja tuntilaskutus kuukausikattoon asti. Edullisia palvelimia boteille, agenteille ja pienille omille malleille.
Vultr on pilvipalvelu, jossa on tavallisia, korkean kellotaajuuden ja GPU-instansseja monilla alueilla tuntilaskutuksella – palvelimet lähelle käyttäjiäsi.
Akamaihin kuuluva Linode tarjoaa jaetun ja dedikoidun suorittimen instansseja sekä GPU-paketteja tuntilaskutuksella. Yleiskäyttöiset palvelimet selkeällä hinnastolla.
DigitalOcean on kehittäjien pilvi, jossa on Droplet-virtuaalipalvelimia, hallittuja tietokantoja ja GPU Droplet -koneita. Sopii, kun haluat yksinkertaisen hallintapaneelin.
Contabo on saksalainen edullisten VPS- ja omistettujen palvelimien tarjoaja, jossa pidempi sopimuskausi laskee kuukausihintaa. Paljon muistia ja levyä pienellä rahalla.
OVHcloud on ranskalainen pilvipalveluyhtiö, jolla on VPS-palvelimia, julkisen pilven instansseja ja omistettuja palvelimia – eurooppalaista hostingia suurelta toimijalta.
Netcup on saksalainen VPS- ja root-palvelimien tarjoaja, edullinen valinta, kun palvelimen halutaan sijaitsevan Saksassa tai Itävallassa.
VPS on vuokrattu virtuaalipalvelin, joka on käynnissä ympäri vuorokauden. Se on järkevä, kun agentin, botin tai automaation pitää olla koko ajan saatavilla, tai kun haluat ajaa mallia itse käyttämättä omaa tietokonettasi. Sivun korteissa on VPS-tarjoajien halvin kuukausihinta, alueiden määrä, maksutavat ja tieto siitä, pitääkö uusien asiakkaiden todistaa henkilöllisyytensä.
Hetznerin, Vultrin ja Linoden paketit luetaan niiden julkisista rajapinnoista. DigitalOcean, Contabo, OVHcloud ja netcup syötetään käsin tarkistuspäivän kanssa. Hinnat ovat ilman arvonlisäveroa, ellei kortti kerro muuta, ja GPU-paketit näytetään vain, jos rajapinta palauttaa ne.
Lisää arvonlisävero ja katso laskutusjakso: osa tarjoajista näyttää pitkien jaksojen hintoja, jotka näyttävät halvemmilta kuin kuukausimaksu. Alue vaikuttaa viiveisiin ja siihen, missä tietosi sijaitsevat. Tarkista myös, sisältyykö varmuuskopiointi ja kiinteä IP-osoite, ja mitä sisältyvän liikenteen ylittävä osa maksaa.
GPU-paketit ovat selvästi kalliimpia kuin tavalliset palvelimet. Ne kannattavat vain, jos ajat itse suurempaa mallia tai tarvitset nopeita vastauksia jatkuvasti. Muuten API-tarjoaja on usein edullisempi.
VPS on oma palvelimesi, ja päivitykset ovat sinun vastuullasi. Kirjaudu SSH-avaimilla, sulje portit, joita et käytä, ja pidä API-avaimet poissa julkisista koodivarastoista. Jos haluat mieluummin ajaa malleja kotona, katso paikalliset LLM-sovellukset.