Á fyrirtækið þitt að kaupa AI-vélbúnað? næstum aldrei

Flestir stjórnendur sem spyrja mig hvort þeir eigi að kaupa eigin AI-vél þurfa ekki þessa vél. Samt kemur spurningin æ oftar upp, og yfirleitt af tveimur ástæðum: persónuvernd, og tilfinningin að vilja vera óháður OpenAI eða Anthropic.

Hvort tveggja skiljanlegt. Hvort tveggja næstum aldrei ástæða til að leggja út þúsundir evra í vélbúnað.

Ég settist einu sinni almennilega yfir tölurnar. Þetta er það sem kom út.

Það eru þrjár leiðir til að keyra módel, ekki tvær

Flestir halda að valið standi á milli þess að kaupa eigin vél eða leigja reikniafl í skýinu. Það er til þriðji kosturinn sem er næstum alltaf bestur, og sá sem oftast gleymist: að leigja módelið sjálft.

Að leigja módelið þýðir að þú notar opið módel í gegnum þjónustu eins og OpenRouter eða DeepInfra. Þú borgar eftir notkun, enginn vélbúnaður. Að leigja GPU þýðir að þú kaupir reikniafl á tímagjaldi og keyrir módelið sjálfur. Að kaupa vél þýðir vélbúnaður á eigin skrifstofu.

Að leigja módelið leysir í kyrrþey alla ókosti eigin vélbúnaðar. Ekkert þak á afkastagetu, ekkert sem safnar ryki þegar þú notar það ekki, enginn rafmagnsreikningur, og þú getur keyrt mörg módel í einu. Þú gefur nákvæmlega eitt eftir: persónuvernd. Og þar liggur um leið eina alvöru ástæðan til að kaupa.

Talan sem ræður því hvort módel keyrir yfirhöfuð

Áður en þú hugsar um vélbúnað er eitt atriði sem allir hrasa um. Það sem skiptir máli er ekki hversu mikið minni vélin hefur, heldur hversu mikið af því minni grafíkflagan getur raunverulega notað. Það heitir VRAM.

Leikjatölva með 128 gígabæt af vinnsluminni og venjulegt skjákort getur ekki keyrt stórt módel, því aðeins VRAM kortsins telur, og það er oft bara 16 eða 32 gígabæt. Þess vegna eru Apple-vélarnar og nýju AMD-smátölvurnar áhugaverðar: minnið þeirra er samnýtt, þannig að allur pollurinn virkar sem VRAM. Þegar módelið kemst fyrir ræður önnur tala, minnisbandbreiddin, hversu hratt það svarar.

Hér liggur alvöru bylting. Þétt módel, ein stór blokk með 70 milljörðum stika, silast áfram á hverri vél á viðráðanlegu verði, um 2 til 5 orð á sekúndu. En nýrri mixture-of-experts-módel virkja bara nokkra milljarða stika á hvert orð, þannig að sama ódýra vélin keyrir þau á 40 til 86 orðum á sekúndu. Það er munurinn á ónothæfu og virkilega góðu, og þess vegna breyttist myndin árið 2026.

Ef þú kaupir samt: vélarnar þrjár

Ákveðir þú að kaupa eru þrjár vélar sem ráða við stórt módel á sanngjörnu verði. Staðan um mitt ár 2026:

• AMD Strix Halo, í Framework Desktop eða sambærilegu, 128GB, um $3.600 til $4.000. Best fyrir peninginn, og sterkust í mixture-of-experts-módelunum sem þú keyrir í raun.
• Nvidia DGX Spark, $4.699 eftir verðhækkun. Minnisbandbreiddin heldur aftur af henni, þannig að stór módel keyra hægt. Þekktur forritari sem á eina segir að græjan "safni svolitlu ryki" og sé ekki þess virði.
• Mac Studio, frá $5.299 fyrir núverandi útgáfu með miklu minni, eftir verðhækkanir Apple. Virkilega hraði Makkinn fyrir stór módel, M5 Ultra, er væntanlegur í haust á $4.700 til vel yfir $6.000.

Í stuttu máli: þurfir þú endilega að kaupa er AMD-vélin verðvalið og Makkinn afkastavalið. DGX Spark sleppir þú.

Hvað leiga kostar í alvöru

Berðu þetta saman við að leigja beran GPU á tímagjaldi. Það er yfirleitt miklu ódýrara, og þú færð gagnaverskort (A100, H100) sem slá út hverja borðvél. Fyrir nokkurra klukkustunda notkun á dag:

• RTX 4090 kostar um $31 til $37 á mánuði.
• A100 með 80GB um $74 til $125 á mánuði.
• H100 um $199 til $254 á mánuði.

Keyrir þú sömu kort allan sólarhringinn er A100 í kringum $600 til $1.000 á mánuði og H100 í kringum $1.650 til $2.100. Kaup verða fyrst skynsamleg þegar þú notar vélbúnaðinn raunverulega svona stíft.

Reikningsdæmið er ekki spennandi. Vél upp á tíu þúsund evrur, dreift yfir þrjú ár, kostar um $278 á mánuði í vélbúnað einan, fyrir utan rafmagn. Að leigja hentugan GPU í nokkra tíma á dag er $31 til $125 á mánuði. Og eigin vélbúnaður er aldrei ókeypis: einn öflugur GPU sem keyrir dag og nótt brennir fljótt $5 á dag í rafmagn, um $2.000 á ári.

Afslátturinn sem er ekki raunverulegur

Enn ein gildran, og einmitt sú sem selur fólki opin módel. Þau virðast fáránlega ódýr. Fljótt á litið tífalt ódýrari á hvert tákn en toppmódel eins og Opus.

En verð á tákn er ekki verð á verkefni. Opin módel brenna tvöfalt til þrefalt fleiri táknum til að klára sama verk. Reiknir þú á hvert afgreitt verkefni stendur eftir um það bil tvöfaldur munur af þessum tífalda. Enn ódýrara, en allt önnur saga en táknverðið lætur þig halda.

Keyranlegt er ekki það sama og gott

Opnu módelin sem allir eru spenntir fyrir, þessi virkilega góðu, eru 200 gígabæt og stærri. Þau keyra á engri vél sem kemst fyrir á skrifstofunni þinni. Það sem þú keyrir heima eða á skrifstofunni er niðurskorin útgáfa sem rétt svo virkar. Fín í þröngt verkefni, veik í allt annað. Jafnvel vél upp á tíu þúsund evrur rekst þar á vegg.

Hvenær kaup eiga rétt á sér

Kaup eru ekki alltaf röng. Þau eiga rétt á sér í tveimur skýrum tilvikum.

Gögnin þín mega ekki yfirgefa húsið. Ef viðskiptagögn mega af lagalegum eða samningsbundnum ástæðum ekki fara í ský er það eitt og sér næg ástæða til að íhuga eigin vélbúnað, hvað sem hann kostar.

Eða þú ert með eitt þröngt verkefni sem keyrir dag og nótt. Hugsaðu um uppskrift á tali eða einfalda flokkun sem gengur stanslaust. Þá borgar eigin vélbúnaður sig upp.

Utan þessara tveggja: leigðu. Næstum alltaf.

Kjarninn

Spurningin er sjaldnast hvaða vél þú átt að kaupa. Spurningin er hvort þú eigir yfirhöfuð að kaupa eitthvað. Og svarið er oftast nei.

Þetta er nákvæmlega svona ákvörðun sem ég hjálpa stjórnendum með. Þú reiknar dæmið með alvöru tölum í stað þess að elta suðið, og oftast er hófstillta niðurstaðan líka sú ódýrasta.