Nagy a kereslet a mesterségesintelligencia-piacot gépi úron generált szövegekkel és képekkel kiszolgáló startupok termékei iránt, csakhogy még a legígéretesebbek sem működnek a fejlesztéshez, teszteléshez és a modell működtetéséhez nélkülözhetetlen szerverek nélkül. Remek termékek fejlesztése mellett a számítási kapacitásokhoz is hozzá kell férniük.
Márpedig a felhőszámítás-szolgáltatók gondokkal küszködnek, mert egyre több a generatív MI-vel foglalkozó startup, és az összes igényt egyre nehezebb kielégíteni. A probléma olyan masszív szolgáltatásokat is érint, mint az Amazon Web Services és a Microsoft Azure.
A hiány egyik oka, hogy egyes szolgáltatók nem rendelték meg időben a plusz MI-chipeket, miközben az elsőszámú fejlesztő, a szakterületre specializált GPU-kat gyártó Nvidiának általában több hónap kell a rendelések teljesítéséhez. Ezzel szemben a saját TPU-chipeket használó Google Cloud bejelentette, hogy többé-kevésbé időben eleget tett az ügyfelek kérelmeinek.
A Microsoft saját belső csapatai számára is jobban beosztotta a GPU-hoz való hozzáférést. Ez azért sem hangzik jól, mert lassíthatja leghíresebb partnere, az OpenAI fejlesztéseit.
A legnagyobb amerikai adatközpont-piacok közül kettőben, Észak-Virginiában és Észak-Kaliforniában, azaz a Szilícium-völgyben áramellátási problémákkal küszködnek. A hiányok növelik a felhőszámítások költségeit, és tovább feszítik a szerverkapacitás határait.
Mérnökök és vállalkozók egyaránt aggódnak. Többen panaszkodnak, hogy előzetes fizetés vagy érvényben lévő szerződés nélkül lehetetlen szervereket találni. Az évekre előre költő startupoknak jelenleg nagyobb az esélyük hozzáférni a nélkülözhetetlen kapacitásokhoz.
Egyes vállalatok kisebb felhőszolgáltatókhoz (RunPod, Lambda Labs, Crusoe Energy stb.) fordulnak, de a „kicsik” is küszködnek, hogy kielégítsék a megnövekedett igényeket. Sőt, még azok is panaszkodnak, akik hozzáférnek a felhőhöz, mert nincs elég kapacitás.
Az Egyesült Államok legnagyobb szakterületi riválisa, Kína teljesen más okból, az MI-fejlesztéshez elengedhetetlen legfejlettebb amerikai technológiák importtilalma miatt szenved a chiphiánytól, és igyekszik kreatív megoldásokat találni.