Az Neumann Társaság blogja a legfejlettebb infokom technológiákról

Jelenből a Jövőbe

Jelenből a Jövőbe

Kevés a számítási kapacitás?

2023. április 18. - ferenck

Nagy a kereslet a mesterségesintelligencia-piacot gépi úron generált szövegekkel és képekkel kiszolgáló startupok termékei iránt, csakhogy még a legígéretesebbek sem működnek a fejlesztéshez, teszteléshez és a modell működtetéséhez nélkülözhetetlen szerverek nélkül. Remek termékek fejlesztése mellett a számítási kapacitásokhoz is hozzá kell férniük.

Márpedig a felhőszámítás-szolgáltatók gondokkal küszködnek, mert egyre több a generatív MI-vel foglalkozó startup, és az összes igényt egyre nehezebb kielégíteni. A probléma olyan masszív szolgáltatásokat is érint, mint az Amazon Web Services és a Microsoft Azure.

kapacitashiany.jpg

A hiány egyik oka, hogy egyes szolgáltatók nem rendelték meg időben a plusz MI-chipeket, miközben az elsőszámú fejlesztő, a szakterületre specializált GPU-kat gyártó Nvidiának általában több hónap kell a rendelések teljesítéséhez. Ezzel szemben a saját TPU-chipeket használó Google Cloud bejelentette, hogy többé-kevésbé időben eleget tett az ügyfelek kérelmeinek.

A Microsoft saját belső csapatai számára is jobban beosztotta a GPU-hoz való hozzáférést. Ez azért sem hangzik jól, mert lassíthatja leghíresebb partnere, az OpenAI fejlesztéseit.

kapacitashiany0.jpg

A legnagyobb amerikai adatközpont-piacok közül kettőben, Észak-Virginiában és Észak-Kaliforniában, azaz a Szilícium-völgyben áramellátási problémákkal küszködnek. A hiányok növelik a felhőszámítások költségeit, és tovább feszítik a szerverkapacitás határait.

Mérnökök és vállalkozók egyaránt aggódnak. Többen panaszkodnak, hogy előzetes fizetés vagy érvényben lévő szerződés nélkül lehetetlen szervereket találni. Az évekre előre költő startupoknak jelenleg nagyobb az esélyük hozzáférni a nélkülözhetetlen kapacitásokhoz.

Egyes vállalatok kisebb felhőszolgáltatókhoz (RunPod, Lambda Labs, Crusoe Energy stb.) fordulnak, de a „kicsik” is küszködnek, hogy kielégítsék a megnövekedett igényeket. Sőt, még azok is panaszkodnak, akik hozzáférnek a felhőhöz, mert nincs elég kapacitás.

Az Egyesült Államok legnagyobb szakterületi riválisa, Kína teljesen más okból, az MI-fejlesztéshez elengedhetetlen legfejlettebb amerikai technológiák importtilalma miatt szenved a chiphiánytól, és igyekszik kreatív megoldásokat találni.

A bejegyzés trackback címe:

https://jelenbolajovobe.blog.hu/api/trackback/id/tr5718102770
süti beállítások módosítása