Az NJSZT blogja a legfejlettebb infokom technológiákról

Jelenből a Jövőbe

A CPU és a GPU után az IPU-é a jövő?

2018. július 20. - ferenck

Sok szervezet, cég számára tárgyak intelligensebbé tétele a következő évek legnagyobb kihívása. Szenzorokkal kapcsolják össze őket, vagy szenzorokat és szoftvert/mesterségesintelligencia-megoldásokat integrálnak beléjük.

Elvileg „minden” intelligensebb lesz, a jelenlegi komputerchipek azonban lassítják a folyamatot. A felhőszámításokkal és a nagy adatsorokkal egyes ideghálók ugyan jól működnek, fejlesztési stádiumban lévő nagyobb MI-rendszerek viszont „szenvednek” a különösen komplex és gyors számításoktól, mert a szekvenciálisan működő központi feldolgozóegységeik, a CPU-k sebessége nem elegendő a kívánt tempóhoz, a hatalmas munkaterheléshez.

ipu.jpg

A munkaterhelés csökkentésére számítási felhőben dolgozó CPU-kkal és grafikus feldolgozóegységekkel, GPU-kkal egyaránt próbálkoznak, de ez sem elég.

A Google, az Amazon és mások, köztük számos startup gőzerővel dolgozik a hardverprobléma megoldásán. Egyikük, a 2016-ban alapított bristoli Graphcore új chipjével igyekszik felgyorsítani MI-rendszerek folyamat- és erőforrás-intenzív működtetését.

ipu0.jpg

A két alapító, Nigel Toon és Simon Knowles kód helyett inkább a komputerre gondolva döntött teljesen újfajta processzor mellett, amellyel a számítógép munkaterhelése is jelentősen megváltozik.

A CPU-k adatblokkok gyűjtésével, algoritmusok vagy logikai műveletek adatokon való szekvenciális futtatásával működnek. Többmagos chipek párhuzamos processzorokkal, a tipikusan párhuzamos processzorokkal dolgozó GPU-k egyidőben oldanak meg egynél több feladatot.

MI-rendszereknél a számítógépeknek különböző forrásokból származó hatalmas adatmennyiséget kell párhuzamosan és gyorsan feldolgozniuk. „Ha-akkor” (if-then) utasítások helyett csomópontokra és hálózatra összpontosító gráfszámítást használnak hozzá.

A saját szoftvert (Poplar) is jegyző Graphcore chipje, egy intelligencia feldolgozóegység (IPU) szintén gráfszámításokat – masszívan párhuzamosan – végez. Ezernél több processzor kommunikál egymással és osztja meg egymás között a gépi tanuláshoz szükséges bonyolult munkaterhelést.

„A hardverarchitektúra elég egyszerű, a különbséget a chipen lévő processzorok egymással és a külső memóriával folytatott kommunikációja jelenti. Nem elég hardvert fejleszteni, aztán kitalálni, hogyan írjunk rá szoftvert” – magyarázza Toon.

A Poplar hatékonyabban mozgatja az adatokat, kevesebb feldolgozási kapacitás kell hozzá, és az összes processzor használatával gyorsabb is. A teljesítményadatok magukért beszélnek: az új chip tízszer gyorsabban kezel fejlett MI-algoritmusokat, mint a legmasszívabb GPU-k. Többek között gépitanulás-folyamatokat térképezett fel.

A közeljövőben finomhangolják a szoftvert, és a tervek szerint az IPU még gyorsabb, a GPU-knál százszor hatékonyabb lesz.

A chip iránt máris óriási az érdeklődés, például a korábbi Google- és Apple-befektető Sequoia Capital 50 millió dollárral támogatja a projektet.

A bejegyzés trackback címe:

https://jelenbolajovobe.blog.hu/api/trackback/id/tr6714122265

Kommentek:

A hozzászólások a vonatkozó jogszabályok  értelmében felhasználói tartalomnak minősülnek, értük a szolgáltatás technikai  üzemeltetője semmilyen felelősséget nem vállal, azokat nem ellenőrzi. Kifogás esetén forduljon a blog szerkesztőjéhez. Részletek a  Felhasználási feltételekben és az adatvédelmi tájékoztatóban.

JorEl 2018.07.21. 06:58:35

Azért pl a google esetében is a fő gondot az okozza, hogy kiszolgáló oldalon sufnibarkács és/vagy elavult technológiákra alapoznak, amik azért jellemzően nem az erőforrástakarékosságukról híresek.