Az Neumann Társaság blogja a legfejlettebb infokom technológiákról

Jelenből a Jövőbe

Jelenből a Jövőbe

A GPT-4 majdnem mindent visz a chatbotok versenyén, de nem ez a lényeg

2024. február 26. - ferenck

Az LMSYS Chatbot Aréna Ranglistájának megállapításánál névtelenül állnak egymással szemben a modellek, és „prompt-készítők” döntik el, melyik adott jobb választ. Legutóbb a Google Bard Gemini Pro feljött a harmadik helyre, közel is került az OpenAI GPT-4 legújabb változatához. (A második a GPT-4 egy korábbi verziója.)

A nyílt forrású francia Mixtral-8x7b-Instruct a tizenegyedik helyezett GPT-3.5-Turboval versenyképes, ami nagyon jó hír az open source AI-nak, ráadásul egyre több kisebb csapat, a Mistralhoz hasonlóan, rendelkezik az alapmodellek gyakoroltatásához szükséges technológiai kapacitással. 2024-ben sok új „versenyzőre” számíthatunk.

chatbotok0.jpg

A gyakoroltatásukhoz szükséges ismeretek, tudás terjedésével, egyszerűsödik nagy nyelvmodellek (LLM) építése. Tavaly több LLM-technológia mozdult el az árucikké válás felé, és ha a trend folytatódik, vajon kik lesznek a győztesek és a vesztesek?

A Llama nyílt forrásúvá tételével a Meta sokat tett a stratégiai térkép átalakulásáért. A techóriás versenytársakkal ellentétben, abból csinálnak pénzt, hogy a felhasználók hirdetéseket látnak. LLM API hívásokat értékesítő felhőszolgáltatást viszont nem üzemeltetnek.

chatbotok.jpg

A céget súlyosan érinti, hogy az iOS-től és az Androidtól egyaránt erősen függ, azaz a hirdetések pontos targetálását akadályozó adatvédelmi szempontok érvényesítésével az Apple és a Google is tud ártani Zuckerbergék bizniszének.

Ez a függés a nyílt és viszonylag nyílt platformok támogatására ösztönzi őket. A platformokra lehet építkezni, és így világos, miért van értelme annak, hogy a Llama nyílt forrású. A következmények (új modellek) bíztatóak az MI-fejlesztő közösségre nézve.

A Google Cloud és a Microsoft Azure a piacot domináló, felhőajánlataikhoz szorosan kapcsolódó, zárt LLM-ekből tud nagy bevételeket generálni. Ez a két felhőszolgáltatás, valamint az Amazon Web Service (AWS) LLM API hívásokból remekül ki tudja egészíteni a magából a felhőből befolyó (egyébként tetemes) összegeket. De az üzlet még akkor is menne, ha nem kínálnának exkluzív, piacvezető LLM-eket, mint a GPT-4, a Gemini és utódaik. Ha az LLM árucikk lesz, mindegyik újat integrálják, és az API ajánlatokkal is óriásit kaszálnak.

Az LLM-ek különféleképpen integrálhatók a vállalatok már meglévő termékkínálatába. A Microsoft szoftverek céges értékesítéséből komoly bevételre tesz szert, amiben az LLM kiegészíti az eddigieket, hozzájuk tesz. A Google esetében más a helyzet, mert az LLM-ek inkább helyettesíthetik, mint kiegészíthetik a webes keresést. Ebből a szempontból nagyon érdekes lesz a Bard/Gemini további sorsa. A Meta szintén profitál belőlük, egyelőre elsősorban hirdetésekkel.

A techóriások akár dollármilliárdokat befektethetnek, hogy lássák: LLM-jük árucikk lesz, vagy sem. A startupoknak viszont túl kell élni, szerencsére egyeseket azonban olyan szinten támogatnak már, hogy ők is nyugodtan kísérletezgethetnek.

A versennyel minden alkalmazásfejlesztő jól jár, a sok befektetéssel és kísérletezéssel törvényszerűen javul az LLM-technológia.

A bejegyzés trackback címe:

https://jelenbolajovobe.blog.hu/api/trackback/id/tr6118323903
süti beállítások módosítása