Az Neumann Társaság blogja a legfejlettebb infokom technológiákról

Jelenből a Jövőbe

Jelenből a Jövőbe

Vége lehet a Google-kereső egyeduralmának?

2023. január 23. - ferenck

December végén a Google megkongatta a belső vészharangokat, mert a vezetőség érzékelte, hogy a nagy nyelvmodellek (large language models, LLM), mint az OpenAI ChatGPT-je veszélyesek lehetnek a vállalat üzleti tevékenységére, a keresőmotor businessre.

Hogy miért? Mert megoldandó technikai és üzleti problémáik ellenére megváltoztathatják az információhoz való hozzáférés módját. Webes kutakodás helyett megkérdezhetünk egy LLM-et, és honlap helyett szöveges választ kapunk.

google_vs_chatgpt0.jpg

Egyelőre csak egyszerű és tényszerű kérdéseknél működik, összetettebbeknél vagy speciális ismeretek esetén már kevésbé, sőt, egyes válaszok félre is vezethetnek.

Csakhogy a mai LLM-ek óriási, de paradox módon mégsem elegendő számítási kapacitásokat fogyasztanak el. A ChatGPT elődje, a GPT-3 175 milliárd paraméterrel rendelkezik, 16-bitet, lebegőpontos bájtokat használva, 350 – egyes vélemények szerint 800 – gigabájt tárhelyet foglal el, míg például a Wikipédia 150-et. A számokból egyértelmű, hogy egy LLM a Wikipédia tárolásánál lényegesen több memóriával rendelkezik, így ezen a téren is komoly potenciál rejlik bennük.

Igen ám, de a Wikipédia az interneten hozzáférhető, ötmilliárd gigára saccolt ismereteknek csak nagyon kicsi részét jelenti. Egy keresésnél, amikor a web bármely szegletében lévő honlapra rátalálhatunk, törvényszerűen több kérdésre kaphatunk választ, mint a fix memóriájú LLM-ektől.

google_vs_chatgpt.jpg

Andrew Ng, gépitanulás-szakértő egy új, kiterjesztett keresésen alapuló technológiában, az RAG-ben (retrieval augmented generation) az LLM-eknél is komolyabb potenciált lát. Ez abból áll, hogy korlátos LLM helyett először online, vagy máshol megtaláljuk a releváns dokumentumokat, majd csak ezt követően fordulunk valamelyik nagy nyelvmodellhez. A lekérdezést és a dokumentumokat válasszá dolgozza össze, ami a jelenlegi webes keresés komoly alternatívája lehet. Olyan, mintha a keresésre és az eredmények összefoglalására is lenne egy LLM-ünk. A technológiát ma a Meta Atlas és a DeepMind RETRO rendszere szemléltetik.

A keresőóriások üzleti modellje az eredmények melletti hirdetésekre történő klikkelésen alapul. Próbáljuk elképzelni, mit tennének, ha a szöveget is megadnák, hol lennének akkor a hirdetések? A Google-nak ezt a problémát mindenképpen meg kell oldania, mielőtt LLM-ekre cseréli legendás keresőmotorját.

Egyes startupoknak és talán még a Microsoft Bingjének sincs annyi veszítenivalója, mint a Google-nak, és valószínűleg könnyebb szívvel cserélnék le a mostani üzleti modellt.

Egyelőre a Google a Chrome böngésző és az Android mobil oprendszer miatt is versenyelőnyben van, a rengeteg hirdetővel és a szofisztikált hirdetési rendszerrel jobban pénzzé tudja tenni a felhasználók figyelmét, mint a versenytársak.

Kérdés persze, hogy meddig, mert a generatív MI csak-csak eljutott arra a szintre, hogy a keresőóriásnál riadót fújtak.

A bejegyzés trackback címe:

https://jelenbolajovobe.blog.hu/api/trackback/id/tr4818031372
süti beállítások módosítása