Az Neumann Társaság blogja a legfejlettebb infokom technológiákról

Jelenből a Jövőbe

Jelenből a Jövőbe

Az Amazon is beszállt a chatbot-versenybe

2024. január 04. - ferenck

Az Amazon december elején bejelentette mesterséges intelligenciával működő Q asszisztensét (ami természetesen a hasonló név ellenére értelemszerűen nem azonos az OpenAI Q* MI-jével). Az alkalmazottak dokumentumokat és vállalati rendszereket kérdezhetnek le vele.

Néhány nap múlva kiszivárgott belső dokumentumokból kiderült, hogy a modell hamis információkat is képes generálni, bizalmas infókat pedig ki tud szivárogtatni.

amazonchatbot0.jpg

Az egyelőre ingyenes előnézetként (preview) hozzáférhető Q privát dokumentumokat, adatbázisokat és kódokat elemezve válaszolja meg a kérdéseket, állít elő tartalmat, intézkedik. Az Amazon kétszintű szolgáltatást tervez vele: havi húsz dollárért alap chatbotot, huszonötért chatbotot és kódgenerálást, hibaelhárítást, biztonsági értékeléseket és humán asszisztenst az Amazon Webszolgáltatásokhoz (AWS). A nagyvállalat megígérte, hogy a Q-felhasználók adatain nem gyakoroltat gépitanulás-modelleket.

Három nappal a bejelentés után azonban alkalmazottak a Slack felhőalapú belső csapatkommunikációs platformon, valamint biztonsági csatornákon problémákról számoltak be.

amazonchatbot.jpg

A Q pontatlan ajánlásokat fogalmazott meg az Európában különösen, de a világ más részein is kényes jogi kérdésnek számító digitális szuverenitásról, azaz arról, hogy az adatokat az adott joghatóságon belül kell tárolni, vagy sem.

Az egyik alkalmazott elég súlyos problémára utaló sev2 biztonsági szintű riasztást adott le. Ilyenkor az érintett mérnököknek munkaidőn túl és hétvégén is dolgozniuk kell a hiba kijavításán.

Belső tesztek alapján a Q bizalmas információkat szivárogtatott ki az Amazontól: belső kedvezményprogramokat, kiadatlan funkciókat, AWS adatközpontok helyét stb.

Az Amazon szóvivői hipotetikusnak nevezték ezeket az eseteket, és tagadták, hogy a Q ilyen információkat szivárogtatott ki. Egyébként nem ők az egyetlen nagy MI-vállalat, amelynek a chatbotja privát infókat juttat el illetéktelenekhez. Google-kutatók nemrég számoltak be arról, hogy az OpenAI ChatGPT-jének a gyakorlóadatokban található személyes infók kiadására ösztönző promptokat adtak meg.

Az Amazon számára szerencsétlen, hogy egy ennyire új rendszer máris problémákkal küszködik. Nehezebb lesz így felvenni a versenyt a vetélytársakkal, például a ChatGPT-vel vagy a Microsoft Copilottal. A fejlesztőknek pedig kijózanító pofon lehet: ha gyorsan haladnak, pont a gyorsaság okozhat gondokat.

A bejegyzés trackback címe:

https://jelenbolajovobe.blog.hu/api/trackback/id/tr718284435
süti beállítások módosítása