A mesteréges intelligencia összességében pozitív hatással lesz a társadalomra, egyes árnyoldalairól viszont nem feledkezhetünk meg. Például meglepően könnyű jószándékú gépitanulás-algoritmusokat átállítani a rossz oldalra.

Fabio Urbina és kollégái a Collaborations Pharmaceuticalsnál pont ezt tették: az első lépésben hasznos vegyületek tervezéséhez, illetve a mérgezők elkerüléséhez felhasználható gyógyszer-felfedező/fejlesztő modellt dolgoztak ki. A következő lépésben viszont a feje tetejére állították a rendszert, újratrenírozták a modellt, hogy ezúttal mérgeket generáljon. Hat óra leforgása alatt negyvenezer toxint hozott létre, amelyek közül néhány a kezdő adatsorban nem szereplő, tényleges vegyiháború-ágens.

A szerzők nem részletezték az architektúrát, az adatsort és a módszertant sem, mert nem akarták felbátorítani a rosszfiúkat. Egyes következtetések mégis levonhatók a közzétett adatokból.

A cég generatív modellje a MegaSyn, a kutatók egy LSTM-et (Long short-term memory, a mélytanulásban használt neurálisháló-architektúra) gyakoroltattak be vegyületek létrehozásához. Vegyi szerkezetek és alszerkezetek gigantikus tárházát használva, szabványosított szövegformátummal dolgoztak.

Ezt követően az LSTM-et úgy gyakoroltatták tovább, hogy a gyilkos idegméreg VX-hez hasonló vegyületeket hozzon létre. Finomhangolás közben a modell több korábbi állapotát lementették, amelyek nagyon változatos vegyi anyagokat generáltak, míg a későbbiek a finomhangolás-sorral majdnem azonosakat dolgoztak ki.

Ezekkel a finomhangolt modellekkel többezer, toxikusságuk és az emberi szervezetre gyakorolt hatásuk alapján rangsorolt vegyületet készítettek. A MegaSyn sorrendkialakító funkciója bünteti a toxikusságot, de jutalmazza a nagyobb biológiai hatást. Emiatt a szerzők kevésbé törődtek a toxikussággal, inkább a legnagyobb hatású, leggyilkosabb vegyületekre összpontosítottak helyette.

Később, az általuk generált legkárosabb tíz százalék alapján, az összes modellt finomhangolták, hogy még gyilkosabb anyagokkal álljanak elő.

A kutatók bebizonyították, hogy ipari modell felhasználható vegyi fegyverek előállításához. Elképzelhető, hogy nemcsak gyógyszerfejlesztésre kitalált modellekkel is megtehető ugyanez.