Umělé inteligenci trvalo pouhých šest hodin, než vymyslela 40 tisíc potenciálně smrtících molekul, včetně těch, které se podobají VX, jedné z nejtoxičtějších existujících látek. Odpovědní výzkumníci tvrdí, že je to „výzva k probuzení“. (Foto: Flickr)

Experiment provedli výzkumníci ze společnosti Collaborations Pharmaceuticals. Tato společnost skutečně využívá strojové učení k výzkumu léků a nových možností léčby vzácných onemocnění. V rámci konference Spiez Convergence, věnované vývoji, který by mohl ovlivnit úmluvy o biologických zbraních, zadali vědci své umělé inteligenci trochu jiný úkol.

Jak totiž hlavní autor článku Fabio Urbina vysvětlil serveru The Verge, AI zkoumá molekuly z hlediska jejich toxicity, aby mohla vytvořit léky, které nebudou nebezpečné. Pro účely konference však byli vědci požádáni, aby tento princip obrátili a simulovali, co by se mohlo stát, kdyby se taková umělá inteligence dostala do špatných rukou.

Vědci jsou znepokojeni

Autoři píší, že na tento nápad nepřišli sami. Výsledky by však měly být vnímány jako „budíček“. K výrobě látek, které by mohly způsobit velké škody, jsou stále zapotřebí určité odborné znalosti z oblasti chemie nebo toxikologie. Pokud však do hry vstoupí strojové učení, pro které stačí umět kódovat a vyhodnocovat výstupy, pak se práh výrazně snižuje.

Při testu se vědci zaměřili na látky, které jsou podobné nervovému toxinu VX. Umělá inteligence vypočítala nejen samotný VX, ale také řadu dalších známých toxinů – a mnoho nových molekul, které vědci považují za „možné“ vzhledem k jejich chemické struktuře. V některých případech jsou prý ještě toxičtější.

Ve svém článku vědci z bezpečnostních důvodů záměrně nezacházejí do konkrétních podrobností. Protože, jak zdůrazňuje Urbina, není příliš obtížné některé z molekul replikovat. Každý, kdo má znalost programovacího jazyka Python, stáhne si z internetu příslušné open-source datové sady a investuje víkend práce, by se dostal poměrně daleko.

Nechci být alarmistický, když říkám, že se chystá chemická válka řízená umělou inteligencí. Nemyslím si, že by tomu tak bylo nyní. Nemyslím si, že to tak bude v dohledné době. Ale je to něco, co začíná být možné.

Zdroj: t3n.de