Temná strana umělé inteligence: vývoj smrtících chemických zbraní

Umělá inteligence může přinést pokrok ve vývoji léků, ale mohla by posloužit i v mnohem temnější oblasti lidského poznání. Jak informoval deník Financial Times, vědci v Severní Karolíně provedli test, který ukázal, že AI má obří potenciál ve vývoji smrtících chemických zbraní.

Vědci ze společnosti Collaborations Pharmaceuticals v Severní Karolíně, která využívá strojové učení k identifikaci léků na vzácné a opomíjené nemoci, se rozhodli otestovat, jak snadné by bylo přimět umělou inteligenci generující molekuly k nekalým praktikám.

AI, která byla vycvičena na výchozí sadě molekul, včetně pesticidů a známých environmentálních toxinů, nechali, aby vypočítala, jak je přizpůsobit, aby se stávaly stále smrtelnějšími.

Během šesti hodiny 40 tisíc smrtících molekul

Výsledek byl mrazivý: během šesti hodin model načrtl 40 000 potenciálních smrtících molekul, včetně VX, zakázané nervově paralytické látky, která byla použita k vraždě nevlastního bratra severokorejského vůdce Kim Čong-una.

Filippa Lentzosová, spoluředitelka Centra pro vědecká a bezpečnostní studia na King’s College v Londýně, si vzpomíná na šok, který zavládl v publiku, když Sean Ekins, zakladatel společnosti Collaborations Pharmaceuticals, loni na podzim prezentoval výsledky testu.

„Byl to okamžik, při kterém mi spadla čelist,“ řekla deníku Financial Times. „Všichni si říkali: ‚To je hrozné. Co teď budeme dělat?‘. Potenciál zneužití byl ve vědách o živé přírodě vždy problémem, ale v případě umělé inteligence se tento potenciál ocitá na steroidech,“ dodala.

Lentzová se poté spojila s Ekinsem a dalšími, aby sepsali výsledky experimentu, které byly následně publikovány v časopise Nature Machine Intelligence.

Upravený software také sám přišel na další známé bojové chemické látky, z nichž žádná nebyla zahrnuta do jeho tréninkových dat. Některé sloučeniny dosáhly vyššího skóre toxicity než všechny známé biochemické zbraně.

„Obrácením způsobu, jakým používáme naše modely strojového učení, jsme neškodný generativní model proměnili z užitečného nástroje medicíny v generátor potenciálně smrtících molekul,“ poznamenávají autoři ve svém článku, který z bezpečnostních důvodů nezveřejňuje zásadní informace o použité metodě.

Některé virtuální molekuly vykazovaly jen málo podobností s existujícími toxiny. Mohly by tak být vytvořeny zcela nové třídy smrtících biochemických zbraní, které by obcházely současné seznamy sledovaných chemických prekurzorů.

Potřeba zavést horkou linku a všechna podezření vyšetřovat

Společnost tuto „databázi smrti“ vymazala a nyní plánuje omezit používání své technologie.

Autoři studie doporučují zavést horkou linku pro hlášení úřadům, aby bylo možné vyšetřit podezření na zneužití AI. A také kodex chování pro všechny, kdo pracují na vyvíjení léčiv pomocí umělé inteligence, podobný Haagským etickým směrnicím, které prosazují odpovědné chování v chemických vědách.

Tento druh počítačem generovaného objevu léčiv nevyrábí samotné molekuly, ale poskytuje návod specifikující chemické látky potřebné k jejich výrobě. Výrobu lze zadat jiným společnostem nabízejícím komerční syntézu, což je odvětví, které se těší minimální regulaci a dohledu.

Lentzosová se domnívá, že úroveň technických znalostí potřebných jak v oblasti kódování, tak v oblasti chemie pro protiprávní jednání ji staví mimo dosah amatérů a garážových kutilů.

Výroba nových jedů však rozhodně není mimo možnosti státem sponzorovaných skupin a národních armád, jak ukazuje například novičok ze sovětské éry, který si oblíbili ruští atentátníci. „Pokud existuje zlý úmysl, pak se schopnost dělat špatné věci exponenciálně zvýšila,“ upozornila Lentzosová.

Nebylo by překvapivé, kdyby takové projekty již probíhaly, konstatuje deník Financial Times.