ROZHOVOR: AI je velmi dobrý sluha, ale zlý pán

Dokážeme ze záběru identifikovat přesný tvar hospodářského zvířete, a tím určit jeho přesnou váhu, aniž by muselo být zvíře stresováno, nebo určovat stáří horniny podle přítomných zkamenělin a zjišťovat tak výskyt ropného naleziště, říká Jan Račko, spoluzakladatel společnosti Cogniware.

Můžete jednoduše popsat, jak vaše technologie funguje?

My se primárně orientujeme na řešení bezpečnosti pro tzv. silové složky po celém světě. Naše řešení Cogniware Insights je modulární platforma pro podporu vyšetřování s využitím prostředků umělé inteligence. Každé vyšetřování prováděné policií, tajnými službami nebo protiteroristickými organizacemi má shodné rysy:

1) Dochází ke sběru ohromného množství dat – důkazů.

2) Důkazy je nutné analyzovat – pochopit jednotlivě a v rámci širších souvislostí.

3) Je potřeba učinit rozhodnutí – zastavit stíhání, zahájit sledování, obžalovat.

Tento velmi zjednodušený vzorec platí všude na světě. Cogniware Insights řeší druhý bod – analýzu důkazů. Do systému je možné nahrát a průběžně doplňovat nepředstavitelné objemy dat. Policisté nebo další odborníci pak systém používají, aby mohli rozhodnout – vizualizují si vztahy a souvislosti, ověřují hypotézy apod. Pomáhá jim umělá inteligence, která za ně identifikuje, co za objekty nebo události lze najít v jednotlivých videích a fotografiích, ztotožní osoby podle tváře, oblečení nebo třeba stylu chůze.

A jak dlouho trval vývoj?

Vývoj celého řešení probíhá déle než 6 let, z toho velmi intenzivně se mu věnuje dedikovaný tým poslední tři roky.

Vaše technologie dokáže rozpoznat obličeje, což využívají právě silové složky, které takto hledají zločince. Jak se ale vaší technologie dá využít v průmyslu?

Identifikace tváře není jediná informace, kterou dokáže systém v obrazu vyhodnotit. Může být například nastaven tak, aby naopak tváře zcela ignoroval a zaměřil se na bezpečnostní aspekty – například dodržování používání ochranných pomůcek nebo identifikaci vyloženě nebezpečného stavu, třeba kolapsu.

Zcela samostatným tématem je pak využití technologie identifikace objektů. Systém je možné natrénovat na rozpoznání téměř libovolného objektu. Může ze záběru identifikovat přesný tvar hospodářského zvířete, a tím určit jeho přesnou váhu, aniž by muselo být zvíře stresováno „nahnáním“ na váhu, nebo určovat stáří horniny podle přítomných zkamenělin mikroorganismů a zjišťovat tak pravděpodobnost výskytu ropného naleziště. Oba zmíněné příklady jsou shodou okolností skutečné projekty, na kterých jsme pracovali.

Máte nějaké konkrétní reference v oblasti výrobních či jiných průmyslových podniků?

Jak jsem již zmínil, společnost Cogniware se zaměřuje na silové složky států, proto v oblasti průmyslu zákazníky nemáme. Jelikož většina našich projektů probíhá v důvěrném režimu, kde je utajení informací na prvním místě, nemůžeme konkrétní zakázky zveřejnit.

Vaše služby využívají hlavně v zahraničí, proč jste nyní razantněji vstoupili na český trh? Cítíte zde potenciál? A v jakých oblastech?

Přesně tak, jsme přesvědčeni, že v České republice je řada společností a organizací, které si uvědomují potenciál umělé inteligence, a my bychom s nimi rádi spolupracovali. Také náš tým je zde doma. Při působení v zahraničí jsme nasbírali mnoho zkušeností a znalostí, jak pomoci různým silovým složkám a aplikovat u nich ty nejmodernější technologie a přístupy založené na umělé inteligenci. V českém a obecně v evropském trhu vidíme velký potenciál pro naše řešení, proto jsme se rozhodli rozšířit a zintenzivnit působení právě zde.

Jak je vaše technologie drahá? Dá se nějak specifikovat cena pro zákazníky?

Řešení v oblasti umělé inteligence se stávají v poslední době mnohem více dostupnými. Každý projekt, který řešíme, musí mít dobře zpracované finanční parametry – musí pro zákazníka představovat větší přínos, a to mnohdy i nepeněžitý, než jsou jeho celkové náklady. Tam, kde toto pravidlo neplatí, je potřeba na implementaci umělé inteligence ještě chvíli počkat.

Umělá inteligence je čím dál dokonalejší. Máte nějaké rady, jak by si firmy měly hlídat svoje informační systémy, aby nedošlo k úniku např. důležitých dat?

Umělá inteligence sama o sobě na společnosti neútočí. Jsou to lidé, kteří využívají čím dál sofistikovanější nástroje. Myslím si, že je velmi důležité tento trend sledovat a na svou obranu využívat ty nejmodernější prostředky. V současnosti se nástroje založené na umělé inteligenci stávají podmínkou pro úspěšnou obranu před útoky. Bez AI se například v současnosti neobejdeme při analýze útoků.

Jak si vlastně stojíme s ochranou dat oproti světu? Jsme na tom dobře, nebo bychom měli přidat a více do kyberbezpečnosti investovat?

Je těžké provést v tomto směru porovnání, státy si podobné informace hlídají. Myslím si, že bychom ale měli do oblasti investovat, v budoucnu se nám to jedině vyplatí. Na základě našich zkušeností je však v mnoha státech nejvíce podinvestována oblast zdravotnictví a oblast kritické infrastruktury státu. A podle mého názoru Česká republika není výjimkou.

Nyní se kvůli koronaviru významně zvýšila obliba videokonferencí, jenže díky čím dál inteligentnější a dostupnější technologii lze nafakeovat i obličeje účastníků takového společného hovoru. To se ostatně stalo u jedné konference, ke které se připojil domnělý Elon Musk. Jak a jestli vůbec lze se proti tomuto ochránit? Je možné poznat, že to není reálný člověk?

Prostředky umělé inteligence jsou velmi dobrý sluha, ale zlý pán. Na jedné straně je lze využít k vytvoření iluze identity člověka za účelem nějaké nekalé činnosti, na druhé straně máme nástroje a prostředky, které dokážou odhalit podobné způsoby zneužití identity, například při konferenčních hovorech. Může to být například využití multi-biometrického ověření identity, kdy je možné ověřit tvář účastníka spolu s biometrií hlasu při přihlášení do videokonference.

Nehrozí, že nám umělá inteligence přeroste postupně přes hlavu a nebudeme si už jisti, co je skutečná realita?

Očekávám spíš, že se hranice bude stírat postupně. Podívejte se na dnešní děti – je pro ně naprosto přirozené, že část života tráví „online“. Za kamarády mají ty, které potkají ve škole, i ty, které potkají na sociální síti nebo v počítačové hře.

Jak vlastně vidíte budoucnost třeba za pět, deset let. Na co se máme podle vás připravit z hlediska využívání nebo i zneužívaní AI?

Svět se mění rychlým tempem k nepoznání a zatím vůbec nemáme představu, jak moc se může změnit. Tempo rozvoje technologií se zrychluje každým dnem. Přináší to mnoho pozitiv, avšak vyvolá to změny ve společnosti a v legislativních normách, které budou zohledňovat například autonomnost systémů a budou regulovat jejich využití. Určitě musíme počítat se zánikem mnoha tradičních zaměstnání, avšak vzniknou zcela nová. Bude nutné změnit školský systém, aby reflektoval potřeby změn. Jde o podobnou situaci, jak již několikrát v naší historii, kdy došlo ke přelomovým změnám. Dobrým příkladem je první průmyslová revoluce v 18. století, která byla vyvolána využitím páry – objevem parního stroje a následnou mechanizací výroby.

Předpokládám, že také současné průlomové změny, vyvolané využitím umělé inteligence, budou znamenat pozitivní změnu kvality života každého z nás.