ROZHOVOR: Marek Rosa o hledání univerzální umělé inteligence

Marek Rosa je slovenský programátor, vývojář počítačových her a podnikatel. Je výkonným ředitelem a zakladatelem společnosti Keen Software House – studia zabývajícího se tvorbou počítačových her (Space Engineers a Medieval Engineers). A je také zakladatelem, výkonným a technickým ředitelem společnosti GoodAI, která se zabývá výzkumem a vývojem univerzální umělé inteligence.

Jak byste definoval umělou inteligenci?

Inteligence, a to ani nemusí být umělá, je podle mě nástroj na hledání řešení problémů. Čím rychleji nachází řešení, tím je efektivnější, a čím širší spektrum problémů obsáhne, tím je lepší.

Lze porovnávat inteligence?

Jedna z metrik může být, jak dobře se konkrétní inteligence dokáže adaptovat na problémy z určité oblasti a na nové úlohy z nové oblasti.

Jaký je rozdíl mezi umělou inteligencí a algoritmem?

Algoritmus je fixně naprogramovaný. Inteligence nemá řešení naprogramované, ale jejím úkolem je naučit se problém řešit. Jinak řečeno: do algoritmu vloží způsob řešení programátor. Umělá inteligence má učící se algoritmus, který pak umí pracovat s daty a navrhnout samotné řešení.

Telefon, který se bude sám učit

Je strojové učení nutnou součástí umělé inteligence?

Dobrá otázka. Když máte například umělou inteligenci v telefonu, která umí rozeznávat lidskou tvář, pak to vlastně není přísně vzato umělá inteligence, ale inference. V telefonu už je nějaká natrénovaná neuronová síť, kterou projdou data a výsledek je rozpoznání toho, co je na obrázku. Ale nedochází tam k procesu učení, protože ten už proběhl předtím, při vývoji. Zde tkví velký rozdíl mezi „narrow AI“ a „general AI“. My se snažíme, aby učení, adaptace probíhala dále, i u zákazníka.

Takže když zůstanu u příkladu telefonu, tak to bude telefon, který se bude dále učit?

Ano. To bude telefon, který se sám bude učit dále rozeznávat předměty a učit se i na omylech. A v samotném zařízení bude docházet k adaptaci na nové úlohy.

Lze nějak kontrolovat a zaručit, aby se systém nenaučil něco špatně?

Naštěstí dnes nedochází k adaptaci u zákazníka. Co se zákazníkovi dodá, to se vlastně už nemění. Jinak celý proces se rozděluje na trénovací část a validační část. Při validaci se ověřuje, zda systém dokáže fungovat i mimo systém trénovacích dat a scénářů. Například my lidé máme schopnost dýchat v atmosféře. Tuto schopnost můžeme testovat jen zde na planetě. Pokud bychom to chtěli otestovat jinde, tak musíme vyletět do kosmu. Další způsob testování je advesarial training, tedy testování s protihráčem – s někým, kdo se záměrně snaží uškodit a zkomplikovat práci umělé inteligence. Například při rozpoznávání lidí na obrázcích lze udělat to, že se obrázky změní tak, že člověk změnu nepozná, ale umělou inteligenci to úplně rozhodí. Proces strojového učení je jiný, než jak se učíme my lidé. A závěry tvoří umělá inteligence také jinak než my.

Umělá inteligence navrhující umělou inteligenci

Je nějaká vzájemná inspirace mezi strojovým učením a neurovědou?

Jsou lidé, kteří se zabývají strojovým učením jen matematicky a kognitivními vědami se nezabývají. A pak jsou lidé, kteří se neurovědou inspirují. Například když spíme, v mozku se nám posilují vzpomínky, které jsme zažili. A existují algoritmy strojového učení, které se tímto inspirují – mají fázi učení a pak replay fázi, kde si algoritmus jakoby ve svém mozku přehrával to, co zažil, aby posílil to, co se naučil během tréninku.

Napodobujeme tedy strojově fungování lidského mozku?

Tím se vůbec nemusíme omezovat. Lidská inteligence je pouze jeden druh inteligence. Těch druhů může být v zásadě nekonečně mnoho. Může existovat umělá inteligence, která bude fungovat naprosto jinak než lidská. Známým příkladem je AlphaGo, který dokáže hrát hru go lépe než lidé. Využívá totiž tahy, které by člověka nenapadly, protože člověk je zvyklý uvažovat o světě určitým způsobem.

Není tedy omezení i v tom, že AI systémy navrhují lidé?

Ano. Já si však myslím, že za několik let budou návrháři umělých inteligencí umělé inteligence. A budou lepší než lidé. Podobně letadlo je efektivnější v dopravě lidí než jakýkoli člověk a bagr je lepší v kopání velkých jam než jakýkoli člověk.

Univerzální umělá inteligence má nejspíš velký obchodní potenciál?

Ano. Proto to děláme. Proč dělat AI zaměřené na úzce profilované oblasti, když můžeme vytvořit univerzální umělou inteligenci, která bude škálovatelná a bude nacházet řešení v dalších oblastech, a navíc zlepšovat sama sebe.