Koncerny IBM a Microsoft se přihlásily k „římské výzvě pro etiku v oblasti umělé inteligence“, která požaduje, aby vývoj nových technologií umělé inteligence zejména dbal na ochranu práv lidí.
Umělá inteligence (AI) výrazně zasahuje do našeho života například tím, že firmám a státům umožňuje účinně sledovat chování lidí. Z toho důvodu vyvolává určité etické obavy. Aby umělá inteligence sloužila lidem, a ne naopak, představitelé Vatikánu společně s technologickými giganty Microsoft a IBM odsouhlasili závazek k etickému využívání AI. Dokument minulý pátek představili papež František, prezident Microsoftu Brad Smith a výkonný viceprezident IBM John Kelly. Přítomni byli také další představitelé Vatikánu a generální ředitel Organizace spojených národů pro výživu a zemědělství Qu Dongyu z Číny.
Dokument vyzývá, aby umělá inteligence chránila práva všech lidí, zejména slabých a znevýhodněných, a požaduje například zavedení nové regulace v oblastech typu rozpoznávání obličejů. Praví se v něm, že pro každou aplikaci pro tvář musí být splněna „vysvětlovací povinnost“. To znamená, že majitel a provozovatel aplikace musí prokázat nejen to, jak algoritmy umělé inteligence dospějí ke svým rozhodnutím, ale také to, jaký je jejich účel a cíl.
Arcibiskup Vincenzo Paglia, Brad Smith z Microsoftu, John Kelly III z IBM. Foto: Stefano Dal Pozzolo
Závazek se zaměřuje na zvyšování povědomí firem a institucí o tom, že technologiím je nutné nastavit určitá etická pravidla. Je třeba například zaručit, aby umělá inteligence nepostupovala při rozpoznávání tváří v kriminalistice či při prověřování uchazečů o zaměstnání diskriminačně, což se často děje. Je třeba polidštit technologie, a nikoli lidi podřídit technologiím.
Vatikánská iniciativa vychází z obav, o kterých papež František mluvil loni na technické konferenci ve Vatikánu. Zmínil, že technologie potřebuje „teoretické i morální zásady“. Uvedl, že pozoruhodný rozvoj umělé inteligence má významné důsledky pro všechny lidské činnosti a že neetické využívání takovýchto technologií by mohlo způsobit „nešťastný úpadek do barbarství“.
Brad Smith z Microsoftu řekl, že umělá inteligence „musí být vedena pevnými etickými zásadami, které vycházejí z celosvětových tradic lidských práv“.
Francesca Rossi z IBM připomněla, že „katolická církev není odborník na technologii, ale je odborník na hodnoty. Cílem této spolupráce je pochopit, jak technologii využívat v souladu s těmito hodnotami“.
Římský dokument byl vydán nedlouho poté, co Evropská komise zveřejnila svou vlastní představu regulace umělé inteligence tak, aby byla využívána eticky.
Autor: Petr Bílek
