Adam Paclt: Spojení Microsoftu a OpenAI je bezpečnostní riziko

Evropská komise prošetří spolupráci Microsoftu a OpenAI. Jejich potenciální propojení může představovat riziko z hlediska soukromí dat firem a vlád, říká Adam Paclt, generální ředitel společnosti IceWarp.

Do jaké míry může spojení Microsoftu s tvůrcem ChatGTP, společností OpenAI, ohrozit konkurenční kancelářské platformy, které rovněž implementují umělou inteligenci? A je na místě vyšetřování, které chce v této věci iniciovat Evropská komise? Podle Adama Paclta je propojení těchto dvou velkých globálních firem především riskantní z hlediska nakládání s daty jejich zákazníků, mezi které patří důležité světové korporace, ale i vlády řady zemí. Podrobnosti vysvětluje v krátkém rozhovoru.

Jak vnímáte rozhodnutí Evropské komise zahájit šetření partnerství Microsoftu a OpenAI? Je podle vás na místě?

Evropská komise má právo šetřit vše, co by mohlo potenciálně z jejího pohledu ohrozit nebo ovlivnit naše evropské zájmy. Na toto konkrétní rozhodnutí je třeba nahlížet v souvislostech. Když OpenAI představilo oficiálně ChatGPT, nebylo to něco, co bychom sami v komunitě dlouho nečekali. Představitelé OpenAI dlouhou dobu před tím vystupovali na konferencích a z obsahu přednášek bylo jasné, čím se asi zabývají. Svět, který stojí mimo naše odvětví, to ale šokovalo. Byl to první reálný dotek s AI, který najednou přestal být buzzwordem, ale stal se hmatatelným virtuálním společníkem. 

Spojení největší firmy světa, která již nyní díky Microsoft 365 drží na své infrastruktuře utajované informace vládních agentur, obchodní tajemství největších korporací a díky LinkedIn také vidí vazby a obchodní vztahy mezi jednotlivými obchodními subjekty s OpenAI, se zdá být na první pohled značně problematické, a to zejména pokud je hlavní motivací Microsoftu zisk pro své akcionáře. Je to krásný příklad superkorporace, která by mohla v budoucnu svým vlivem předčít lokální vlády.

Na druhou stranu, co se týká samotné generativní AI, rozhodně se Microsoftu nepovedlo mít jakýkoli monopol. Google okamžitě reagoval svým Bardem, Meta se rozhodla „uvolnit“ do světa svoji Llama, kterou okamžitě dostaly do rukou tisíce vývojářů světa a samozřejmě tu máme projekty jako Mistral nebo před několika týdny představený open source projekt Ferret od společnosti Apple. Generativní AI je prostě tak velká věc, že si i bez nutnosti regulace a vyšetřování spolupráce mezi dvěma „supersubjekty“ našla svoji cestu k lidem. A to je správně. 

Vaše společnost nedávno integrovala do své platformy IceWarp Epos ChatGPT, máte tedy také spolupráci s OpenAI. Ohrožuje vás nějak partnerství Microsoftu a OpenAI?

Původně jsme si mysleli, že ano, ale názor jsme díky vývoji na trhu razantně změnili. Už teď víme, že si budeme schopni implementovat do svých technologií vlastní předtrénovaný model založený na jedné z open source technologií. To stejné udělá celá řada společností v Productivity oblasti. Už teď také víme, že budoucnost je v ochraně soukromí. Každý zákazník by měl mít vlastní model trénovaný jeho daty nebo daty jeho společnosti. Model, který mu bude transparentně k dispozici. Je tedy jasné, že se nám otevřou i nové obchodní možnosti na poli trénování AI. Kromě toho existuje nemalá skupina zákazníků, kteří chápou, jak jsou pro ně jejich data extrémně důležitá a budou dvakrát přemýšlet nad tím, jestli je nechat „superkorporaci“ pro AI trénink. 

Čistě hypotetická situace: představte si, že se pro učení modelu ve veřejné cloudové službě použijí data naší vlády. Cloudová služba je provozována společností, která někde sídlí, v konkrétním státě a má tam daňový domicil. Co brání onomu státu požádat takovou firmu, aby umožnila analytikům z jejích bezpečnostních složek začít konverzovat s LLM nad trénovanými daty? Pokud má soudní příkaz nebo zákonem vymezenou pravomoc? Dříve musel analytik pracovat celé hodiny, ale AI chápe kontext mezi daty okamžitě. Data privacy bude absolutně nejdůležitější téma následujících 10 let pro střední firmy, korporace, ale i vlády. Kontrolu nad daty by měli převzít zpět. 

Co by se stalo v případě, že by Microsoft převzal OpenAI? Ohrozilo by to vaši spolupráci a využívání ChatGPT?

Asi ne. S Microsoftem komerčně spolupracujeme i v jiných oblastech a platíme za jejich patenty využité v našich produktech. IceWarp je platforma. Měli bychom podporovat a integrovat kromě ChatGPT všechny ostatní mainstreamové platformy a zákazníkům nabídnout i naši vlastní, kterou budou mít 100 % pod kontrolou. 

Máte v záloze nějaké jiné řešení AI místo ChatGPT v případě, že by tato spolupráce skončila?

Jak jsem již nastínil, integrace AI produktů do IceWarp platformy probíhá zcela obecně. Jen, protože jsme menší společnost, soustředíme priority na ty nejpoužívanější technologie. Za nás rozhodně nemůžu vyloučit ani integraci Copilota od Microsoftu, ba naopak (i když je to de facto shodná technologie s ChatGPT). Prioritou pro naši firmu ale bude nabídnout zákazníkům kontrolu, transparentnost a službu, nad kterou budou mít plnou kontrolu, jejíž data si budou moci „stáhnout k sobě“ a budou 100 % vědět, jak se trénuje a na jakých datech.