

Vladimír Mařík v rozhovoru přibližuje principy průmyslu 4.0 a mimo jiné vysvětluje, proč má smysl mnohem více investovat do výzkumu umělé inteligence, robotiky a dalších nových technologií. Upozorňuje také na význam a další potenciál českého výzkumu a know-how, které se nedaří dostatečně podchytit a využít.
Michal Trčka: V tomto roce jste se podílel jako spolueditor na vydání tří knih, které se všechny alespoň částečně dotkly tematiky tohoto čísla Academix revue Život s roboty. Mohl byste stručně shrnout, jakým způsobem se jednotlivé publikace této tematice věnují (tj. Eseje o vědomí – směrem k umělé inteligenci, Průmysl 4.0 – Základ ekonomické transformace ČR a Proč se nebát umělé inteligence?)?
Vladimír Mařík: Všechny tři knihy souvisejí s robotikou, protože robotika je od počátku své existence neoddělitelně spjatá s umělou inteligencí. Mají-li se myšlenky umělé inteligence promítnout do reálného světa, pak tu musí být fyzická entita, která převádí nuly a jedničky na akce v reálném světě. Tou jsou roboti jako elektromechanická zařízení, která podle definice jednoho z průkopníků kybernetiky profesora Zdeňka Kotka mají část vnímající, část rozhodovací a část akční. A u všech tří částí potřebujeme zapojit umělou inteligenci, ať je to rozpoznávání na počátku, inteligentní rozhodovací algoritmus uprostřed, nebo akční členy, které musí být co adaptivnější, tj. přizpůsobovat se podnětům z okolí.
MT: A byly obory robotiky a umělé inteligence takto úzce spojeny už od svého vzniku?
VM: Od začátku. Když si vzpomenu třeba na počátky výzkumu umělé inteligence v Česku, což bylo koncem šedesátých let, ty první experimenty byly spojené s nejrůznějšími roboty. Robot nemusí být jenom antropomorfní, podobný člověku tak, jak si to představoval Karel Čapek. Autonomním robotem je dnes v podstatě každý dron, který samostatně létá, auto bez řidiče, ale existují i roboti daleko jednodušší, například podavače nebo manipulátory v průmyslu, které jsou schopny měnit třeba svoji konfiguraci nebo se přizpůsobovat tvaru předmětu, který byl uchopen a manipulován.
MT: V kapitolách věnovaných historii AI v knize Proč se nebát umělé inteligence? v kostce shrnujete jak světový vývoj AI, tak i ten tuzemský. Na jaké experimenty si vzpomínáte z počátků robotiky a AI na začátku sedmdesátých let?
VM: Ty první roboti třeba pomocí elektromechanického stojanu svými rameny reprodukovali obrysy obrázku, který zachytila kamera, například jablko na stole. V laboratoři jsme měli robota s pohybem ve třech osách, jeřáb, který sám na základě povelů člověka, kterým porozuměl, prováděl pohyby a mohl se i učit některým slovům. Já jsem psal diplomku na téma, zda je antropomorfní ruka schopna detekovat tvary a rozměry objektů. Měla potenciometry umístěny v kloubech, senzitivní gumová čidla na článcích prstů a z polohy té ruky jsme se snažili rozpoznat, jestli je uchopen jehlan, válec, koule. Těch robotů bylo hodně, ale v začátcích ještě nevznikaly antropomorfní roboti v plném slova smyslu.
MT: Zmínil jste pojem autonomie. Do jaké míry jsou současní roboti autonomní a jaký pokrok je možné očekávat v této oblasti?
VM: Autonomie robotů obecně roste. Roboti jsou vybavováni lepšími programy a očekává se od nich samostatnější rozhodování. Stěžejní otázka, kam až můžeme v té autonomii jít, se ale týká toho, do jaké míry stroje mohou mít vědomí. Podle mého názoru je otázka vědomí v současné robotice klíčová, protože emulace vědomí je, dokud toho nebudeme schopni, limitujícím faktorem pro samostatnou autonomní činnost robotů, aut nebo dronů v prostředí, kde se pohybují společně s člověkem.
MT: V poslední kapitole v knize Eseje o vědomí – směrem k umělé inteligenci, která zároveň vyšla v upravené podobě i v knize Proč se nebát umělé inteligence?, do jisté míry souhlasíte, že by mělo být možné vytvořit umělé vědomí, pokud bychom měli k dispozici dostatek výpočetních prostředků?
VM: Především je potřeba si říct, jaké vědomí očekáváme. Jeden typ vědomí je strojové vědomí. Čili vědomí, které vychází z programů, z toho, co stroji dodá člověk. Takoví roboti s vysokým stupněm strojového vědomí třeba jsou schopni rozpoznávat a vyhodnocovat velmi složitou situaci, autonomně se chovat až do té míry, že si myslíme, že mají nějaké vědomí, ale to je jen zdání. V případě strojového vědomí je to jen a jen simulované. Čili robot se chová tak, že neznalí lidé žasnou, co všechno ten robot umí a jak si to uvědomil, ale on sám o sobě přitom neví nic.
Aby si stroj uvědomoval – a čím dál tím více výzkumných závěrů k tomu směřuje –, bude zřejmě podstatné, zdali je, nebo není přítomna živá hmota. Protože jedině živá hmota má jakési vnitřní nutkání, chce vnitřně něco někam posunout a uvědomuje si, kde je a kam jde. Zatímco počítač, který jenom simuluje, to jen předstírá.
MT: Což je asi problém mnoha novinových titulků, článků nebo očekávání, podle kterých budeme brzy schopni vytvořit umělé vědomí, vůči kterým jste ve zmíněných kapitolách skeptický.
VM: Ano, nedovedu si zatím dost dobře představit, jak by emulované vědomí čili umělé vědomí, které by stroj skutečně prožíval, probíhalo na současné výpočetní technice. Architektura dnešních počítačů tomu neodpovídá, algoritmy tomu neodpovídají, protože nemají potřebnou výpočetní infrastrukturu. Aby si stroj uvědomoval – a čím dál tím více výzkumných závěrů k tomu směřuje –, bude zřejmě podstatné, zdali je, nebo není přítomna živá hmota. Protože jedině živá hmota má jakési vnitřní nutkání, chce vnitřně něco někam posunout a uvědomuje si, kde je a kam jde. Zatímco počítač, který jenom simuluje, to jen předstírá.
To je v podstatě závěrečná odpověď v knize Eseje o vědomí, na níž jsme pracovali tři roky. Šlo nám o to, najít nějakého společného jmenovatele napříč obory, který by umožňoval „definovat“ vědomí, jaká kritéria by mělo splňovat, ať už biologické nebo emulované. Ukázalo se, že jedním ze zásadních kritérií je existence vnitřního pozorovatele čili schopnost pozorovat a zevnitř prožívat to, co se s tím systémem děje. A dále je to stanovování cílů a proaktivní hledání cesty k těmto cílům čili jakási vůle. Autonomní stroje mají znalosti, ale nejsou si jich vědomy a toto uvědomění zřejmě bez živé hmoty nenastane.
MT: Existuje už nějaký významnější proud ve výzkumu robotiky a AI, který by se věnoval propojování s živými organismy?
VM: Dosti silný výzkum probíhá tak, že se propojují živé a neživé systémy, zejména přes mozek. Na to jsou celé výzkumné projekty. Třeba konference IEEE System, Man and Cybernetics má každý rok speciální sekci, která se jmenuje Human–Machine Interface a je zaměřená jak na oblasti autonomních systémů inspirovaných mozkem, tak na inženýrské otázky spojení člověka a stroje.
MT: Probíhají také experimenty na nějakých jednoduchých organismech?
VM: Určité pokusy jsou prováděny, třeba že se i uměle vytvoří živá hmota a zkouší se interakce, ale je to daleko slabší trend než směr výzkumu, o kterém jsme dosud mluvili. Propojení křemíkových počítačů s živou hmotou obecně ale bude nejspíše důležitá cesta k rozvoji strojového, možná i umělého vědomí.
MT: Když si vybavím prorocká slova Raye Kurzweila nebo řady jiných technooptimistů i technopesimistů, tak už dnes mělo dojít k vytvoření vědomí strojů.
VM: Ano, byla to takzvaná otázka singularity. Kurzweil deklaroval někdy v roce 2005, že to nebude dlouho trvat a stroje budou tak inteligentní, autonomní a výkonné, že převezmou vládu na člověkem. Později posouval tu hranici a vloni už se vyjádřil, že umělého vědomí není zatím v tomto století možné dosáhnout, že se máme soustředit na systémy, ve kterých budeme propojovat živou hmotu s neživým počítačem, s tím, že se jejich schopnosti budou vzájemně multiplikovat a živá hmota v tomto propojení zajistí ono vysněné vědomí.
Nicméně ani tak nepůjde o libovolnou živou hmotu. Bude muset mít určitou strukturu, rozhodující je nakonec struktura i lidské neuronové sítě. Tononi ohodnocuje vhodnou strukturu pomocí stupnice od 0 do 10, na které jen člověk dosahuje struktury nervových vláken v hodnotě 10. Všechno, co je pod touto hranicí, nemůže podle něj dosáhnout úplného vědomí. Dnešní stroje nebo neuronové sítě, které simulujeme, se pohybují mezi nulou a jedničkou, takže ještě máme opravdu hodně stupňů před sebou, než se dostaneme k možnosti realizovat vědomí strojů.

Insfrastruktura Testbed pro Průmysl 4.0. Český institut informatiky, robotiky a kybernetiky, ČVUT v Praze (CIIRC). Foto: Jiří Ryszawý.
MT: Jaká reálná rizika spojená s vývojem robotiky nebo umělé inteligence byste tedy zmínil jako první?
VM: Myslím, že největším problémem jsou právě nejrůznější nereálná očekávání. Každý systém umělé inteligence jen v jistém segmentu simuluje činnost, ať již nervové tkáně nebo logických postupů, ale je to vždycky výsek, který se opírá o znalosti a struktury, které do toho systému explicitně vloží člověk. A protože je tímto způsobem každý systém limitovaný, tak třeba umělý mozek robota je schopen reagovat jen v určité množině situací, v určité oblasti. A tady pak nastává reálné nebezpečí, že se z ní vymkne, dostane jinam a pak reaguje nepredikovatelně. Proto se domnívám, že systémy umělé inteligence jsou dobrým pomocníkem, pokud jsme je schopni držet pod kontrolou a jejich finální rozhodování a kroky potvrdíme nebo ohlídáme. Nelze čekat, a to ani od těch nejnovějších GPT systémů natrénovaných na stovkách miliard slov, stoprocentně kvalitní a správný výstup. Prostě záleží, na čem se systém natrénuje, jaký tam dáme prompt, a na mnoha dalších aspektech. Člověk by měl ale vždy kontrolovat, co z toho nakonec vyleze.
MT: Co vás v poslední době překvapilo za nové objevy v oblasti vývoje a výzkumu umělé inteligence a robotiky, případně v oblasti aplikací?
VM: Překvapilo mě, a svým způsobem i potěšilo, že konverguje výzkum, který se zabývá nervovou mozkovou tkání člověka s tím, co si začínáme uvědomovat z druhé strany v počítačových vědách, tedy že se shodují na tom, že umělé vědomí nemůže probíhat bez živé hmoty. To je závěr, ke kterému míří poměrně dost autorů, počínaje fyziologií organismu přes neurovědy až k informatice a matematickým teoriím.
Dál jsem rád za výsledky analýzy činnosti GPT systému, které jsou také někdy pro mnohé překvapující. Jednak tedy že to není lék na všechno, že i každý GPT systém má své limity, které jsou dány například trénovací množinou, kterou mu dodáme. Dále jsou dány tím, jak šikovně se uživatel ptá. Formátování nebo tvorba promptů je svým způsobem umění blížící se tomu, co dříve dělal znalostní inženýr v expertních systémech. A je tam ještě další zajímavost: objevují se vlastnosti, které bychom úplně nepředpokládali. Jako například to, že systém halucinuje nebo degeneruje, když do něj začnete vkládat jeho vlastní produkty. To jsou navíc vlastnosti, které už náleží i živým organismům a mluvíme s nimi ve spojení s člověkem. Ale opět mějme na paměti, že pořád tam samozřejmě není přítomno vědomí, systém se prostě jen tak navenek projevuje.
A tyto technologie a technologická řešení vyžadují kritické myšlení a kritický dohled člověka a jsem rád, že si to lidé čím dál tím víc uvědomují a že postupují tím směrem, že si ponechávají dohled. Primát si drží lékaři, kteří se bojí o životy pacientů, ale musíme k tomu dospět i u autonomních robotů, kteří se pohybují po silnici, o vojenských robotech ani nemluvě.
MT: Tím se dostáváme k otázce regulací. Jaký je váš pohled na aktuální evropskou legislativu, konkrétně na hojně diskutovaný AI Act?
VM: Pokud se týká evropských regulací, myslím si, že AI Act není velkou regulací, spíše kategorizuje stupně nebezpečnosti naší práce s umělou inteligencí, a myslím, že je užitečné umět říct: toto už není legitimní, toto už je neetické. Taková kategorizace pomáhá k nastavení právních a etických norem. Samozřejmě je to určité omezení. Ale na druhou stranu jako občan bych si nepřál, aby každému bylo povoleno vše. Všemu neetickému nezabráníme, ale aspoň za neetické označíme některé způsoby využití umělé inteligence – a to je přínos. Tato regulace nic příliš nesvazuje, ale vyžaduje kontrolu nad daty. Firmy mohou být samozřejmě proti, protože je to brzdí, musí dát některá data na stůl, takže pro úplně volné podnikání to nemusí být vždycky chápáno jako přínos. Ale jako občan Evropské unie cítím, že ten přínos tam je a že nám to pomáhá – když už nic jiného – daleko lépe uvažovat o etice výzkumu.
MT: Pokud se zaměříme na tuzemskou situaci, spolu s dalšími autory knihy Průmysl 4.0 – Základ ekonomické transformace ČR se věnujete otázkám vládní politiky, ale i dlouhodobějších národních strategií v oblasti AI a robotiky. Jaké jsou klíčové myšlenky této knihy, podle které česká ekonomika stojí na křižovatce?
VM: Tuto knihu jsme – na rozdíl od Esejů o vědomí, na kterých jsme pracovali tři roky – připravili v podstatě v průběhu pěti měsíců a zapojilo se do ní sedmdesát odborníků. V naší vzájemné komunikaci ke knize jsme vycházeli z toho, že ekonomická situace České republiky vyžaduje zásadní kroky vedoucí ke změně. Už nejsme zemí s levnou prací, máme jednu z nejdražších energií v Evropě, čtyřikrát dražší než ve Spojených státech. Jsou zde sice různé iniciativy, včetně Druhé transformace nebo Česko na rozcestí, ale žádná neříká, co dělat, zdůrazňují jen to, že potřebujeme změnu. Domníváme se, že vodítkem je to, co by měly dělat malé a střední firmy, které jsou hlavním motorem české ekonomiky a nikdo se o ně přitom nestará, aby byly připraveny na nezbytnou transformaci, která nás čeká. A ta nezbytná transformace spočívá v tom, že budeme digitalizovat a do digitalizovaných systémů budeme postupně vnášet umělou inteligenci. Krásně to formuluje koncept průmyslu 4.0, ale ta vize jde daleko za samotný průmysl. Domníváme se, že myšlenky konceptu průmyslu 4.0 jsou použitelné v celé společnosti. Koncept v podstatě říká, že každý fyzický systém, každý proces v reálném světě má nebo může mít své digitální dvojče, svůj digitální kontejner ve světě nul a jedniček. Že rozhodování a dohadování mezi těmito digitálními kontejnery může probíhat někde ve virtuálním prostoru. A teprve výsledek se přenese do fyzického světa – do výroby, dopravy, lékařství, školství a tak dál.
Digitalizace ovšem neznamená, jak si někteří představují, že připojíme nějaké excelovské tabulky procesu a tam budeme ručně něco zapisovat. Digitalizace znamená, že daný systém nebo proces má přímé napojení na internet a data se schraňují a evaluují přímo v digitálním světě. A každý takový subsystém, to digitální dvojče, má interface k jiným, aby spolu mohly komunikovat.
Mají-li být v budoucnosti české malé a střední podniky schopny konkurence, mají-li vyrábět levně a s vysokou přidanou hodnotou, pak musí výrobní stroje i výrobní podniky mezi sebou digitálně komunikovat v reálném čase a samozřejmě se trvale vylepšovat tím, že budeme postupně přidávat umělou inteligenci. Tu do sběru a vyhodnocení velkých dat, tu do rozhodovacího procesu za pomoci expertních systémů, tu do vyjednávacích optimalizačních procesů na bázi vyjednávacích algoritmů. A postupně ty systémy budou samostatnější a budou moci navrhovat i složitá řešení.
S tím souvisí ještě jedno překvapení, na které jste se mě ptal dříve, a to že GPT technologie se začínají prosazovat při programování automatů v průmyslu, při plánování procesu výroby a při komunikaci mezi různými stroji a produkty. Při akčních změnách čili při dynamické potřebě rekonfigurace tak vznikají systémy na bázi jazykových modelů, které přinášejí obrovské zefektivnění při tvorbě programů, při jejich testování, při vzájemném propojování a celkové organizaci.
MT: A s průmyslem 4.0 souvisí to, co označujete jako myšlení 4.0.
VM: Koncept průmyslu 4.0 vznikl v průmyslovém prostředí, ale jeho filozofie je snad důležitější než vlastní uplatnění v podnicích. Je totiž daleko obecnější a říká, že mohu jakoukoliv entitu, jakýkoliv proces popsat kontejnerem dat a znalostí a tenhle dvojník pak může všechno řešit a optimalizovat v digitálním prostoru. Když to přenesete do běžného života, takto můžete plánovat a rozhodovat ve zdravotnictví, v zemědělství, v oblasti mobilní komunikace, protože to, co si stroje mezi sebou říkají, si můžou říkat třeba telefony, počítače. I my se můžeme vnímat jako entity, které mohou část svých znalostí a dat kontejnerizovat za účelem zabezpečení vyšší autonomie rozhodování při schopnosti dostatečně chránit vlastní data a jejich privátnost. Jsou to tedy obecněji platné myšlenky, které se můžou uplatnit v našem běžném životě a chování. Třeba tak, že budeme mít systémy, které integrují naše individuální rozvrhy s rozvrhy ostatních, systémy, které nám doporučí produkty podle našich preferencí, nebo za nás koupí lístky, když jedeme autobusem za babičkou. To všechno lze automatizovat podle stejné úvahové šablony.
MT: Co patří mezi hlavní bariéry, které nám teď zabraňují vydat se na rozcestí směrem ke společnosti 4.0, ať už v případě Evropské unie nebo České republiky?
VM: Především, máte-li někam směřovat, musíte mít vizi a za tou jít. A od vize odvozovat strategie. Myslím si, že Česká republika nemá vizi, kam chce jít, čeho chce vlastně dosáhnout. Má sice mnohočetné strategie, ale ty nikam nevedou. Vezměte si Národní strategii pro umělou inteligenci, není v ní uvedeno jediné číslo. Proto nevíme, kam směřujeme, jenom se dozvídáme, že bychom asi měli něco dělat. Mělo by být ale také jasné, co třeba do pěti let budeme chtít za výsledek a jeho dosažení pak podpořit státními penězi, třeba nějakým programem.
Druhá věc, které je potřeba k naplnění vizí, je nutnost investic. A protože hospodářství je jen jedno, nemůžeme investovat do všeho. Čili musíme si říct, čeho chceme dosáhnout, a tak teď třeba přednostně investujme do toho, že vybudujeme výpočetní infrastrukturu. Protože zrovna infrastruktura pro digitalizaci státu, ale i pro průmysl 4.0 citelně chybí. Takže v tomto duchu radíme podnikům v knize o průmyslu 4.0: Naučte se, co jsou to digitální dvojčata, propojujte stroje, připravujte se, že jednou budete plánovat tak, že váš systém bude komunikovat s energetickým systémem, s dopravním systémem, s municipalitami. Připravujte se na to a orientujte se na otevřená řešení.
A tato knížka vyšla týden předtím, než evropský bankéř Draghi vypustil svou slavnou zprávu o evropské konkurenceschopnosti a budoucnosti Evropské unie, a mnohé naše teze a výstupy jsou s těmi Draghiho naprosto konzistentní. To, co on připravuje pro Evropu, jsme my doporučovali pro Českou republiku.
MT: Uvedl byste nějaký konkrétní příklad této shody?
VM: Evropa musí budovat svůj průmysl, zejména informační, protože žádná velká informační firma mezi deseti největšími světovými není evropskou. EU by si proto měla vybudovat svoji nebo svoje. My píšeme, že Česko si musí vybudovat vlastní informační infrastrukturu, včetně cloudových úložišť, včetně výpočetních strojů a také, jak tomu uzpůsobíme energetiku nebo dopravu. Tedy měli bychom mít silný vlastní softwarový či informatický průmysl s vlastní strategií. A ta strategie tu dnes není. A to je přesně to, co říká Draghi. Evropa musí budovat systematicky silné firmy, které budou mít celosvětový dopad. My píšeme, že musíme budovat český softwarový průmysl, který bude mít dopad na Evropu, jež bude muset být schopná národní průmyslové kapacity integrovat tak, aby tu byl zřetelný světový dosah. Základní problém ale je, že vůbec nebudujeme systémově český softwarový průmysl, nikdo se o tento problém nezajímá a nestará.
MT: V čem jsou silné stránky českého výzkumu a vývoje v oblasti robotiky a umělé inteligence, kde je potenciál pro to, aby byl český výzkum a vývoj klíčovým aktérem?
VM: Téměř ve všech oblastech umělé inteligence. Vezměme si vyvozování a dokazování – máme týmy na světové špičce. Nebo počítačové zpracování řeči, brněnský tým patří k pěti nejlepším na světě. Můžeme se bavit třeba o aplikacích v průmyslu, zdravotnictví. Dokonce se hovoří o tom, že Česko je meka výzkumu a vývoje umělé inteligence v Evropě. Ne však v českých veřejnoprávních výzkumných institucích, ale ve velkých zahraničních pobočkách, na předním místě třeba v Microsoftu. Americká firma využívá potenciál našich lidí, který neumíme podchytit. Vláda deklaruje, že umělá inteligence patří mezi tři prioritní technologie, vedle polovodičů a kvantového počítání, ale neviděl jsem dosud přidělenou korunu, která by měla přímo podporovat tento výzkum. Na Českém institutu informatiky, robotiky a kybernetiky je nejméně polovina lidí financována projekty zvenčí včetně projektů EU, protože z našich veřejných prostředků dostáváme míň a míň. Na deklarovanou podporu umělé inteligence jde ve skutečnosti v posledních třech letech čím dál tím méně peněz. Takže vyučujeme studenty, kteří pak odcházejí do Microsoftu a jiných světových firem, jež tu mají výzkumná střediska, a výzkum, který provádíme na univerzitě, je z velké části placený ze zahraničí. Co z toho Česku zbude? Kde je to české know-how? To uniká.
Právě proto se stále snažím, a to nejen já, poukazovat na to, že ztrácíme hodnotné know-how, i když tady můžou vznikat produkty s obrovskou přidanou hodnotou. Ale někdo musí alespoň trochu zaplatit, a to jak infrastrukturu, tak lidi, kteří na tom pracují. Jinak: český výzkum má na to, aby se plně uplatnil ve světovém měřítku, ale my ho neumíme využít.
MT: Proč se tedy nebát AI a jak ji správně využít?
VM: Třetí kniha Proč se nebát umělé inteligence? zhodnocuje potenciál AI, obrovské množství užitečných nástrojů, které nám AI poskytuje, ale které neumíme využít nebo o jejich využití máme zkreslené představy. Nemůžeme se bát umělé inteligence, protože to je dnes naše cesta dopředu. Ale na druhou stranu se ji musíme naučit zkrotit. Dívejme se na AI jako na velmi šikovný nástroj, který umíme vytvořit, přesně víme, jak ho použít, a můžeme (a budeme muset) ho taky dobře prodat.