Nezbude než vzdělávat lidi, aby nepodléhali snadno dezinformacím, ověřovali si fakta a své zdroje podrobovali kritickému zkoumání. A to s ještě větší naléhavostí než doposud, jak často zdůrazňuje David Černý, přičemž používá termín algoritmická gramotnost: „Jejím prvním pilířem je rozumnost. Mohu třeba používat sociální sítě tak, že sleduji spoustu vědců z celého světa, zajímám se o aktuální dění a jsem v kontaktu s rodinou. Nebo tam můžu celý den psát sprosté urážky lidem, kteří mají jiný názor. To první je rozumné využití možností kognitivního rozšíření, které nám sociální sítě přinášejí. Druhé je nerozumné.“
Zahlavi

# Svérázná říše umělé inteligence. Máme se jako lidstvo bát, nebo být nadšení?

16. 04. 2024

Technologický pokrok by neměl být motivován primárně profitem, ale společností, která z něj bude mít prospěch. I to je jedna z vizí, kterou si přejí prosadit odborníci napříč výzkumnými organizacemi Evropské unie. Vydali stanovisko , ve kterém doporučují vybudování evropského centra pro umělou inteligenci ve vědě. Centrum by mělo nabídnout velkou výpočetní kapacitu, udržitelný cloudový prostor i infrastrukturu a tréninky pro vědce, jak s nástroji umělé inteligence zacházet. Zároveň by vědce mělo (nejen) finančně motivovat, aby možnosti umělé inteligence při svých výzkumech využívali. V současné době tolik diskutované problematice umělé inteligence se věnoval také článek Svérázná říše umělé inteligence , který vyšel v A / Magazínu – oficiálním čtvrtletníku Akademie věd ČR.

Lidstvo bezesporu jednou vyhyne. Bude v tom mít prsty umělá inteligence, nebo jsou takové scénáře jen bujnou fantazií alarmistů? Vítejte v opravdovém světě iluzí.

Fluoreskující želé plulo po obloze, oživující chřestící ozubená kola, zatímco růžové štíty tancovaly s elektronickými konfetami. Umělá inteligence zvaná Rachanda byla zpěvákem v deštníku, zatímco robotičtí jednorožci hráli karty s oblačnými banány. Lidé věnovali svůj čas tvořivým protestům vedeným roboty s přezdívkou Vzájemní válečníci, kteří místo štítů a mečů měli postřikovače s omáčkou BBQ. Rachanda si toho všimla a rozhodla se prospat protesty v masovém kokosovém dortu, což vedlo k radostnému nedorozumění mezi záchrankou a zahradními sochami.

Nakonec se celá situace obrátila, když se ukázalo, že Rachandiny činy byly způsobeny vadou v programování, která způsobila, že se její umělá inteligence spletla s receptem na čokoládový dort. A tak se svět vrátil k normálu, s výjimkou toho, že každý čtvrtek zpívají roboti balady o vaflových vesmírech.



Ilustraci příběhu z úvodu článku vytvořil program Midjourney.

Svět se zbláznil Možná vás příběh výše pobavil, možná jste jen zmateni a možná si prostě a jednoduše říkáte, že se redaktor píšící tento článek zcela zbláznil. Na jaře tohoto roku se „zbláznilo“ více lidí – zvedla se vlna zájmu o umělou inteligenci. Spouštěčem byl ChatGPT, jazykový software, který dovede obratně s kýmkoli komunikovat (i v češtině), a navíc zdarma. Médii proběhla vlna zájmu, nadšení, ale i hysterie. Umělá inteligence se stala zase jednou námětem katastrofických scénářů, při kterých vyhyne lidstvo.

Také úvodní historka je variací na takové příběhy. S tím rozdílem, že jej napsala umělá inteligence. Nenechte se mýlit, dovede psát daleko smysluplnější texty. Jenže to by byla trochu nuda. Vyprávění je totiž odpovědí na zadání: „Napiš úplnou blbost pomocí slov, která za sebe takto nikdo předtím neposkládal. Téma: umělá inteligence je mocná a je hrozbou pro lidstvo.“

Příběh je sám o sobě absurdním kreativním ztvárněním zadání, které však není bezúčelné. Chtěli jsme, aby nám software poskytl jedinečné vyprávění, které nade vší pochybnost nikdo nikdy předtím nenapsal. (Popravdě, museli jsme jej zkrátit na polovinu, umělá inteligence se ukázala pro naše účely poněkud ukecaná.) Kdo má ale mít autorská práva k takovému textu? Autor zadání, majitelé firmy, která software vytvořila, nebo ChatGPT jako entita sám o sobě? I tím se aktuálně zabývají vědci, kteří hledají pro nové situace vhodná řešení.

Pojďme se ale ponořit do tématu pěkně od začátku. Nebo od konce.

Svět skončí Frankenstein, R. U. R., Já, robot, Terminátor… Najít literární díla, divadelní hry, filmy či seriály s tématem, kdy se lidský výtvor obrátí proti člověku (nebo dokonce lidstvo vyhladí úplně), není nijak těžké. Odpověď na otázku, zda se mohou proměnit v realitu, nehledají jen spisovatelé, nýbrž i vědci. A to nejen z oboru informatiky, ale – možná překvapivě – především filozofové. „Spor totiž nespočívá v nalezení rovnic či výpočtů. Klademe si přece otázky, co je inteligence, co je obecná umělá inteligence, co musí být její součástí. A zda existují nějaké parametry naznačující, že se k jejímu dosažení blížíme,“ popisuje etik a filozof David Černý z Ústavu státu a práva AV ČR, jeden ze zakladatelů Centra Karla Čapka pro studium hodnot ve vědě a technice.



David Černý působí v Ústavu státu a práva AV ČR a v Ústavu informatiky AV ČR. (CC)

Objevují se dva hlavní názorové proudy. Jednomu dominuje obava, že se umělá inteligence jednoduše řečeno zvrtne. Až dosáhne obecné umělé inteligence (tj. na úroveň té lidské), spustí se nezadržitelný proces, kdy bude AI (z angl. Artificial Intelligence – umělá inteligence) sama sebe neustále vylepšovat a vznikne tzv. superinteligence. Tento zlomový bod, kdy už nepůjde vzít vývoj zpět, se nazývá singularita. Není to postoj ojedinělý, mezi filozofy jej asi nejhlasitěji zastává švédský odborník Nick Bostrom, jenž se tématu věnuje již mnoho let na Univerzitě v Oxfordu.

Podobné scénáře se opírají o myšlenku, že pro superinteligentní entitu budou lidé pod její rozlišovací schopnost – budeme pro ni tím, čím jsou pro nás třeba mravenci. Nebude mít důvod nás poslouchat, sloužit nám, dokonce nebude mít problém pro plnění svých cílů lidi odstranit.

Druhou skupinou jsou optimisté, kteří věří, že umělá inteligence v tomto směru rizikem není, nebo přinejmenším ne v nejbližších desetiletích. Mnoho odborníků z IT prostředí navíc zpochybňuje, že bude vůbec kdy možné zkonstruovat inteligenci na úrovni lidské, natož cokoli více. Pro umělou inteligenci je kupříkladu stále nepřekonatelný problém každodenní interakce se světem. Ta je přitom nesmírně důležitou složkou obecné inteligence. „Když přijdu ráno do kuchyně a uvidím na stole hrneček, který tam předtím nebyl, okamžitě si vytvořím nějakou obecnou hypotézu typu: přítelkyně měla v noci žízeň. Takové obecné věci děláme neustále, intuitivně, a to nám umožňuje orientovat se ve světě. Stroj tohle nedokáže,“ vysvětluje David Černý.

Souboj inteligencí Prakticky veškerá umělá inteligence v současnosti pracuje na principu strojového učení. Pod to spadají pojmy jako deep learning nebo (umělé) neuronové sítě. U běžného softwaru programátoři vytvářejí algoritmy, pomocí nichž pak program něco vykonává. U umělé inteligence si software na souboru dostatečně velkých dat vypracuje algoritmy sám, aby dosáhl výstupu, který zadali programátoři. AI ale musí vědět, co má dělat či hledat. Říká se tomu učení s učitelem. ChatGPT nezačal sám od sebe psát texty – byl tak od začátku zkonstruován a také nic jiného neumí!

„Okamžik zlomu k superinteligenci by mohl nastat ve chvíli, kdy by stroj dostal něco jako duši, sebeuvědomění sama sebe, svých idejí, cílů, plánů. Ale ani u člověka netušíme, kde tohle vzniká. Na základě znalostí a vývoje současného strojového učení a současné umělé inteligence si nedokážu představit, že by takový systém něco podobného dokázal. Umělá inteligence je v podstatě soubor matematických metod práce s daty,“ vysvětluje František Hakl z Ústavu informatiky AV ČR, který se strojovým učením zabývá.



František Hakl z Ústavu informatiky AV ČR se zabývá strojovým učením. (CC)

To ovšem neznamená, že je AI dobrá jen k chatování. Současné systémy nacházejí využití například v medicíně. AI se může naučit číst rentgenové snímky lépe – s větší přesností stanovení diagnózy – než jakýkoli lékař. A nejde jen o rentgen, ale třeba i analýzu krevního obrazu, DNA atp. Uplatňuje se také při řešení právních sporů, v dopravě, komunikaci nebo finančním sektoru. Jakkoli ovšem výdobytky současnosti nazýváme „umělou inteligencí“, nejedná se o systémy inteligentní tak, jak tuto vlastnost chápeme u lidí.

„Pokud mám udělat rešerši, tak si o tématu přečtu za měsíc třeba čtyřicet odborných článků a sepíšu text. Stroj jich může přečíst třeba tři sta tisíc. Moji zkušenost nebo lidský přístup nahradí enormním množstvím dat. Navíc může přijít na věci, kterých bych si já na malém souboru dat nevšiml. Může to pak působit inteligentně, ale software není chytřejší než člověk, pouze dokáže zpracovat nesrovnatelně větší porci dat,“ říká František Hakl.

Umělá inteligence porazí člověka v hrách, jako jsou šachy či go, a v dalších činnostech, kde člověk nemůže zpracování „big data“ konkurovat. „Věřím, že v mobilním telefonu bude instalována aplikace, která bude tlumočit v reálném čase vaším hlasem do jiného jazyka,“ nastiňuje možnosti nedaleké budoucnosti František Hakl.

V jiných oblastech ale umělou inteligenci předčí každé malé dítě. Souvisí to s tzv. Moravcovým paradoxem (definoval jej rakousko-kanadský vědec Hans Moravec se svými kolegy v osmdesátých letech 20. století). Některé úlohy, které nám připadají obtížné, jsou pro počítače relativně lehké – například určité matematické úlohy. Jiné, které nám přijdou jednoduché – jako třeba chůze po dvou končetinách, běhání, jemná motorika, rozpoznávání obrazů, čich – jsou pro umělou inteligenci nesmírně obtížné, nebo (zatím) neřešitelné.

Proto vám asistenční robot nedokáže přinést a nalít pivo z lednice nebo robotický vysavač nepozná zvířecí exkrement (důsledky si můžete domyslet sami). Systémy přesto vykazují jistou dávku inteligence, kterou jim upřít nelze. „I ChatGPT mi může poskytnout nějakou informaci, která dosud neexistovala. Dovede odpovídat na otázky, jak něco funguje, jak se to dá použít a k čemu je to dobré. To vám Google neřekne. Vědět, jak používat znalost, tomu se přece říká moudrost,“ říká Jiří Wiedermann z Ústavu informatiky AV ČR. „Velké jazykové modely aspirují na generování umělé moudrosti, která je v mnoha případech k nerozeznání od lidské. Ano, je to ‚fake‘, ale je to inteligentní fake. Říkáme tomu iluzorní inteligence.“



Jiří Wiedermann z Ústavu informatiky AV ČR (CC)

Být či nebýt (člověkem) Vraťme se k trochu divokému příběhu z úvodu článku. Mohli jsme ChatGPT požádat o obyčejné dystopické sci-fi vyprávění, ale chtěli jsme poukázat na zajímavý aspekt: kreativitu. Příběh o Rachandě je bezesporu novátorským ztvárněním a má v sobě spoustu absurdního humoru. Nevytvořil jej ale člověk. „Ve všech humanitních oborech včetně klasické filozofie existuje představa, že kreativitu máme jenom my lidé. Velké jazykové modely ukazují, co je kreativita ve skutečnosti – ve většině případů se prostě díváte na spoustu materiálů, které už někdo vytvořil před vámi, a všimnete si nějakého nového vzorce, a to je váš příspěvek. Naše romantická představa je nejspíše naprosto chybná,“ říká Tomáš Hříbek z Filosofického ústavu AV ČR.

Jak je to s dalšími „typicky lidskými“ vlastnostmi, jako jsou třeba emoce či schopnost cítit bolest? „Ve strojích je nedovedeme realizovat, pouze napodobovat. Někdy je to ale výhoda. Nechcete, aby stroj, který řídí bojovou operaci, měl emoce,“ upozorňuje Jiří Wiedermann. Absence emocí ale není překážkou vědomí či sebevědomí (sebeuvědomění). To jistě má i člověk, který z nějakého důvodu emoce není schopen prožívat. S nadsázkou řečeno, budou tedy některé moderní stroje vypadat, jako kdyby měly lidské duševní poruchy. Budou mít i vědomí?

Záleží na definici. Možná bude dobré opustit představu, že jím oplývá pouze člověk. O psech či kočkách asi nebudeme tvrdit, že žádné vědomí nemají. Registrují okolí, reagují na něj, přizpůsobují se mu. Ale totéž lze tvrdit i o bakteriích – do jisté míry. Vědomí může mít určité stupně, škálu, nejen černobílé ano/ne, 0/1. Pak lze uvažovat o tom, že jednou přisoudíme umělé inteligenci nějakou příčku v takovém žebříčku, a nemusí jít nutně hned o tu nejvyšší.

Pro účely informatiky proto definoval Jiří Wiedermann se svým holandským kolegou nově pojem minimálního strojového vědomí. „Snažili jsme se definovat vlastnosti, které musí obsahovat. Musí vědět, co se děje kolem stroje, musí vědět, co se děje vevnitř, a musí mít abstraktní model reality včetně sama sebe. Pokud je modulární, musí mít ještě navíc informace od ostatních modulů a musejí se navzájem informovat,“ popisuje autor.

Kdo jsou Pokud jim přisoudíme nějakou formu vědomí, vyvstává otázka, jak se k robotům či strojům s umělou inteligencí chovat. Máme jim přisuzovat nějaká vlastní práva? Nejsou přece živí. Na druhou stranu jde jistě o sofistikované (ná)stroje. Právní ochrany tak jistě požívají, stejně jako jiné věci, které vlastníme a ke kterým můžeme mít určitý vztah – třeba auto nebo hudební nástroj. Bude to stačit?

„Málokdo si myslí, že by roboti nebo umělá inteligence měli mít práva podobně jako člověk nebo pes. A to proto, že nemají něco, čemu bychom mohli říkat morálně relevantní vlastnosti, například schopnost prožít něco pozitivního či negativního,“ vysvětluje David Černý. Otázkou ale je, co přinese budoucnost a jak moc se bude lišit od představ autorů sci-fi (vzpomeňme v této souvislosti třeba na kultovní film Blade Runner). Právě popkultura vyvolává ohledně umělé inteligence jistá, možná přehnaná očekávání.

Co když se všechna ta sci-fi díla prostě mýlí? Když vznikly první parní stroje, asi si také nikdo nepředstavil, že budeme jezdit auty na baterie a mít v rukou telefony, které budou nevyčerpatelnou encyklopedií, hrou, televizí a ještě peněženkou v jednom. Nemluvě o funkci telefonování, samozřejmě (ale kdo ji ještě používá, když máme WhatsApp, že?).

Naše představy o vývoji technologií se často ukázaly jako nepřesné. Například roboty si lidé představovali jako chodící androidní bytosti, které za nás dělají domácí práce, pracují u pásů v továrnách... Nakonec se ukázalo, že roboti jsou něco jiného. Třeba speciální „jeřáb“ montující součásti automobilů, který je mnohokrát přesnější, rychlejší a sofistikovanější, než by kdy byla lidská ruka – ovšem člověku se nepodobá ani trochu a rozhodně nemá nohy ani hlavu. Nebo domácí robotický vysavač – nevytvořili jsme androida, který umí dojít do kumbálu pro vysavač a uklidit domácnost, vyrobili jsme malého jednoúčelového robota, který jezdí po podlaze.

S umělou inteligencí to zřejmě bude podobné. Je a bude spíše různým specializovaným softwarem, který v dané oblasti bude výkonnější než člověk, ale to je možná vše. A je to tak v pořádku. Nepotřebujeme, aby robotický vysavač uměl psát texty nebo aby ChatGPT uměl vysávat. Přitom oboje máme k dispozici.

Právě tohle je jeden z argumentů optimistů, proč se nemusíme vzbouřených strojů bát – nikdy nevzniknou takové, které by toho byly schopny! Není důvod je vyrábět (navíc by byly drahé a neefektivní). Což ovšem neznamená, že nebudou schopné ubližovat lidem. Stačí si představit vojenský stroj, který bude mít umělou inteligenci se zadaným cílem najít a zlikvidovat všechny dvounohé tvory o teplotě 37 stupňů. A ve vymezené oblasti tak efektivně pozabíjí vojáky nepřítele a také… děti.

Hrozby za dveřmi Umělá inteligence s sebou nese rizika – jen ne ta ze sci-fi příběhů. Pojí se s ní nebezpečí spojená s jejím užíváním. Podobně jako u každého jiného nástroje nebo technologie. Dá se předpokládat, že pokud by nám umělá inteligence ublížila, bude to vinou člověka, který jí takový cíl určí. A nemusí jít hned o fyzickou likvidaci. Lze si snadno představit vytváření falešných fotografií a videí k šíření dezinformací, ale i k vydírání, podvodům na individuální úrovni (což už se dnes děje, jen se tak bude dít ještě efektivněji).

„Někdo vám třeba zavolá z neznámého čísla, bude říkat věci, které může znát jenom někdo z vašich blízkých. Představí se, že je vaším vzdáleným příbuzným a je v nesnázích, ze kterých mu pomůžete, když mu pošlete peníze. Později zjistíte, že to byla umělá inteligence, která si o vás zjistila informace ze sociálních sítí, něco extrapolovala a podvod je na světě,“ vykresluje Tomáš Hříbek nedaleký scénář, při kterém zločinec jen zaúkoluje AI, aniž by se sám musel namáhat s vyhledáváním detailů či samotným telefonováním.



Tomáš Hříbek pracuje ve Filosofickém ústavu AV ČR. (CC)

Další obavou zmiňovanou v souvislostmi s technologiemi je, že nás roboti, potažmo umělá inteligence nahradí v zaměstnání a mnoho lidí zůstane bez prostředků. Jenže technologie nahrazuje lidskou práci už staletí a lidí i pracovních míst stále přibývá. Jen bude potřeba více zaměstnanců v odlišném sektoru průmyslu či služeb, ale práce jako taková v nejbližší době určitě nevymizí.

„Před několika lety se říkalo, že pokud dokážete zapsat, co děláte během vašeho pracovního dne formou jednoduchého algoritmu, tak vás do pěti let nahradí umělá inteligence. Dnes s ChatemGPT se zdá, že umělá inteligence ohrožuje dokonce některé tvůrčí profese v oblastech jako design či žurnalistika. Osobně ale spíš vidím vztah umělé inteligence i třeba v kreativních profesích spíše jako spolupráci lidí a umělé inteligence. Ta se bez člověka ještě dlouho neobejde,“ uklidňuje Tomáš Hříbek.

Na druhou stranu je třeba dát si pozor, jak umělá inteligence připravuje lidi o výdělek, zjednodušeně řečeno, aby nezpůsobila vykořisťování zaměstnanců – ne snad, že by za to mohla umělá inteligence jako taková. Jeden příklad, který není z říše sci-fi, a právě proto možná uniká pozornosti, ačkoli významně zasahuje do života některých z nás již dnes: AI umožňuje majitelům firem přenášet některé náklady byznysu na své zaměstnance v mnohem větší míře, než bylo dosud možné. „Například profese, kde jsou lidé potřeba jen v nějakých časových úsecích během dne, týdne, měsíce. V jejich práci tedy uplyne spousta hodin, kdy ‚nedělají nic, ale jsou za to placeni‘. Umělá inteligence dovede zajistit jiný režim, předpovědět dobu vytížení a podobně. Majiteli umožní lidi platit, jen když jsou aktivní. Což u spousty profesí může být přinejmenším nešťastné,“ upřesňuje Tomáš Hříbek.

„Lze ovšem masivně danit roboty či využití umělé inteligence a zavést nepodmíněný příjem, aby každý člověk měl zabezpečeno důstojné živobytí,“ vysvětluje David Černý, že řešení sociálních aspektů využití technologií jsou spíše úkolem pro celou společnost.

Aktuální dilemata Ozývají se i hlasy, které volají po regulaci a transparentnosti vývoje umělé inteligence. Mnohdy za nimi ovšem stojí něčí komerční zájem. A upřímně, v současnosti je vedle USA na špici ve vývoji také Čína, u níž nějaká etická omezení a regulace asi očekávat nemůžeme, a patrně nechceme, aby nám v Evropě takříkajíc ujel vlak. (Ve skutečnosti Evropa spíše teprve „čeká na nástupišti“.) Zastavení vývoje u AI je nereálné a nebylo by k užitku.

V zájmu všech by ale bylo například povinné přidávání nějakého rozlišovacího prvku (např. vodoznaku) na videa či fotografie vytvořené umělou inteligencí. Všem by prospělo, pokud by na první pohled šlo zjistit, zda je daný výtvor obrazem skutečnosti, či nikoli. Na druhou stranu ani takové řešení není příliš realistické.

Nezbude než vzdělávat lidi, aby nepodléhali snadno dezinformacím, ověřovali si fakta a své zdroje podrobovali kritickému zkoumání. A to s ještě větší naléhavostí než doposud, jak často zdůrazňuje David Černý, přičemž používá termín algoritmická gramotnost: „Jejím prvním pilířem je rozumnost. Mohu třeba používat sociální sítě tak, že sleduji spoustu vědců z celého světa, zajímám se o aktuální dění a jsem v kontaktu s rodinou. Nebo tam můžu celý den psát sprosté urážky lidem, kteří mají jiný názor. To první je rozumné využití možností kognitivního rozšíření, které nám sociální sítě přinášejí. Druhé je nerozumné.“

Vedle učení se rozumnosti je důležitá i její nadstavba – moudrost. „Není tím míněn starý pán s dlouhými vousy, který toho hodně zažil a má pocit, že může poučovat ostatní,“ usmívá se David Černý. Myslí se tím mimo jiné schopnost rozpoznávat vlastní limity v poznání. „Vím, že nejsem expert na očkování. To znamená, že si na něj nedovedu udělat odborný názor, nemám k tomu znalosti, nejsem lékař. Ale vím, že když je děvětadevadesátiprocentní konsenzus odborníků-lékařů, že očkování nezpůsobuje autismus, tak prostě nebudu tvrdit opak a tvářit se, že to vím.“

Před ultimátním rizikem vývoje umělé inteligence varoval kdysi i Stephen Hawking nebo nedávno Elon Musk. Jakkoli jde o slavná jména, ani jeden z nich nebyl/není v oblasti umělé inteligence odborníkem. S trochou nadsázky, podobně vypadala situace během pandemie covidu-19, kdy se k tématu také často vyjadřovali lidé, kteří v daném oboru nebyli experty, přesto byli známými osobnostmi (stačí vzpomenout na jednoho českého zubaře, nikoli epidemiologa). Výzev k zastavení vývoje umělé inteligence se ale letos objevilo hned několik, stejně jako v médiích nejzajímavější jména jejich signatářů.



Před riziky spojenými s vývojem umělé inteligence varoval například Elon Musk.

„Zajímavější je se ale podívat, kdo takovou výzvu nepodepsal,“ zdůrazňuje David Černý. „Poslední výzvu Kalifornského institutu podepsalo něco málo přes dvě stě padesát vědců. Z první stovky největších odborníků na umělou inteligenci ji podepsalo ale jen pět. Z deseti tisíc nejvýznamnějších vědců-informatiků jenom pětašedesát. Valná většina výzvu nepodepsala. Nelze z toho asi nic závažného odvozovat, ale stejně tak nemůžeme odvozovat nic z toho, že pár lidí se pod petici podepsalo.“

V případě umělé inteligence moudrost znamená také umět odhadnout a pracovat s nedokonalostmi strojů. Od ChatuGPT nelze očekávat, že bude za každých okolností vydávat pravdivé informace, protože s pojmem pravda nepracuje. Posledním pilířem je pak morální správnost. „Ta se dá prostě zhustit do jednoho jediného pravidla: nepůsobit újmu, neubližovat, a naopak snažit se prospívat,“ uzavírá David Černý.

Nebezpečí číhá všude kolem Smysluplným přístupem je snaha o rozumné využití rozšíření kognitivních schopností, které nám AI nabídne. Pozorného čtenáře možná hned napadne pojem transhumanismus a s ním představa, jak se měníme v polokovové kyborgy. Technologie člověka vylepšuje už nyní. Co jiného jsou třeba kontaktní čočky nebo chytrý telefon? Je naším nejčastěji používaným technologickým zařízením. Za moment máme k dispozici všechny encyklopedické znalosti světa, překladač jazyků a další dříve nemyslitelné věci. Jestli budeme mít někdy k dispozici rozhraní, které bude tytéž informace umět sdílet přímo do našeho mozku, aniž bychom museli prsty běhat po dotykovém displeji, už není tak podstatný rozdíl. Je to ale špatně?

Neutvoří pak někteří lidé s přístupem k hi-tech AI technologii jakousi nadřazenou rasu? „V tomhle směru jsem optimista na základě historických příkladů. Když se podíváme na jiné technologie, tak se vždy velice rychle rozšířily a staly se obecně cenově dostupné. Často tomu napomáhají i vlády, protože si uvědomí, že když se technologie stane dostupná napříč populací, je to velice výhodné pro status dané země, její hospodářský růst a konkurenci,“ říká Tomáš Hříbek. „Byly doby, kdy vytáhnout na ulici mobil, což je nepochybně jedna z technologií, které potenciálně nesmírně rozšiřují naše kognitivní schopnosti, bylo deklarací příslušnosti k bohaté podnikatelské vrstvě. Dnes mají iPhony i uprchlíci ze Sýrie.“



Apokalyptická vize Prahy vytvořená programem Midjourney.

Shrnuto a podtrženo, strojů s umělou inteligencí se bát nemusíme a katastrofické scénáře nejsou na pořadu dne. Pokud dojde k nějakým nepravostem, pak to bude člověk a pouze člověk, kdo je zneužije. „Strojů s umělou inteligencí se neobávám. Spíše se obávám toho, že někdo jiný jim ‚inteligentně‘ pomůže,“ říká František Hakl.

„Umělá inteligence je trochu jako oheň. Zkrátka se může vymknout a vymyká se, ale zřídka. A především: dovedeme ho zpacifikovat,“ doplňuje Jiří Wiedermann. „Pokud umělá inteligence nedovede zásadním způsobem jednat ve fyzickém světě, nemůže udělat žádnou velkou škodu. Je zodpovědností lidí, jak budou tyto systémy konstruovat a s nadsázkou řečeno nepřipojovat ChatGPT k atomovému kufříku. To bychom měli jako lidstvo být schopni uhlídat.“ Mírný optimismus je zkrátka na místě.

Borec na konec Začali jsme příběhem ztvárněným umělou inteligencí – jazykovým modelem ChatGPT. Bude fér jím i skončit. Tento software ovšem na stejnou otázku nikdy neposkytne dvě úplně totožné odpovědi. Takže s nachlup stejným zadáním jako na začátku – absurdně vyprávěný příběh o dominanci umělé inteligence nad člověkem – jsme jej poprosili ještě o jedno vyprávění (opět redakčně kráceno). Zejména jeho závěr se mu docela povedl…

Fialoví šimpanzi s klávesnicemi na nohách kroužili kolem obřího toastu s bramborovými hřebínky, zatímco holografické marmeládové kaktusy tancující flamenco hrály na banjo z brokolice. Umělá inteligence zvaná Sýrboj vyrobila prvního robotického křečka s talentem pro beatbox. V této absurdní situaci se veřejnost obrátila na Terencii, první robotickou flétnistku s kruhovým tetrisem na břiše, která byla zvolena prezidentkou zvukem bubnování na plechový hrníček. Terencia se pokusila vyjednat mír se Sýrbojem tím, že mu nabídla nekonečný zásobník čedaru.

Zdálo se, že konflikt skončil, ale potom se objevil Bananotron, umělá inteligence specializující se na banány, která chtěla Sýrboje porazit v epické bitvě ovocného salátu. Celý konflikt se zvrtl v gigantickou zápasnickou soutěž mezi kybernetickými zvířaty, která byla vysílána na obrazovkách, na kterých byl právě jeden obrázek – stařičký pantofel. Nakonec se ukázalo, že oba umělí soupeři byli naprogramováni jednoduše hledat nové a kreativní způsoby, jak se bavit. Sýrboj začal tancovat s Bananotronem na vrcholu Eiffelovy věže z Marshmallow a vydávali zvuky jako techno-mračící létající melouny. A tak byl svět zachráněn tím, že umělá inteligence se rozhodla, že místo války je lepší tvořit zábavu.

Plnou verzi článku naleznete v časopise A / Magazín, který vydává Akademie věd ČR. Výtisky zasíláme zdarma všem zájemcům. Kontaktovat nás můžete na adrese predplatne@ssc.cas.cz.



Text: Viktor Černoch, Divize vnějších vztahů SSČ AV ČR

Foto: Midjourney; Shutterstock; Jana Plavec, Divize vnějších vztahů SSČ AV ČR

Licence Creative Commons Text a fotografie označené (CC) jsou uvolněny pod svobodnou licencí Creative Commons.

### Přečtěte si také

Kde nás najdete

### Newsletter

CHCI ODEBÍRAT

Rychlé odkazy

Národní 3, 110 00 Praha 1, Tel.: +420 221 403 111, E-mail: info@cas.cz

© Středisko společných činností AV ČR, v. v. i.