Opět musíme myslet na to, že umělá inteligence se učí zcela jinak než člověk. Když například člověku řekneme přines mi čaj, tak automaticky ví, že u toho nemá polít koberec a že se má vyhnout dítěti, které si hraje na zemi. Počítač toto všechno musíme naučit. S rostoucím počtem vstupních dat je to naštěstí stále menší problém, ale nevíme a neumíme kontrolovat, zda při učení něco neopomínáme.
Rubriky

Zavřít vyhledávání

„Na Cambridge se mi velmi líbilo. Měl jsem dokonce nabídku pokračovat na doktorát ve skupině, ve které v té době ještě pracoval Stephen Hawking. Postupně jsem si ale uvědomil, že mě zajímají problémy, které teoretická fyzika neumí vyřešit,“ popisuje Stanislav Fort svůj přesun na Stanford.

„Na Cambridge se mi velmi líbilo. Měl jsem dokonce nabídku pokračovat na doktorát ve skupině, ve které v té době ještě pracoval Stephen Hawking. Postupně jsem si ale uvědomil, že mě zajímají problémy, které teoretická fyzika neumí vyřešit,“ popisuje Stanislav Fort svůj přesun na Stanford. Foto: Dan Hamerník, Universitas

# AI demokratizuje přístup k informacím. Může přinést vědeckou revoluci

Studoval na Cambridge a Stanfordu, působil v Google Brain i startupu Stability AI. Teď Stanislav Fort pracuje na vývoji velkých jazykových modelů a přemýšlí nad částečným návratem do Česka, kde vnímá stimulující prostředí a obrovský potenciál.

Stanislav Fort ze sebe sypal v pražské kavárně odpovědi tak rychle, že pak měla umělá inteligence problém s jejich přepisem. Ohromující je i množství jeho zájmů – od astrofyziky přes nejmodernější technologie až po právo a filozofii či klimatickou změnu.

Věnujete se výzkumu a vývoji umělé inteligence. Jaké jsou největší mýty, se kterými se setkáváte?

Často se setkávám s tím, že kvůli současnému rychlému vývoji lidé nevědí, co již umělá inteligence umí. Na Twitteru jsem třeba konfrontován s názory vědců z jiných oborů, podle kterých „toto umělá inteligence nikdy nedokáže“ – přitom to je již dávno realitou.

Nesmíme opomínat, že se neuronové sítě učí jinak než lidé, takže pro ně nelze aplikovat stejné předpoklady jako pro lidské chování. Když člověk například umí hrát šachy, tak je vysoce pravděpodobné, že umí i další intelektuální věci. Pro umělou inteligenci ale takové korelace neplatí. Často umí jen to, na co konkrétně je natrénovaná.

Poslední dva roky probíhá doslova revoluce schopností, co umělá inteligence umí a jak rychle se učí.

Ano, poslední dva roky díky velkým jazykovým modelům zažíváme obrovský pokrok překračující celá desetiletí předchozího vývoje. Umělá inteligence jako výzkumný obor existuje již více než sedmdesát let, ale až v roce 2012 nastal zlom, kdy se rozšířilo využití neuronových sítí. Trochu to připomíná princip fungování našeho mozku. Víme, že máme neurony, díky kterým můžeme myslet nebo si pamatovat, ale ještě úplně přesně nevíme, jak to vlastně funguje. A něco obdobného nyní platí i pro umělou inteligenci: máme mnoho malých výpočetních jednotek spojených do komplexních sítí, které ve výsledku produkují odpovědi. Umí se učit i z poměrně malého množství dat, ale úplně přesně nevíme jak.



Na jak dlouhou dobu dopředu umíme odhadnout vývoj umělé inteligence?

To je pro mě osobně velmi zajímavá otázka – extrémně mě totiž zajímá předvídání budoucnosti a speciálně schopností systémů AI. Beru totiž velmi vážně možná rizika umělé inteligence a ta právě úzce souvisí s předvídáním jejích schopností. Existují pravidelné turnaje, kde se schází odborníci a predikují budoucí vývoj. Jedním z těchto predikovaných výsledků je třeba úspěšnost umělé inteligence v řešení matematického testu. Ještě loni v létě forecasteři odhadovali, že se současného skóre dosáhne až v roce 2025. Takže ani skuteční znalci oboru nedokázali odhadnout vývoj na pouhý rok dopředu.

Dokážeme odhadnout, jak inteligence změní pracovní trh? Bude to další nástroj, který rozšíří naše schopnosti, nebo nás bude spíše nahrazovat? Myslím, že to bude kombinace. Není žádnou novinkou, že nové technologie nahrazují některé profese, jen nyní se to děje extrémně rychle. Dlouho jsme si mysleli, že stroje nejdříve nahradí manuální práci, ale vývoj poslední doby ukazuje, že to bude spíše naopak. Tedy že dříve budou nahrazeny „modernější“ obory, kde je klíčová interakce s počítačem.

Dnes již umělá inteligence v řadě případů nahradila třeba překladatele, což demokratizuje přístup k informacím. Například moje babička se tak pomocí online překladačů dostává k informacím ze světa. A právě tuto demokratizaci přístupu k informacím nebo zlevnění a zpřístupnění nejrůznějších analýz například v medicíně nebo technologiích vnímám velmi pozitivně a můžeme z toho jako společnost velmi profitovat.

Jaká jsou podle vás největší rizika umělé inteligence?

Hlavním rizikem je to, že stavíme systém, který potenciálně může být chytřejší než my. Právě inteligence je totiž naší hlavní výhodou a důvodem, proč v současném světě máme převahu, ačkoliv jsou například lvi nebo gorily mnohem silnější než my lidé.

Často zaznívá, že člověk může využít umělou inteligenci k něčemu špatnému, ale to není to hlavní riziko. To by pak byl pouze další nástroj v řadě takových, jako jsou atomové bomby nebo další zbraně a technologie. U umělé inteligence poprvé vyvíjíme nástroj, který může být autonomní, mnohem chytřejší a efektivnější. Může nás překvapit a můžeme ztratit schopnost ji ovládat.

### Přihlaste si newsletter

Opět musíme myslet na to, že umělá inteligence se učí zcela jinak než člověk. Když například člověku řekneme přines mi čaj, tak automaticky ví, že u toho nemá polít koberec a že se má vyhnout dítěti, které si hraje na zemi. Počítač toto všechno musíme naučit. S rostoucím počtem vstupních dat je to naštěstí stále menší problém, ale nevíme a neumíme kontrolovat, zda při učení něco neopomínáme.



Zmiňujete vstupní data. Lze bránit stereotypům ve výstupech, například aby „director“ nebyl při automatickém překladu ve většině případů muž-ředitel, protože to byla častější varianta ve vstupních datech?

To je obrovský problém. Umělá inteligence takto odhaluje všechny stereotypy, které ve společnosti máme. Ale podobně jako lidský překladatel dokáže z kontextu odhadnout, kdy máme na mysli ženu a kdy muže, pokročilejší systémy budou s těmito možnostmi pracovat a umět je rozpoznat. Zabývá se tím naštěstí docela velké množství lidí.

Jaký je naopak potenciál umělé inteligence?

Za mě je to automatizace a analyzování velkého množství dat, což může přinést obrovské benefity pro celé lidstvo. Doposud byl veškerý pokrok závislý na schopnostech jednotlivců či maximálně skupin lidí. Umělá inteligence již nyní v některých aspektech, jako je například šíře dat, na kterých se učila, převyšuje schopnosti lidského mozku. Brzy tak může přijít skutečná revoluce ve vědě a inovacích. Pomocí technologií můžeme vyřešit řadu problémů či zabránit katastrofám. Například již dnes bychom pravděpodobně dokázali odklonit asteroid, který by mohl ohrozit Zemi.

Každý rozvoj technologií má samozřejmě i negativní stránku. Průmyslová revoluce výrazně zlepšila naši životní úroveň, vedla k poklesu extrémní chudoby a k objevu léčby řady nemocí, zároveň ale výrazně přispěla ke klimatické změně, se kterou se nyní potýkáme. Při aplikaci nových technologií je potřeba volit obezřetný přístup, dobře nastavit pravidla, brát v potaz možná rizika a aktivně se jim snažit předcházet. Myslet na to, aby nedocházelo ke koncentrování moci nebo jinému znevýhodňování. Pokrok ale zastavit nejde.

Slovo pokrok dobře vystihuje i vaši dosavadní kariéru. Máte neuvěřitelný rozhled, řadu netradičních zkušeností, loni jste se dostal do seznamu Forbes 30 pod 30. Za studiem do zahraničí jste zamířil již po maturitě na gymnáziu v Táboře. Co vás k tomu tehdy přimělo či inspirovalo?

Už od konce základní školy jsem vnímal, že bych chtěl dělat vědu a že špičková věda se dělá v zahraničí. Takže jsem se začal učit anglicky a zjišťovat informace. Nechával jsem si například každý rok posílat z Cambridge katalog studijních programů, abych věděl, jak probíhá přijímací řízení, na co se připravit. Pocházím z malé vesnice o pěti stech obyvatelích, takže to nebylo úplně běžné a vyžadovalo to mnoho mého aktivního zapojení.

Důležité také bylo, že jsem se účastnil řady olympiád a středoškolské odborné činnost i, díky čemuž jsem potkával více lidí s podobnými ambicemi nebo dokonce již se zkušeností se studiem v zahraničí. To vnímám jako zásadní, proto se to nyní snažím vracet. Jsem mentorem v Yoda Mentorship, lektoruji na letní akademii Discover nebo jsem organizoval fyzikální a astronomické olympiády. Dává mi to obrovský smysl.

Po studiu černých děr a teoretické fyziky na Cambridge jste se rozhodl pro doktorát v oboru umělé inteligence na Stanfordu. Co vás přimělo k takto neobvyklé změně oboru?

Na Cambridge se mi velmi líbilo – bylo to velmi intelektuální prostředí a uměl jsem si tam představit i další kariéru. Měl jsem dokonce nabídku pokračovat na doktorát ve skupině, ve které v té době ještě pracoval Stephen Hawking. Postupně jsem si ale uvědomil, že mě zajímají problémy, které teoretická fyzika neumí vyřešit. Že bych chtěl dělat vědu, která má větší přesah do praxe. V té době (rok 2016 – pozn. red.) porazil program AlphaGo tehdejšího šampiona ve hře go, což se podle odhadů mělo stát až o dekády později. Došlo mi, že v hlubokých neuronových sítích je jedinečný potenciál a že toho chci být součástí. A tak jsem se rozhodl vykročit do neznáma a přijmout největší intelektuální výzvu svého dosavadního života – doučit se umělou inteligenci, abych mohl pokračovat doktorským studiem na Stanfordu, kde se krom samotných znalostí velmi dbá i na jejich využití v praxi.

I proto jste mezi magistrem a doktorátem strávil rok v Google Brain, výzkumném oddělení Google zaměřeném na AI. Jaké to bylo?

Byla to pro mě extrémně transformativní zkušenost a jsem rád, že jsem prošel osmi koly pohovorů, mohl se zapojit do jejich ročního programu a být součástí velmi kvalitních výzkumů. Během toho roku jsem pracoval na pěti různých projektech od zpracování přirozeného jazyka až po rozpoznávání obrázků. Tyto zkušenosti pak hodně ovlivnily i mé další směřování.



Doktorát na Stanfordu jste dokončil před pár měsíci. Čemu se věnujete nyní a kde vidíte svoji budoucnost?

Po dokončení studií jsem se stal ředitelem vývoje a výzkumu velkých jazykových modelů ve startupu Stability AI, kde jsme stavěli konkurenci ChatGPT od OpenAI. Stability AI již stojí za populárním obrazovým generátorem Stable Diffusion. Od konkurence se odlišuje otevřenou filozofií vývoje produktů umělé inteligence, díky které mají uživatelé přístup ke kódu programů firmy a mohou s jeho pomocí stavět vlastní aplikace. To se mi velmi líbilo. Ze Stability jsem ale nedávno odešel a aktivně teď pracuji na výzkumu a dalších krocích. Moc rád bych se s manželkou minimálně částečně usadil v Česku, které mám čím dál více rád. Je tu intelektuálně stimulující prostředí a obrovský potenciál, který si často vůbec neuvědomujeme. Žije se tu opravdu velmi dobře.

V kontextu vašich zkušeností – co byste poradil dnešním studentům a studentkám, jak se připravit na budoucnost?

To je těžká otázka, protože nevíme, co nás čeká, a zároveň každý máme velmi individuální cestu. Ale kdybych to měl zobecnit, tak zcela klíčové je umět dobře anglicky, neustále si rozšiřovat obzory a zajímat se o věci mimo školu nebo univerzitu. Na Cambridge jsem chodil na nejrůznější kurzy od biologie hmyzu po egyptologii. Snažím se mít co největší přehled v různých oborech – zajímám se o filozofii, astronomii nebo třeba historii Mezopotámie a pády civilizací. Baví mě se na věci dívat v kontextu, protože svět je komplexní a propojený.

Kdybych byl dnes znovu na střední, tak pravděpodobně trávím hodně času tím, že bych dělal kurzy z vysokých škol v zahraničí, které jsou zdarma dostupné všem. Za mě tolik kvalitních zdrojů nebylo. Což je možná problém současnosti – je k dispozici tolik informací, že může být těžké rozlišit, co je skutečně kvalitní, i umět si vybírat, čemu budu věnovat svůj čas.

## Stanislav Fort BA (Hons), MSci, MS, Ph.D.

- Po gymnázium v Táboře zamířil na Cambridge, kde se věnoval teoretické fyzice a výzkumu černých děr.
- Před několika měsíci dokončil doktorát na Stanfordu v oboru umělé inteligence. Podílel se na řadě výzkumných projektů zaměřených na vývoj a využití AI například v Google Brain či startupu Anthropic.
- Do srpna letošního roku byl ředitelem vývoje a výzkumu velkých jazykových modelů ve startupu Stability AI.
- Jako dobrovolník mentoruje a spoluorganizuje olympiády pro mladé.
- Ve volném čase rád běhá (i maratony), chodí po horách a s manželkou cestuje po světě.
- Společně s manželkou teď také používají příjmení Fort (bez háčku).

## Nejčtenější články