Letní filosofická škola AI

Rizika AI: Měli bychom se obávat umělé inteligence?

Animátor: Jaroslav Malík

S prudkým vývojem AI varují mnozí experti před takzvanými „existenciálními“ riziky, kdy by AI systémy mohly (i dost brzy) představovat hrozbu pro přežití lidstva. Přestože AI výzkum dělá obrovské pokroky ve schopnostech těchto systémů, stále nerozumíme tomu, co se děje uvnitř neuronových sítí, a neumíme vytvářet plně bezpečné AI systémy. To, čemu v rámci oboru bezpečnosti AI čelíme, je takzvaný problém „souladu“ (angl. alignment problem). Zatím se nám nedaří zajistit, aby AI jednala v souladu s lidskými hodnotami a zájmy.

Nejnovější studie ukazují znepokojivé trendy: jazykové modely dokážou být přesvědčivější než lidé, umějí klamat, odmítají se nechat vypnout a někdy jednají v rozporu s lidskými příkazy. Proto experti na bezpečnost AI varují, že budoucí výkonnější systémy by mohly představovat skutečné ohrožení lidské civilizace. Vyvstává tedy otázka: Měli bychom se obávat umělé inteligence? Tato přednáška prozkoumá argumenty zastánců i skeptiků existenciálních rizik AI a pokusí se odpovědět na tuto zásadní otázku naší doby.

Úsvit na Marsu – Kult dvou srdcí

Animátor: Lukáš Pazderník

V rámci tohoto bloku se přeneseme na palubu generační vesmírné lodi směřující k rudé planetě, kde se v „mezní situaci“ pokusíme redefinovat základy lidství a společenského uspořádání. Projekt nás staví do role zakladatelů nového světa, v němž staré zákony, jistoty a tradice přestaly platit a zbyla jen prázdná stránka, kterou je třeba zaplnit. V tomto novém domově však nestojíme sami – dělíme se o něj s androidy, bytostmi probuzenými k vlastnímu vědomí, jejichž „srdce“ pulzuje logikou a precizními daty namísto emocí a krve. Střet těchto dvou odlišných entit otevírá hluboké otázky o podstatě vědomí, etice umělé inteligence a o tom, jak moderní technologie proměňují naši definici lidství i vztah k okolnímu světu.

V tomto podbloku si skrze prožitkovou pedagogiku vyzkoušíme, jaké je to budovat společnost od nuly v Lockovském „přirozeném stavu“. Rozděleni do frakcí lidí a androidů budeme v moderované debatě hledat odpovědi na následující otázky: Na čem se skutečně zakládá hodnota života a právo na majetek? Komu patří plody práce – tomu, kdo věc vymyslel, nebo stroji, který ji fyzicky sestavil? Jakou hodnotu má vědomí, kterému v hrudi netepe biologické srdce? Vyvrcholením aktivity bude společné vyjednávání a sepisování „Marťanské ústavy“, která musí zajistit přežití obou skupin v nehostinném prostředí. Zjistíme tak, zda jsou naše zákony a lidská práva samozřejmostí, nebo spíše výsledkem křehké společenské smlouvy mezi odlišnými bytostmi, které se navzájem potřebují.

Umělá inteligence – dobrý sluha, ale špatný pán? Nebezpečí kognitivního zlenivění

Animátorky: Karolína Jiráková a Zdeňka Špiclová

Umělá inteligence nám dnes dokáže během několika sekund vysvětlit učivo, napsat referát, navrhnout argumenty do debaty nebo vyřešit domácí úkol. Nabízí se proto jednoduchá otázka: Když může přemýšlet za nás, proč bychom to dělali sami? Právě zde se ale otevírá jedno z méně nápadných, a přesto možná nejvýznamnějších rizik současné AI – nebezpečí postupného kognitivního zlenivění.

V tomto bloku budeme společně přemýšlet nad tím, co vlastně znamená myslet, učit se a rozvíjet vlastní úsudek. Je rozdíl mezi tím, když AI využijeme jako nástroj, jako překladač, nebo jako pomocníka při hledání informací a situací, kdy za nás převezme argumentaci, přemýšlení samo, interpretaci či dokonce rozhodování. Které činnosti je rozumné delegovat na technologii, protože nám šetří čas a energii, a které bychom si měli ponechat právě proto, že nás formují jako myslící bytosti?

Pomocí konkrétních příkladů ze školního i běžného života budeme zkoumat, jak používat AI jako chytrý nástroj, aniž bychom ztratili schopnost samostatně uvažovat. Zaměříme se také na otázku důvěry – kdy jsou odpovědi AI dostatečně spolehlivé a kdy je naopak nezbytné zapojit vlastní kritické myšlení. Cílem nebude AI odmítat, ale naučit se s ní (spolu)pracovat tak, aby zůstala dobrým sluhou a nestala se špatným pánem našeho poznávání.

Píšu texty, tedy jsem? Problém lidské autenticity v kontextu psaní textů a AI

Animátor: Michal Hubálek

V rámci tohoto podbloku se zaměříme na problém lidské autenticity v kontextu psaní textů a obecněji také v rámci lidské komunikace. Způsob psaní a komunikace konkrétního člověka dříve často poukazoval na jeho způsob přemýšlení, a možná dokonce i na míru jeho kreativity nebo inteligence. Dnes však může po zásahu AI téměř každý text působit chytře, kreativně a stylisticky propracovaně. Ve chvíli, kdy se zdá, že jsme již za bodem, v němž lze spolehlivě rozpoznat, zda text napsal člověk, nebo AI, se nabízí znovu promyslet naše představy o vztahu mezi autenticitou, originalitou a textem coby formou lidského vyjadřování.

V tomto podbloku rozebereme a zároveň si vyzkoušíme různé aktivity zaměřené na následující otázky: Do jaké míry lze skutečně rozpoznat text generovaný AI? Je vůbec nutné zajímat se o to, zda byl text vytvořen pomocí AI? Jak AI proměňuje naše chápání kreativity? Není přehnaný strach z všudypřítomnosti AI spíše limitující až paralyzující? AI se přece učí od nás — proč jsme tedy často nespokojeni s jejími výsledky a snažíme se od ní odlišit? A od koho se nakonec vlastně chceme odlišovat?

Kdo je autorem? Umění, AI a hranice tvorby

Animátorka: Tereza Matějková

Tato interaktivní workshopová aktivita zve účastníky do role „kurátorů významu“ v době umělé inteligence. Prostřednictvím vernisáže anonymizovaných děl, diskuse a práce s hraničními případy budou studující zkoumat, kde končí lidské autorství a začíná strojová tvorba – a zda je tento rozdíl vůbec podstatný. Aktivita otevírá klíčové otázky současné estetiky: co činí dílo uměním, jak vzniká jeho hodnota a kdo (nebo co) je jeho autorem. Účastníci si odnesou nejen vlastní kritickou reflexi, ale i hlubší porozumění proměnám tvořivosti v éře AI.

Vyjednávání o tvorbě

Animátorka: Tereza Matějková

Tato navazující aktivita rozšiřuje předchozí reflexi umění a AI o společenský, právní a etický rozměr. Studující se prostřednictvím roleplaye ocitají v různých pozicích uměleckého ekosystému – od umělců přes AI firmy až po publikum či právní experty – a zkoumají, jak se jejich zájmy střetávají, doplňují nebo vylučují. V simulovaném vyjednávání si vyzkouší argumentaci, hledání kompromisu i dynamiku moci, která formuje pravidla tvorby v digitální éře.

AI jako vztahový architekt: Kdo dnes navrhuje naše vztahy?

Animátorky: Jana Švadlenková a Tereza Matějková

Umělá inteligence je často spojována s představami o možných podobách budoucnosti. Méně pozornosti však věnujeme tomu, že algoritmy a digitální technologie už dnes ovlivňují, s kým se setkáváme, jak spolu komunikujeme a jaké vztahy navazujeme. Stávají se tak jakýmisi „vztahovými architekty“, kteří spoluutvářejí prostředí našich mezilidských vztahů.

V tomto bloku se prostřednictvím modelových situací a skupinových aktivit zaměříme na otázku, jak AI proměňuje vztahy mezi lidmi. Může algoritmus vědět lépe než my sami, s kým si budeme rozumět? Jak se mění důvěra, komunikace nebo přátelství ve světě digitálních technologií? Kdy nám AI pomáhá a kdy už za nás začíná rozhodovat? A kdo vlastně dnes utváří naše vztahy – my sami, nebo technologie, které používáme?

Praktická ukázka trénování AI: Modelovat zvládne každý

Animátoři: Jan Tvrz a Vojtěch Kaše

V rámci svého bloku bych chtěl účastníkům nabídnout možnost nahlédnout pod pokličku AI systému, za účelem demytologizace této technologie. Jak tvrdí výzkumy z poslední doby, čím více jsou lidé obeznámeni s vnitřním fungováním AI, tím menší je jejich tendence přistupovat k ní jako ke všemocné entitě. Zkušenost z první ruky tak může poodkrýt skutečnou závažnost rizik, které s sebou tato technologie nese.

Praktickou náplní bude postupný průchod mnou připraveného Jupyter Notebooku, který bude spuštěný v programovacím prostředí Google Collab. Účastníci budou ke spuštění potřebovat pouze vlastní Google účet a zařízení, skrze které budou ke stránce přistupovat (smartphone, tablet, laptop). Zároveň také budou mít možnost sledovat můj průchod cvičením na projektoru/interaktivní tabuli, pokud nebudou mít vlastní zařízení. Veškerá výpočetní zátěž proběhne na serverech Googlu.

Pro účast není nutné umět programovat.

Poznávám, tedy jsem: AI jako výzkumná metoda

Animátor: Vojtěch Kaše a Jan Tvrz

V tomto bloku si ukážeme, jak se AI dnes využívá ve vědeckém výzkumu, a to se zvláštním důrazem na situaci v oblasti společenských věd. Dále se budeme ptát, jak by mohla AI již v blízké budoucnosti celkově proměnit to, čemu říkáme věda a vědecké poznání, a co z toho vyplývá pro povolání vědce. Věda není jen soubor poznatků, ale také určitý druh řemesla. Zahrnuje schopnost rozpoznat zajímavý problém, zvolit vhodnou metodu jeho řešení, interpretovat výsledky a přesvědčivě je prezentovat ostatním. Budeme se ptát, nakolik mohou toto řemeslo převzít AI systémy a kde zůstává lidský výzkumník nenahraditelný.

Již dnes si lze představit scénář, v němž AI systémy samy identifikují nevyřešené vědecké otázky, shromažďují a analyzují data, formulují závěry a publikují odborné texty, na které navazují další AI systémy. Můžeme v takovém případě stále hovořit o vědě a vědeckém poznání? Jakou roli v tomto světě zaujímají lidé-vědci a jakými dovednostmi by měli být vybaveni? To jsou otázky, které se netýkají jen budoucnosti vědy, ale také budoucnosti univerzitního vzdělávání.

Chceme vyvíjet AGI? Filozofická debata o budoucnosti umělé inteligence

Animátor: Alexandr Vigh

Závěrečná debata nabídne studujícím prostor ohlédnout se za tím, co během programu objevili, a aktivně tak vstoupit do jedné z nejdůležitějších diskusí současnosti. Účastníci budou rozděleni do dvou týmů, které zastupují rozdílné pohledy na vývoj obecné umělé inteligence. Každý tým si na základě získaných znalostí připraví a obhájí vlastní argumenty v rámci strukturované debaty. Diskuse pracuje s kontrastem dvou perspektiv.

Na jedné straně stojí technologický optimismus, který v AI vidí nástroj pro řešení zásadních globálních výzev a posouvání hranic lidských možností, na straně druhé pak výhradně kritický pohled upozorňující na rizika, nejistoty a možné negativní dopady jejího vývoje. Cílem ovšem není najít jednu správnou odpověď, ale rozvíjet schopnost kriticky uvažovat o tom, jak technologie formují a nadále budou formovat svět, ve kterém chceme žít.