scio-logo-200x61-1-png

Učím s AI

📢 Pokud si chcete článek raději poslechnout, klikněte zde Poslechnout si

https://www.youtube.com/watch?v=B6KdizRuIqY

Falešný rozhovor jako varování

Omlouváme se za clickbaitový titulek. Pokud jste si nahrávku poslechli, jistě tušíte, kam tím míříme. Ano, je to celé podvrh vytvořený AI. Nástroje umělé inteligence si prozatím spojujeme hlavně s různými textovými či obrazovými generátory. Možností zneužití AI, které už máme k dispozici nebo které brzy přijdou, je však mnohem více než jen hraní si s textem či obrázky. Kdo četl náš článek o hlasové syntéze, možná uvažoval, že lze naklonovat nejen vlastní hlas, ale v zásadě jakýkoliv. A přesně tak vznikl i tento fiktivní rozhovor.

Ze zdrojů veřejně dostupných na YouTube jsme si stáhli hlasové promluvy několika lidí. Jejich hlasový projev jsme pak na tři kliknutí myší naklonovali a posléze jim na další kliknutí pomocí hlasové syntézy vložili do úst něco, co by ve skutečnosti asi nikdy neřekli. Možná jste si doteď mysleli, že něco podobného zvládnou jenom programátoři nebo jiní odborníci s drahým zařízením. Tak tomu možná bylo v digitálním starověku před několika lety. Dnes to zvládne i běžný páťák a vsadím se, že v lepší kvalitě než my. A možností bude přibývat. Vše bude stále snazší a dostupnější.

Určitě už vám běží hlavou situace, které mohou nastat:

  • Skupina žáků naklonovala hlas neoblíbené spolužačky a vytvořila nahrávku ponižujícího telefonátu, která náhodou “unikla” na sítě.
  • Školním rozhlasem se ozývá hlas ředitele: “Mimořádné hlášení, od zítřka až do odvolání vyhlašujeme prázdniny.”
  • Neoblíbený učitel je vláčen sítěmi, protože se ukázalo ze “skryté” nahrávky, že šikanuje žáky.
  • Studentovi volá babička, že je v nesnázích, aby ji rychle na účet převedl peníze.

Netřeba dále rozvíjet. Jistě i vás napadne spousta dalších scénářů nejen ze školního prostředí.

 

Jak se s tím vypořádat ve škole?

Návrh hodiny mediální výchovy

Napadlo mě, jak podobných nahrávek využít ve škole. Psychologové i didaktici se možná budou ošívat, ale stejně to s vámi chci sdílet:

Nejprve bych vedl standardní hodinu o nebezpečí dezinformací a manipulativního obsahu na internetu – četba, diskuze, ukázky. Hodina by měla být ideálně nudná, aby žáci důležitost tématu spíše podceňovali. Vhodné je zejména použití spousty prezentací, nevyžadovat aktivitu žáků, nutit si něco zapisovat do sešitu apod.

V počítači bych měl připravenou falešnou nahrávku, kde by ředitel a zástupce (se souhlasem) domlouvali něco, co by žáky naštvalo. Zrušení prázdnin, výletu, paušální zhoršení známek všem… .

Na stole by mi běžel počítač připojený k reproduktoru. Náhle by mě někdo kvůli něčemu zavolal na chodbu. Ale počítač by běžel dál, a v tom by žáci uslyšeli “to”.

Pak bych se vrátil do třídy a čekal, co se stane. Předpokládám, že u nás na škole bych od žáků dostal několik nepříjemných dotazů. Třeba by i někdo rozpoznal, že se jedná o habaďůru na ně, ale jistý by si asi nebyl. Zkusil bych situaci s nimi nějakou dobu hrát. V příhodný okamžik bych to zastavil, přiznal se, že to celé byl vlastně “test” a teprve pak bych se pustil do diskuze a reflexe. Jak se cítili? Poznal to někdo? Byli schopni v daný okamžik, kdy jim v hlavě běžely emoce, kriticky přemýšlet? Zažili už někdy něco podobného? Co by jim pomohlo v budoucnu? …

A asi bych jim také ukázal, jak snadné je něco podobného vyrobit.

 

Právní aspekty

Dost času bych pak věnoval právním aspektům. Neustále žákům říkáme, že si mají chránit své osobní údaje. Rodiče neustále něco podepisují. Fotit ve škole je poměrně náročný oříšek. A co hlas? Je hlas osobní údaj? Dáte bez rozmýšlení rozhovor do ankety reportérovi nějakého rádia, který vás potká na ulici? A co když budu chtít vyrobit rozhlasové “přiznání” mrtvého člověka? Třeba Ferdinanda Peroutky k tomu, že Hitler je gentleman? Nebo živého Miloše Zemana, že se mýlil ve svém “vlevodolním” tvrzení? Nebo si udělat legraci z Ondřeje Šteffla bez jeho vědomí? (Ondřej samozřejmě o tomhle ví). Je to právně v pořádku?

Krásně se na tom dá totiž demonstrovat, že právo obvykle reaguje s určitým zpožděním. A v situaci, kdy dochází k bouřlivé technologické změně, a právo tak trochu nestíhá, je dobré se řídit etickými zásadami, morálním kompasem. Tedy, pokud jej máme.

A protože jednou takovou prudkou změnou právě procházíme a naše děti určitě ještě čeká několik dalších, roste podle mě na důležitosti budování postojů.

 

Postoje a hodnoty jako základ

Když jsem byl kluk, měli jsme doma dětskou encyklopedii starověku. Bylo tam takové pojednání o starověkém Egyptě. Už ani nevím proč, ale v hlavě mi uvízlo, jak si staří Egypťané představovali posmrtný život. Dle knihy byl život na onom světě úplně stejný jako na tom zde. Pouze vše bylo šestkrát větší, silnější, intenzivnější. Možností bylo šestkrát víc. Radost byla šestkrát plnější. A stejně tak bylo šestkrát více nebezpečí a šestinásobné bylo také utrpení a hoře. Jestli si to tehdy Egypťané skutečně mysleli, to nevím, ale často si na onu “šestinásobnou stejnost” vzpomenu dnes, když si čtu o změnách, které nás čekají v souvislosti s rozvojem AI.

Myslím, že vše bude skoro stejné. Skoro. Jen budeme moci mnoho věcí dělat šestkrát rychleji, intenzivněji, plněji. Ale stejně tak budeme čelit šestinásobně větším rizikům. Čeká nás “digitální Egypt.”

Nároky na rozhodování a jednání v “digitálním Egyptě” budou větší než kdy dříve. A my a naše děti budeme potřebovat rádce, který nám v rozhodování pomůže. A mám za to, že právě postoje jsou tím, co nás vede k jednání, co usměrňuje, zda se do něčeho bezhlavě pustíme nebo naopak vystříháme. A pokud chceme pracovat s AI ve školách, myslím, že to znamená, že stejně intenzivně se musíme zaměřit na budování postojů. Nemám totiž strach z AI apokalypsy, kdy nás zotročí “zlé” stroje. Ale bojím se lidí, kterým bude všechno jedno. Technologie samy o sobě jsou jen nástroje. Dávají nám možnosti. Ale ne vše, co je možné, je také dobré. Záleží na člověku, jak je využije. Věřím, že pokud nezapomeneme na naše lidství, máme šanci vybudovat skutečně moudrou a soucitnou digitální společnost. Ta ale nesmí spočívat jen na technologiích, ale také na hodnotách a našich postojích k nim.

 

Post Scriptum

Je možné, že návrh hodiny je kontroverzní. Uznávám. O to víc mě zajímají vaše názory. Pokud byste chtěli znát možné právní stanovisko k využívání hlasu pro klonování, můžete se podívat do naší právní sekce.

Při psaní tohoto blogu nebylo zraněno žádné zvíře ani květina. Služeb Anthropic a ChatGPT bylo využito v roli editora.