scio-logo-200x61-1-png

Učím s AI

Právní aspekty užívání umělé inteligence ve školách

Při užívání nástrojů AI dětmi je třeba zohlednit jak obecnou právní úpravu, tak podmínky jednotlivých služeb.

Obecně lze říci, že nástroje AI jsou ve smyslu GDPR1 a českého zákona o zpracování osobních údajů2 službami informační společnosti, a pokud jde o jejich samostatné užívání dětmi, lze vycházet ze stejných pravidel, jaká platí např. pro registrace na sociálních sítích atp.

Účet pro službu AI si tedy dítě může zřídit samostatně (nebo-li poskytnout souhlas se zpracováním svých osobních údajů v souvislosti s nabídkou služeb informační společnosti) po dosažení věku 15 let. Toto platí i v případě, že jednotlivé nástroje AI stanoví věkovou hranici užívání nižší. Výjimkou by byla pouze služba, která by ke svému užívání nevyžadovala zřízení účtu, a tedy nezpracovávala žádné osobní údaje účastníků.

Účet ke službě AI si může dítě založit samostatně od 15 let, pokud podmínky užívání dané služby neobsahují přísnější úpravu.

Samotné užívání (za předpokladu, že účet je zřízen se souhlasem rodiče, resp. zákonného zástupce, který za jeho užívání dítětem odpovídá) pak zákonem už upraveno není. Zde je tedy třeba zohlednit podmínky jednotlivých služeb:

  • OpenAI (ChatGPT a Dall-e 2): užívat mohou děti od 13 let, do 18 let jen se souhlasem rodiče, resp. zákonného zástupce.
  • Midjourney: odkazuje na právní úpravu v dané zemi, minimálně však 13 let. Výslovně v souvislosti s užíváním mladými uživateli uvádí, že nepřebírá záruky za vhodnost výstupů pro zákazníka.
  • Bard: užívat mohou uživatelé až od 18 let.
  • Bing: platí obecné podmínky pro uživatele služeb Microsoft, odkazují na obecnou právní úpravu v ČR, tedy 15 let.
  • Claude 2 od Anthropic: nemá žádnou zvláštní úpravu týkající se minimálního věku.
  • Canva: v podmínkách mají přímo zákaz samostatného užívání dětmi do 13 let, resp. do věkové hranice dle úpravy zpracování osobních údajů v dané zemi, pro ČR tedy platí 15 let. Děti mohou užívat jen se souhlasem rodiče, resp. zákonného zástupce. Za zvláštních podmínek mohou děti užívat Canva for Education.

Shrnutí – AI služby a věk studenta

Děti si mohou zřídit účet ve službě AI od 15 let (pokud podmínky dané služby nestanoví vyšší věkovou hranici). 

Samostatnou práci ve službě AI lze umožnit žákům od 15 let, u služeb, které to ve svých podmínkách vyžadují, pak do 18 let s předchozím souhlasem zákonného zástupce. 

Skupinová práce s AI pod vedením učitele je možná s žáky jakéhokoliv věku. 

Autorské právo a AI

Problematika autorských práv v souvislosti s AI má dva aspekty: 

  • dodržování autorských práv třetích osob při zpracování jejich autorských děl nástroji AI
  • vznik autorského práva k tomu, co je vytvořeno za pomoci AI

Autorská práva třetích osob

Stejně jako při jakémkoliv jiném užívání autorského díla je třeba i při využívání nástrojů AI dbát, aby takové užití autorského díla nebylo zásahem do autorských práv autora takového díla. Zjednodušeně lze říci, že pokud dané dílo není možné legálně kopírovat, rozmnožovat, upravovat atp., tak bude zásahem do autorských práv jeho autora nechat jej zpracovat nástrojem AI a takto zpracované dále využívat. 

Autorský zákon nicméně z těchto poměrně přísných podmínek zná výjimky: 

  • jednou je užití díla pro vlastní potřebu3 (i to má ale své limity a podmínky)
  • a pro užívání autorských děl při vyučování platí tzv. citační licence4, která dává vyučujícím relativně široké možnosti jejich využití ve výuce, a takové užití autorského díla i v souvislosti s AI ve výuce je také možné

Rizikem v této souvislosti však je, že některé nástroje AI mohou autorské dílo, které dostanou v rámci zadání, využít pro své “učení,” a pokud by jej AI dále použila v jiných výstupech, tak už by k porušení autorských práv k původnímu dílu nejspíš došlo. 

Pokud učitel využívá ve výuce cizí autorská díla, může je obdobně využívat i za pomoci nástroje AI. 

Autorské právo k tomu, co vytvoří AI

Aby dílo bylo právem chráněno jako dílo autorské, musí být vytvořeno autorem, tedy fyzickou osobou, člověkem. Pokud jej tedy vytvoří výhradně nástroj umělé inteligence, zpravidla o autorské dílo vůbec nepůjde a k takovému “dílu” autorské právo vůbec nevznikne.

Pokud chceme, aby výstup byl chráněn autorským právem, lze AI použít jen jako nástroj k vytvoření takového díla – nástroj, který pomůže, urychlí práci, ale ten podstatný tvůrčí prvek a originalitu do procesu tvorby přinese člověk.

​V případě, že na základě zadání všechnu “tvůrčí” práci odvede AI, nebude výstup autorským dílem. V praxi to znamená, že tento výstup může použít kdokoliv jakkoliv i bez souhlasu člověka, který AI dal zadání. 

Pokud tedy něco vytvoří AI sama, nepůjde o autorské dílo, ale to neznamená, že to je špatně. Výtvor AI může posloužit stejně dobře jako dílo vytvořené člověkem, záleží jen na účelu a na tom, že výtvor AI může volně užívat kdokoliv. 

Odpovědnost za výstupy AI

Je důležité vědět, že se provozovatelé nástrojů AI vesměs zříkají odpovědnosti za vytvořený obsah. Je to tedy uživatel, kdo zcela odpovídá za obsah, který na základě jeho zadání AI vytvoří. Kromě odpovědnosti za porušování cizích autorských práv pak přichází v úvahu odpovědnost za vytvoření, resp. šíření nepravdivého obsahu, obsahu zasahujícího do osobnostních práv třetích osob či do ochrany osobních údajů. V neposlední řadě může obsah, resp. jeho případné šíření porušovat etická pravidla i trestněprávní předpisy (např. pokud by byl obsah rasistický, nenávistný, násilný, pornografický atp.). 

Za to, co vytvoří nástroj AI, je vždy odpovědný ten, kdo výstupy vytvořené AI využívá. 

Použití AI žáky při vypracování zadaných úkolů a prací

S masivním nástupem využívání nástrojů generativní AI ke zjednodušení rozličné tvůrčí práce samozřejmě přichází i to, že se ji snaží využívat i studenti, aby jim pomohla např. zpracovat písemné práce. 

Jsou situace, kde je takové užití AI studenty nežádoucí, nemorální a hodnocené jako podvod (např. diplomová práce vypracována AI). Na to se snaží reagovat i vývojáři s vývojem jiných nástrojů AI, které jsou nebo budou schopné rozeznat obsah vygenerovaný nástrojem AI od obsahu vytvořeného člověkem. 

Pak jsou ale situace, kdy je vhodné a účelné žákům či studentům využití AI umožnit. Na to by školy měly myslet a stanovit jasná pravidla, kdy a za jakých podmínek může student pro vypracování např. domácího úkolu, projektu či písemné práce AI využít, a kdy je využití nástroje AI zakázané. 

Školy by měly nastavit pravidla pro používání nástrojů žáky a studenty. 

Transparentnost využívání AI

Jednoznačně lze doporučit, aby obsah generovaný nástrojem AI byl jako takový označen obdobně, jako se u autorských děl uvádí jméno autora.

Evropská komise už jasně deklarovala, že toto označování bude požadovat po velkých technologických společnostech, a lze předpokládat, že se tento požadavek dostane brzy i do platné právní úpravy.

Asociace moderních jazyků vytvořila příručku s detailním manuálem jak citovat generativní AI. Více o ní zde

Obsah vytvořený nástrojem má být vždy označen tak, aby bylo zřejmé, že jej vytvořila umělá inteligence.

AI a zpracování osobních údajů (včetně např. hlasu nebo podoby člověka)

Při práci s AI je třeba myslet také na to, aby nedošlo k neoprávněnému zpracování osobních údajů. Osobním údajem je (zjednodušeně) přitom jakákoliv informace, kterou lze přiřadit ke konkrétní osobě, kromě údajů identifikačních (jméno, příjmení atd), je to ale např. i hlas či podoba člověka. 

A proto i v případě, že do budeme pomocí AI zpracovávat osobní údaje (např. generovat “fotky”, či hlasovou syntézou vytvoříme fiktivní rozhovor) je nutné dodržet podmínky, které stanoví GDPR, příp. zákon o zpracování osobních údajů. 

Zásadní je vždy mít právní důvod (právní titul), jakým je např. souhlas toho, o jehož údaje jde, nebo oprávněný zájem na takovém zpracování, který však nikdy nemůže převážit nad právem subjektu údajů na ochranu soukromí. 

Důležitý je také legitmní účel. 

Uvedeme-li příklad použití cizího hlasu či cizí podoby: Pro satiru či výuku by takové užití mohlo obstát, pokud nejde příliš za hranu. Ale pouhá zábava nebo vytváření dezinformací legitimním účelem není. I kdyby majitel hlasu dal souhlas, ale účel by nebyl legitimní, není to v pořádku.

Použití cizího hlasu, cizí podoby nebo jiných osobních údajů při práci s AI vyžaduje mít legitimní účel, právní důvod a zvažovat přiměřenost zásahu do práv majitele hlasu. Bez toho je to velmi problematické.

Na závěr je třeba upozornit, že stejně jak se rychle vyvíjejí nástroje umělé inteligence, vyvíjí se i právní pohled na ně a postupně na to bude reagovat i právní úprava. Tento text vychází z platné právní úpravy v srpnu 2023 a je možné a i vcelku pravděpodobné, že se tato pravidla do budoucna změní.


publikováno: září 2023