Zobrazit na úvodní stránce článků

Na začátek článku
Titulka > Modul články > Základní vzdělávání > Je umělá inteligence rizikem pro demokra...

Ikona informativni

Je umělá inteligence rizikem pro demokracii?

Autor: Bořivoj Brdička
Článek je součástí Učitelského spomocníka na adrese http://spomocnik.rvp.cz.
Anotace: Článek seznamuje s názory Amy Webb, profesorky New York University a zakladatelky Future Today Institute. Je další z řady akademiků, kteří varují před katastrofickým vývojem společnosti vyvolaným technologiemi. K nápravě jsou nutné základní digitální kompetence většiny občanů.
Klíčová slova: Amy Webb, umělá inteligence, AI, G-MAFIA, Čína, AlphaGo, AlphaZero, DeepMind, svobodná vůle, mediální gramotnost, GAIA, výzkum, demokracie, totalita

Dnes se seznámíme s názory Amy Webb, profesorky New York University a zakladatelky Future Today Institute. Oborem, kterému se věnuje na vědecké úrovni, je futurologie – tedy předvídání budoucnosti. To je problematika, která nás zajímá, zvláště když se týká umělé inteligence (AI). Název poslední Amyiny knihy hovoří za vše – Velká devítka: Jak technologičtí obři a jejich myslící stroje mohou zdeformovat humanitu (The Big Nine: How Tech Titans & Their Thinking Machines Could Warp Humanity).

Podle Amy „jsme dosáhli bodu zlomu. Musíme udělat krok zpět a podívat se, kam jdeme.“ [1] Současný vývoj technologií se dostal na nebezpečnou cestu. Problém je v tom, že velcí hráči jako Google, Microsoft, Amazon, Facebook, IBM a Apple (G-MAFIA) v Americe se orientují na krátkodobou maximalizaci výnosu na kapitalistickém trhu znemožňující dlouhodobé plánování, zatímco ti čínští, jako jsou Tencent, Alibaba a Baidu, procházejí konsolidací a shromažďují obrovské množství dat, aby posílili autoritářské ambice vlády.

Zvolna se dostáváme do situace, kdy budou systémy umocněné AI dělat bez nás za nás závažná rozhodnutí. Není třeba hned jako největší riziko zmiňovat inteligentní zbraně. Dokumentovat to lze třeba na mnohem známějším příkladu superpočítače Google AlphaGo, který se v roce 2016 proslavil vítězstvím nad mistrem světa ve hře GO (Co dokáží stroje schopné hlubokého učení). Tehdy byl představitelem tzv. „slabé“ inteligence (ANI – viz Co bychom měli vědět o botech). Zvládal „jen“ tu jednu hru. Následovník AlphaGo, AlphaZero se dnes chlubí tím, že již zvládá 3 na logické myšlení náročné hry najednou (GO, šachy a šógi). [2] To znamená, že se z jednoúčelové umělé inteligence (slabé) zvolna přesouvá do kategorie umělé inteligence silné (AGI).

Ještě mnohem důležitější však je, že původně týmem DeepMind nasazená metoda hlubokého učení pracovala na základě dat získaných vložením tahů všech známých partií odehraných lidmi. Na základě těchto dat počítala pravděpodobnost úspěšného tahu v dané situaci. A vlastním hraním se pak zdokonalovala. Tento postup je ale pro úlohy strojového učení s jasně definovanými (algoritmem popsatelnými) pravidly již, zdá se, překonaný. Ukázalo se, že AlphaZero se může učit hrát i bez dat vytvořených lidmi. Prostě hraje sám se sebou a zdokonaluje se tak rychle, že se během 3 dnů dostane na úroveň vyšší než kterýkoli člověk. Velmistři občas s úžasem zírají na to, jak neobvyklé úspěšné tahy takový stroj použije.

Je to tak. Již dnes jsou oblasti, v nichž, chceme-li dosáhnout nejlepších výsledků, musíme řešení nechat jen na strojích. Denně přitom můžeme pozorovat tisíce různých posunů ve vývoji, které schopnosti těchto technologií dále vylepšují.

Pro budoucnost je zásadní otázkou, zda jsou vyspělé západní státy schopné na stávající situaci reagovat v politické rovině. Zdá se, že právě probíhá souboj v tom, která orientace převládne – zda to bude demokracie založená na svobodné vůli občanů, či totalita založená na ovládání společnosti nyní nově podpořená lidmi generovanými daty. Klíčový vliv bude mít úroveň vzdělání většiny (hlavně mediální gramotnost). Přesněji řečeno, to, zda si lidé budou schopni uvědomit, že jsou všudypřítomnými AI systémy ovlivňováni (Stává se svobodná vůle pouhou iluzí?).

Chceme-li alespoň v nějaké modifikované podobě zachovat společnost s převládajícím demokratickým principem fungování, musíme urychleně zavádět systémová opatření vyžadující značné investice. Zatím je to ale spíše tak, že je vývoj AI v demokratickém světě financován hlavně ze soukromých peněz. A soukromí investoři jsou ve svobodném světě na státě nezávislí (na rozdíl od Číny, která v AI spatřuje strategickou zbraň budoucnosti), a udělají vše pro co nejrychlejší návratnost svých investic. Proto jsme svědky toho, jak G-MAFIA mohutně investuje do vývoje bez ověřování a sdílení výsledků, a díky tomu dělá velké množství špatných rozhodnutí.

My v USA trpíme tragickým nedostatkem předvídavosti. Jestli nezměníme stávající vývoj, blíží se pravděpodobně katastrofa“ [1], říká Amy a formuluje několik doporučení, která mají potenciál katastrofické trendy změnit:

  • Vyvolat diskuzi o důsledcích svobody projevu v situaci, kdy neexistuje pro šíření názorů žádné omezení.
  • Vysvětlovat lidem, že je třeba se starat o to, co se děje s jejich daty.
  • Zavést regulaci sociálních sítí.
  • Komerční sektor musí do své činnosti integrovat udržitelný rozvoj světa (dlouhodobé plánování). To by se mělo projevit např. již při náboru zaměstnanců.
  • Vysoké školy musí zavést nové tzv. hybridní studijní programy, které budou technické vzdělávání kombinovat s humanitním (a naopak). Etika nesmí být vnímána jako samostatné téma, musí být integrována do studia napříč všemi kurzy.

Mým hlavním doporučením je vytvořit Globální alianci pro rozvoj AI (GAIA), která by vyvinula plošně respektované normy (standardy) pro vývoj budoucích systémů umělé inteligence tak, aby reflektovaly zájmy všech, nejen Američanů a Číňanů. Nesmíme myslet jen v horizontu 5 let. Budoucnost sice předvídat neumíme, určitě jsme ale schopni její příchod lépe připravit.“ [1]

Amy Webb ve svém snažení není sama. Vzpomeňme na Sherry Turkle a její vzkaz, že „technologie jsou zde příliš krátce na to, aby nekontrolovaným způsobem ovlivňovaly náš život“ (viz Spojeni, ale sami!) nebo aktuálně na Douglase Rushkoffa a jeho Team Human (viz Démonologie podle Marka Pesceho). Rozhodující je, zda nás bude dost?!

Amy Webb | SXSW 2019

Citace a použitá literatura:
[1] - HAO, Karen. Why AI is a threat to democracy—and what we can do to stop it. 2019. [cit. 2019-5-13]. Dostupný z WWW: [https://www.technologyreview.com/s/613010/why-ai-i...].  
[2] - DeepMind’s Go playing software can now beat you at two more games. 2018. [cit. 2019-5-13]. Dostupný z WWW: [https://www.newscientist.com/article/2187599-deepm...].  
Anotované odkazy:
Příspěvek nemá přiřazeny žádné anotované odkazy.
Přiřazené DUM:
Příspěvek nemá přiřazeny žádné DUM.
Přiřazené aktivity:
Příspěvek nemá přiřazeny žádné aktivity.
 
INFO
Publikován: 27. 05. 2019
Zobrazeno: 1031krát
Hodnocení příspěvku
Hodnocení týmu RVP:
Hodnocení článku : 0

Hodnocení uživatelů:
Hodnocení článku : 5
Hodnotit články mohou pouze registrovaní uživatelé.

2 uživatelé Hodnocení článku : 5
zatím nikdo Hodnocení článku : 4
zatím nikdo Hodnocení článku : 3
zatím nikdo Hodnocení článku : 2
zatím nikdo Hodnocení článku : 1
Jak citovat tento materiál
BRDIČKA, Bořivoj. Je umělá inteligence rizikem pro demokracii?. Metodický portál: Články [online]. 27. 05. 2019, [cit. 2019-08-26]. Dostupný z WWW: <https://spomocnik.rvp.cz/clanek/22132/JE-UMELA-INTELIGENCE-RIZIKEM-PRO-DEMOKRACII.html>. ISSN 1802-4785.
Licence Licence Creative Commons

Všechny články jsou publikovány pod licencí Creative Commons.


Komentáře
Příspěvek nebyl zatím komentován.
Vložit komentář:

Pro vložení komentáře je nutné se přihlásit.