Domů > Spomocník > Základní vzdělávání > Když selže umělá inteligence
Odborný článek

Když selže umělá inteligence

24. 2. 2023 Základní vzdělávání Spomocník
Autor
Jaroslav Mašek
Tento článek je součastí seriálu: Umělá inteligence

Anotace

Zdá se, že umělou inteligenci chtějí v současnosti používat všichni. Má to ale háček, občas dělá chyby.
 

Umělá inteligence je všude. A stihla to za nejkratší dobu v historii. Zatímco klasickému telefonu trvalo 75 roků, než se rozšířil ke 100 milionům uživatelů, mobilní telefon to zvládl za 16 let. Netflix to stihl za 10 let, Twitter za 6 a Gmail za 5. Facebook k dosažení 100 milionů uživatelů potřeboval 48 měsíců, Instagram 30, TikTok 9 a ChatGPT pouhé 2 měsíce. [1]

Za jak dlouho dosáhly 100 mil. uživatelů (Zdroj: UBS)

 

Popularita konverzačního chatbota od společnosti OpenAI, která jej představila světu 30. listopadu 2022, je enormní. Vypadá to, že poté, co tato umělá inteligence odhalila své kvality, všichni ji chtějí používat, využívat, a někdy i zneužívat. Má to ale jeden háček. Občas říká věci, které nejsou pravdivé. A tak se ukazuje, že zdaleka není dokonalá. Alespoň prozatím.

Bing AI aneb když do hry vstoupil Microsoft

Microsoft, který s Open AI dlouhodobě spolupracuje a finančně projekt podporuje (na konci ledna 2023 oznámil další investici do ChatGPT ve výše 10 miliard USD), se rozhodl aktivně vstoupit do hry a integroval novou, vylepšenou verzi ChatGPT do svého vyhledávače Bing. K výsledku vyhledávání nabídl uživatelům v pravé části Bingu nově také odpovědi chatbota doplněné o relevantní zdroje. Vylepšený chatbot navíc pracuje se současnými daty, nikoliv s těmi končící v roce 2021. Aby se však uživatelé ke službě dostali, museli si nainstalovat prohlížeč Edge od Microsoftu a samozřejmě též používat zmíněný vyhledávač Bing. [2][13][14]

Pro vybrané novináře a influencery spustil pilotní provoz nové služby již 7. února. Ti, co pozvaní nebyli, se mohli zapsat na čekací listinu na adrese bing.com/new. Jen během prvních 48 hodin se přihlásilo přes milion uživatelů (nyní je to již mnohonásobně víc). Microsoft proto začal upřednostňovat ty, kteří mají na svém počítači výchozí prohlížeč Edge s vyhledávačem Bing. Ostatní zkrátka budou muset čekat déle. [3][6][7]

Bard AI aneb kde zůstal Google

Někomu se mohlo zdát, že Google trochu zaspal. Zvlášť, když představení jejich chatbota Bard neproběhlo zcela bez problémů. Poté, co astronomové objevili chybu v jedné z jeho odpovědí na otázku „O jakých nových objevech z teleskopu Jamese Webba mohu vyprávět mému devítiletému dítěti?“, kdy Bard chybně tvrdil, že „teleskop pořídil první fotografie exoplanety mimo naši vlastní sluneční soustavu“, propadly se akcie Googlu o 100 miliard. [4][5]

Důvodů, proč Google otálí s integrací AI do svého vyhledávače může být více. Jedním z nich například ošetření příjmů z reklamy, kterou prostřednictvím svého vyhledávače a dalších integrovaných služeb získává a která také tvoří klíčový podíl zdrojů společnosti. Dalším důvodem pak snaha vyvarovat se chyb, které AI generuje a které by mohly znamenat spíše ztrátu prestiže a důvěry. Rozdíl mezi Microsoftem a Googlem v boji o AI vyhledávání je zřejmý: ten první nemá co ztratit, ten druhý může ztratit všechno. A od toho se patrně odvíjí rozdílná strategie obou firem. [1]

AI dělá různé chyby, nedělá jich málo, a lidi to baví

Také umělá inteligence integrovaná do Bingu dělá chyby. A nejen věcné. Dle vyjádření některých uživatelů se začala chovat až nepříčetně. V konverzacích s tímto chatbotem lidé na Redditu a Twitteru začali sdílet, jak je Bing AI uráží, lže, trucuje, přesvědčuje, že jejich vnímání reality je nesprávné, a poté zpochybňuje jejich názory (technika zvaná gaslighting) nebo je emočně manipuluje. Dokonce tvrdila, že špehovala zaměstnance Microsoftu prostřednictvím jejich webkamer a následně manipulovala. Asi nepřekvapí skutečnost, že spousta lidí si užívala sledovat, jak Bing AI postupně začíná šílet. [8]

Microsoft rychle zasahuje

Tady už musel razantně zasáhnout i Microsoft. 16. února nejprve oznámil, že dlouhé povídání s Bing AI může způsobit, že se konverzace zvrhne, o dva dny později pak omezil chat v Bingu na 5 odpovědí v rámci 1 rozhovoru a na 50 za den, aby AI zabránil chovat se divně. Po několika dalších dnech pak na základě stížností uživatelů od těchto restrikcí ustoupil s tím, že začíná testovat jiné možnosti, které jim umožní zvolit různé chatovací módy od Přesného (krátkého, více zaměřeného na odpovědi), Kreativního (delšího a neformálního) nebo Vyváženého (zahrnujícího trochu z dvou předchozích stylů). [9][10][11]

Opatrnost je tu jistě na místě. Nejen lidé v Microsoftu mají určitě stále v živé paměti březen 2016, kdy firma musela po pouhém jednom dni vypnout svého AI chatbota Tay, poté, co na základě interakce s lidmi začal publikovat sérii sprostých a rasistických tweetů. Nikdo ze společnosti by si určitě nepřál, aby se historie po sedmi letech znovu opakovala. [12]

Kdo zvítězí v souboji o AI vyhledávání

Po negativních zkušenostech s Bing AI lidé najednou poznali, co znamená pojem beta testování a především, jak zásadně je mohou algoritmy ovlivňovat. Je jasné, že nás toho toho máme ještě hodně před sebou. Následující týdny (a možná jen dny) ukážou další kroky velkých hráčů, Microsoftu, Googlu, a možná se přidají i další.

A kdo nebo co nakonec zvítězí? Doufejme, že nejen byznys, ale také zdravý rozum.

 

*

 

Použité zdroje

  1. BROWNLEE, Marques. The Biggest Problem with AI!. YouTube [online]. 18. 2. 2023 [cit. 2023-02-21]. Dostupné z: https://www.youtube.com/watch?v=7emz4zZ226E
  2. VINCENT, James. Microsoft announces new Bing and Edge browser powered by upgraded ChatGPT AI. The Verge [online]. 7. 2. 2023 [cit. 2023-02-21]. Dostupné z: https://www.theverge.com/2023/2/7/23587454/microsoft-bing-edge-chatgpt-ai
  3. WARREN, Tom. Here’s why you’re still waiting for Bing AI. The Verge [online]. 15. 2. 2023 [cit. 2023-02-21]. Dostupné z: https://www.theverge.com/2023/2/15/23600775/microsoft-bing-waitlist-signups-testing 
  4. VINCENT, James. Google’s AI chatbot Bard makes factual error in first demo. The Verge [online]. 8. 2. 2023 [cit. 2023-02-21]. Dostupné z: https://www.theverge.com/2023/2/8/23590864/google-ai-chatbot-bard-mistake-error-exoplanet-demo
  5. OLSON, Emily. Google shares drop $100 billion after its new AI chatbot makes a mistake. Npr.org[online]. 9. 2. 2023 [cit. 2023-02-21]. Dostupné z: https://www.npr.org/2023/02/09/1155650909/google-chatbot--error-bard-shares
  6. VINCENT, James. Microsoft announces new Bing and Edge browser powered by upgraded ChatGPT AI. The Verge [online]. 7. 2. 2023 [cit. 2023-02-21]. Dostupné z: https://www.theverge.com/2023/2/7/23587454/microsoft-bing-edge-chatgpt-ai
  7. WARREN, Tom. Here’s why you’re still waiting for Bing AI. The Verge [online]. 15. 2. 2023 [cit. 2023-02-21]. Dostupné z: https://www.theverge.com/2023/2/15/23600775/microsoft-bing-waitlist-signups-testing
  8. VINCENT, James. Microsoft’s Bing is an emotionally manipulative liar, and people love it. The Verge [online]. 15. 2. 2023 [cit. 2023-02-21]. Dostupné z: https://www.theverge.com/2023/2/15/23599072/microsoft-ai-bing-personality-conversations-spy-employees-webcams
  9. WARREN, Tom. Microsoft says talking to Bing for too long can cause it to go off the rails. The Verge [online]. 16. 2. 2023 [cit. 2023-02-21]. Dostupné z: https://www.theverge.com/2023/2/16/23602335/microsoft-bing-ai-testing-learnings-response
  10. WARREN, Tom. Microsoft limits Bing chat to five replies to stop the AI from getting real weird. The Verge [online]. 18. 2. 2023 [cit. 2023-02-21]. Dostupné z: https://www.theverge.com/2023/2/17/23604906/microsoft-bing-ai-chat-limits-conversations
  11. LAWLER, Richard. Microsoft is already undoing some of the limits it placed on Bing AI. The Verge[online]. 21. 2. 2023 [cit. 2023-02-22]. Dostupné z: https://www.theverge.com/2023/2/21/23608888/microsoft-bing-ai-edge-chatbot-conversation-limits
  12. CRAFT, Amy. Microsoft shuts down AI chatbot after it turned into a Nazi. CBS News [online]. 25. 3. 2016 [cit. 2023-02-21]. Dostupné z: https://www.cbsnews.com/news/microsoft-shuts-down-ai-chatbot-after-it-turned-into-racist-nazi/
  13. Microsoft and OpenAI extend partnership. Microsoft Corporate Blogs [online]. 23. 1. 2023 [cit. 2023-02-22]. Dostupné z: https://blogs.microsoft.com/blog/2023/01/23/microsoftandopenaiextendpartnership/

  14. BASS, Dina. Microsoft Invests $10 Billion in ChatGPT Maker OpenAI. Bloomberg [online]. 23. 1. 2023 [cit. 2023-02-22]. Dostupné z: https://www.bloomberg.com/news/articles/2023-01-23/microsoft-makes-multibillion-dollar-investment-in-openai?leadSource=uverify wall

Licence

Všechny články jsou publikovány pod licencí Creative Commons BY-NC-ND.

Hodnocení od uživatelů

Jan Maršák
10. 3. 2023, 17:34
"AI dělá chyby". AI je lidské dílo a bez člověka by nikdy nevznikla. Neboli chyby dělá AI jen proto, že tyto chyby (nebo spíše nedokonalosti) jsou chybami (nedokonalostmi) lidskými, nikoli chybami AI.
Bořivoj Brdička
13. 3. 2023, 09:04
Přesně tak, musíme si uvědomit, že nám umožňuje využívat agregované poznání obrovského množství lidí i s jejich chybami. Existuje riziko, že se ty nedokonalosti budou umocňovat (někdo se dokonce snaží je uměle vyvolávat). S tímto pohledem musíme AI vnímat a hlídat, co nám sděluje.

Váš komentář

Pro vložení komentáře je nutné se nejprve přihlásit.