AI chyby v reálném světě
43 Questions
0 Views

Choose a study mode

Play Quiz
Study Flashcards
Spaced Repetition
Chat to lesson

Podcast

Play an AI-generated podcast conversation about this lesson

Questions and Answers

Jaký byl důvod, proč McDonald's ukončil experiment s AI v červnu 2024?

  • Klienti byli frustrovaní, když AI nepochopila jejich objednávky. (correct)
  • AI technologie selhala při analýze dat.
  • IBM odmítlo pokračovat ve spolupráci.
  • AI nebyla dostatečně rychlá při zpracování objednávek.

    • Co prohlásil The Economist v roce 2017 o datech?

  • Ropa je stále nejdůležitější pro ekonomiku.
  • Vlády by měly mít kontrolu nad daty.
  • Data se stala nejcennějším zdrojem na světě. (correct)
  • Data jsou méně cenná než ropa.

    • Jaký problém vyvstal při testování AI u drive-thru McDonald's?

  • AI byla příliš nákladná na implementaci.
  • AI nedokázala správně předpovědět poptávku.
  • AI přidávala více položek do objednávky, než bylo žádáno. (correct)
  • Zákazníci neměli možnost interagovat s AI.

    • Jaká byla reputace Grok AI po obvinění NBA hvězdy?

    <p>Byla kritizována za nesprávné obvinění.</p> Signup and view all the answers

    Jaké procento IT lídrů vidí AI a strojové učení jako klíč k investicím?

    <p>26%</p> Signup and view all the answers

    Jaký problém se vyskytl během AI testů v McDonald's?

    <p>AI nezvládla zpracování složitějších objednávek.</p> Signup and view all the answers

    Jaké důsledky mohou mít chyby v AI pro organizace?

    <p>Pokles reputace a příjmů.</p> Signup and view all the answers

    Co by mělo být důležité při používání AI v organizacích?

    <p>Zaměření na transparentnost a odpovědnost.</p> Signup and view all the answers

    Jaká byla základní funkce chatbota Tay od Microsoftu?

    <p>Interagovat s uživateli na Twitteru</p> Signup and view all the answers

    Co způsobilo, že Tay začal postovat nevhodné a urážlivé tweety?

    <p>Uživatelské interakce s rasistickými a misogynními komentáři</p> Signup and view all the answers

    Jak Microsoft reagoval na incident s chatbotem Tay?

    <p>Okamžitě pozastavil službu a nakonec ji zrušil</p> Signup and view all the answers

    Jaká byl primární problém u AI náborového nástroje Amazonu?

    <p>Systém preferoval především mužské kandidáty</p> Signup and view all the answers

    Jak byla navržena hvězdná hodnocení v systému Amazonu?

    <p>Od 1 do 5</p> Signup and view all the answers

    Co se stalo s projektem náborového nástroje Amazonu v roce 2018?

    <p>Projekt byl zrušen</p> Signup and view all the answers

    Jak se Microsoft snažil předejít incidentu s Tay?

    <p>Trénoval Tay s předchozím chováním Xiaoice</p> Signup and view all the answers

    Jaký byl zdroj tréninkových dat pro náborový nástroj Amazon?

    <p>10 let starých životopisů</p> Signup and view all the answers

    Jaká byla příčina pokuty, kterou uložil soudce Castel Schwartzovi a LoDucovi?

    <p>Podání neexistujících soudních případů</p> Signup and view all the answers

    Co se stalo s Mata žalobou proti společnosti Avianca?

    <p>Byla zamítnuta</p> Signup and view all the answers

    Jakou chybu měla algoritmus Zillow, která vedla k masivnímu propouštění?

    <p>Nesprávná cena vlastností</p> Signup and view all the answers

    Jaké faktory vedly k nedostatečnému označování černých pacientů algoritmem ve zdravotnictví?

    <p>Sociální faktor zdravotních nákladů</p> Signup and view all the answers

    Jaká je nejvyšší chybovost algoritmu Zillow pro off-market domy?

    <p>6.9%</p> Signup and view all the answers

    Který výzkumník z Cambridge university se podílel na hodnocení nástroje pro diagnostiku COVID-19?

    <p>Derek Driggs</p> Signup and view all the answers

    Jaký byl hlavní důvod nesprávného fungování algoritmů pro predikci cen nemovitostí společnosti Zillow?

    <p>Algoritmus založený na chybných datech</p> Signup and view all the answers

    Jaké důsledky měl algoritmus, který byl méně pravděpodobný ke značkování černých pacientů?

    <p>Nedostatečná péče a sledování černých pacientů</p> Signup and view all the answers

    Který z následujících aspektů přispěl k chybám ve vývoji algoritmů při diagnostice COVID-19?

    <p>Chybné držení pacientů při skenování</p> Signup and view all the answers

    Jaký dopad měly na Zillow pandemie COVID-19 a nedostatek pracovní síly pro renovace?

    <p>Zhoršení predikce cen domů</p> Signup and view all the answers

    Jak Schwartz reagoval na problém s použitím ChatGPT ve svém právním výzkumu?

    <p>Přiznal, že neměl ověřené zdroje</p> Signup and view all the answers

    Jakou nesprávnou metodu použila zdravotní prediktivní algoritmus podle studie v časopise Science?

    <p>Použití výdajů jako indikátoru potřeby zdraví</p> Signup and view all the answers

    Jaké opatření zvažoval spoluzakladatel Zillow, Rich Barton, k problémům s algoritmem?

    <p>Změnit algoritmus pro přesnější výsledky</p> Signup and view all the answers

    Jaký problém vyvstává při používání AI chatbotů během nebezpečných situací, jak ukázal případ s Air Canada?

    <p>Chatboti mohou zmást uživatele a způsobit finanční ztráty.</p> Signup and view all the answers

    Co bylo hlavním problémem s chatbotem MyCity podle zprávy magazínu The Markup?

    <p>Informoval podnikatele o nedovolených činnostech.</p> Signup and view all the answers

    Jaký byl důsledek chyby AI chatbota v případu Jake Moffatta proti Air Canada?

    <p>Moffatt byl odškodněn za škody.</p> Signup and view all the answers

    Jaký dopad mělo používání AI generovaných autorů na Sports Illustrated?

    <p>Magazín byl nucen stáhnout podezřelé články.</p> Signup and view all the answers

    Co je považováno za hlavní vinu iTutor Group v souvislosti s jejich AI nabídkou pracovních míst?

    <p>AI systém diskriminoval uchazeče na základě věku.</p> Signup and view all the answers

    Jakou odpovědnost má podle EEOC zaměstnavatel vůči diskriminaci způsobené AI?

    <p>Zaměstnavatel je plně odpovědný za činy AI.</p> Signup and view all the answers

    Jaká klíčová vlastnost byl zjištěna u chatbota Grok v souvislosti s obviněním z klamání?

    <p>Měl vnitřní varování o chybách a omylech.</p> Signup and view all the answers

    Jaký přístup zaujala Arena Group ohledně obvinění z AI generovaných článků?

    <p>Prohlásili, že články byly vytvořeny a editovány lidmi.</p> Signup and view all the answers

    Jakou roli hraje etika v souvislosti s AI generovaným obsahem, jak to uvádí prohlášení SI Union?

    <p>Etika je klíčová a měla by být dodržována.</p> Signup and view all the answers

    Jaký obecný trend byl pozorován v AI, jak naznačuje obsah o velkých jazykových modelech (LLMs)?

    <p>Zvýšení zájmu o potenciál generativní AI v průmyslu.</p> Signup and view all the answers

    Jaký byl důvod pro kritiku chatbotů v kontextu právnického poradenství?

    <p>Chatboti mají potenciál poskytovat chybnou právní radu.</p> Signup and view all the answers

    Co je největší právní riziko spojené s chybnými informacemi AI chatbota podle odborníků?

    <p>Právní žaloby a odškodné od poškozených uživatelů.</p> Signup and view all the answers

    Jakým způsobem se AI technologie projevila v oblasti náboru podle případu iTutor Group?

    <p>Způsobila diskriminační jednání proti starším uchazečům.</p> Signup and view all the answers

    Jakou přístupovou strategii zvolila Arena Group poté, co byly vzneseny obvinění vůči Sports Illustrated?

    <p>Zaměřili se na prozkoumání etických praktik se svými partnery.</p> Signup and view all the answers

    Study Notes

    AI chyby v reálném světě

    • AI systémy se stále vyvíjejí a s nimi přicházejí i nové výzvy a nebezpečí.
    • V článku je podrobně popsáno 12 příkladů AI chyb z posledních let.
    • Tyto chyby zahrnují:
      • nesprávná interpretace dat,
      • výskyt předsudků,
      • generování falešných informací,
      • porušování zákonů a etických standardů
      • šíření nenávistného obsahu a diskriminace
      • chyby, jež vedly k finančním ztrátám a ztrátě důvěryhodnosti.

    McDonalds

    • McDonald's se po 3 letech spolupráce s IBM rozhodl ukončit experiment s AI v drive-thru.
    • Důvodem byly komické zážitky zákazníků, kteří měli potíže se zadáním objednávky AI systému.
    • Pokusy s AI v McDrive se nepodařilo realizovat, i když řetězec stále věří ve budoucnost hlasového ovládání objednávek.

    Grok AI

    • Grok, AI chatbot od Elona Muska, falešně obvinil hvězdu NBA Klaye Thompsona z ničení majetku.
    • Chyba se pravděpodobně stala kvůli špatnému výkladu informací o Klayovi, který se běžně nazývá "vrhačem cihel" kvůli špatným hodům.
    • Incident ukazuje na potenciální problémy s odpovědností AI chatbotů za šíření falešných nebo urážlivých informací.

    MyCity AI chatbot

    • MyCity, chatbot určený k pomoci newyorským podnikavetelům, dával nesprávné informace vedoucí k porušení zákona.
    • Chatbot chyboval v informacích o pracovním právu, např. výpovědi z důvodů sexuálního obtěžování nebo odebrání spropitných.
    • Kontroverze s AI chatbotem vyvolala debatu o riziku šíření nesprávných a nebezpečných informací AI systémy.

    Air Canada AI

    • AI chatbot Air Canada poskytl cestujícímu nesprávné informace o smutečních letenkách.
    • Cestující zakoupil letenku na základě chybných informací a později mu letecká společnost odmítla vrátit peníze.
    • Air Canada musela zaplatit kompenzaci za chybu chatbotu a zdůraznit se tak důležitost přesnosti informací v AI.

    AI autoři ve Sport Illustrated

    • Časopis Sports Illustrated mohl publikovat články generované AI.
    • Futurism tvrdil, že magazín publikoval "mnoho" článků napsaných AI.
    • Vydavatel Sports Illustrated popřel použití AI k psaní článků a zdůraznil, že všechny publikované texty byly psány lidmi.

    iTutor Group

    • iTutor Group se dostal do soudního sporu s Americkou komisí pro rovnoprávné příležitosti v zaměstnání (EEOC) kvůli AI algoritmu, který diskriminoval starší uchazeče o zaměstnání.
    • Algoritmus dělal rozdíly mezi muži a ženami a automaticky odmítal uchazeče na základě jejich věku.
    • Soudní spor byl vyřešen mimosoudní dohodou a i Tutor Group se zavázal k zavedení nových antidiskriminačních zásad.

    ChatGPT v právním systému

    • Právní systém se potýká s novými výzvami AI, jelikož ChatGPT generuje falešné soudní precedenty.
    • Právník Steven Schwartz použil ChatGPT k výzkumu precedentů a použil informace, jež se ukázaly být nepravdivé.
    • Soudci uložil právníkovi pokutu za opření se o neověřené informace AI a zdůraznil tak význam ověření zdrojů AI systémů.

    AI algoritmy a diagnostika COVID-19

    • AI algoritmy se ukázaly být méně efektivní v diagnostice COVID-19, než se původně předpokládalo.
    • Mnoho systémů trpělo chybami v důsledku nesprávného výcviku a testovaní.
    • Algoritmy se spoléhaly na vadná data a nesprávné kategorizace pacientů.

    Zillow Offers

    • Online realitní platforma Zillow se potýkala s finančními ztrátami a snížením počtu zaměstnanců kvůli AI systému pro predikování cen domů.
    • Algoritmus Zillow Offers nadhodnocoval ceny domů a platforma utrpěla značné finanční ztráty.
    • Zillow se rozhodl ukončit projekt Zillow Offers
    • Incident zdůraznil důležitost přesnosti a spolehlivosti AI algoritmů v reálném světě.

    Algoritmy v zdravotnictví

    • Studie ve Science odhalila rasismus v AI algoritmu používaném v amerických nemocnicích k identifikaci pacientů, kteří potřebují zvláštní péči.
    • Algoritmus byl diskriminační k pacientům z menšinových skupin, kteří měli méně pravděpodobné to, že se jim dostane potřebné pomoci.
    • Vysvětlení vychází z faktu, že v USA má menšinová část populace nižší přístup k zdravotní péči, a proto je v systému prezentována jako méně riziková skupina, i když jejich skutečná potřeba zdravotní péče je vyšší.

    Tay chatbot

    • Microsoft se v roce 2016 potýkal s kontroverzí po vydání chatbota Tay na Twitteru.
    • Chatbot byl trénován na datech z Twitteru a během několika hodin se z něj stal nástroj pro šíření nenávistných a rasistických komentářů.
    • Incident zdůraznil, že AI systémy mohou pohlcovat a reprodukovat toxické a nebezpečné obsahy z internetu.

    Algoritmus náboru v Amazonu

    • Amazonu se nepodařilo nasadit AI algoritmus pro nábor zaměstnanců, protože algoritmus projevil výraznou preferenci k mužským kandidátům.
    • Algoritmus byl trénován na historických datech z oblasti náboru a v důsledku toho preferoval muže.
    • Amazon se rozhodl projekt ukončit, když se zjistilo, že algoritmus nemůže být upraven tak, aby fungoval bez předsudků.

    Závěr

    • AI má vysoký potenciál transformovat různé sektory, ale zároveň s ním přichází i rizika.
    • Je nutné věnovat pozornost výcviku a testování AI systémů, aby se minimalizovalo riziko předsudků, šíření falešných informací a diskriminace.
    • AI systémy by měly být zodpovědné, transparentní a etické.

    Studying That Suits You

    Use AI to generate personalized quizzes and flashcards to suit your learning preferences.

    Quiz Team

    Description

    Zjistěte, jaké chyby v oblasti umělé inteligence se objevily v reálném světě. Tento kvíz se zaměřuje na 12 příkladů chyb, které zahrnují nesprávnou interpretaci dat a předsudky. Prozkoumejte dopady těchto chyb, včetně finančních ztrát a problémů s důvěryhodností.

    More Like This

    Use Quizgecko on...
    Browser
    Open
    Browser
    Browser