AI chyby v reálném světě

AI chyby v reálném světě

• AI systémy se stále vyvíjejí a s nimi přicházejí i nové výzvy a nebezpečí.
• V článku je podrobně popsáno 12 příkladů AI chyb z posledních let.
• Tyto chyby zahrnují:
  • nesprávná interpretace dat,
  • výskyt předsudků,
  • generování falešných informací,
  • porušování zákonů a etických standardů
  • šíření nenávistného obsahu a diskriminace
  • chyby, jež vedly k finančním ztrátám a ztrátě důvěryhodnosti.

McDonalds

• McDonald's se po 3 letech spolupráce s IBM rozhodl ukončit experiment s AI v drive-thru.
• Důvodem byly komické zážitky zákazníků, kteří měli potíže se zadáním objednávky AI systému.
• Pokusy s AI v McDrive se nepodařilo realizovat, i když řetězec stále věří ve budoucnost hlasového ovládání objednávek.

Grok AI

• Grok, AI chatbot od Elona Muska, falešně obvinil hvězdu NBA Klaye Thompsona z ničení majetku.
• Chyba se pravděpodobně stala kvůli špatnému výkladu informací o Klayovi, který se běžně nazývá "vrhačem cihel" kvůli špatným hodům.
• Incident ukazuje na potenciální problémy s odpovědností AI chatbotů za šíření falešných nebo urážlivých informací.

MyCity AI chatbot

• MyCity, chatbot určený k pomoci newyorským podnikavetelům, dával nesprávné informace vedoucí k porušení zákona.
• Chatbot chyboval v informacích o pracovním právu, např. výpovědi z důvodů sexuálního obtěžování nebo odebrání spropitných.
• Kontroverze s AI chatbotem vyvolala debatu o riziku šíření nesprávných a nebezpečných informací AI systémy.

Air Canada AI

• AI chatbot Air Canada poskytl cestujícímu nesprávné informace o smutečních letenkách.
• Cestující zakoupil letenku na základě chybných informací a později mu letecká společnost odmítla vrátit peníze.
• Air Canada musela zaplatit kompenzaci za chybu chatbotu a zdůraznit se tak důležitost přesnosti informací v AI.

AI autoři ve Sport Illustrated

• Časopis Sports Illustrated mohl publikovat články generované AI.
• Futurism tvrdil, že magazín publikoval "mnoho" článků napsaných AI.
• Vydavatel Sports Illustrated popřel použití AI k psaní článků a zdůraznil, že všechny publikované texty byly psány lidmi.

iTutor Group

• iTutor Group se dostal do soudního sporu s Americkou komisí pro rovnoprávné příležitosti v zaměstnání (EEOC) kvůli AI algoritmu, který diskriminoval starší uchazeče o zaměstnání.
• Algoritmus dělal rozdíly mezi muži a ženami a automaticky odmítal uchazeče na základě jejich věku.
• Soudní spor byl vyřešen mimosoudní dohodou a i Tutor Group se zavázal k zavedení nových antidiskriminačních zásad.

ChatGPT v právním systému

• Právní systém se potýká s novými výzvami AI, jelikož ChatGPT generuje falešné soudní precedenty.
• Právník Steven Schwartz použil ChatGPT k výzkumu precedentů a použil informace, jež se ukázaly být nepravdivé.
• Soudci uložil právníkovi pokutu za opření se o neověřené informace AI a zdůraznil tak význam ověření zdrojů AI systémů.

AI algoritmy a diagnostika COVID-19

• AI algoritmy se ukázaly být méně efektivní v diagnostice COVID-19, než se původně předpokládalo.
• Mnoho systémů trpělo chybami v důsledku nesprávného výcviku a testovaní.
• Algoritmy se spoléhaly na vadná data a nesprávné kategorizace pacientů.

Zillow Offers

• Online realitní platforma Zillow se potýkala s finančními ztrátami a snížením počtu zaměstnanců kvůli AI systému pro predikování cen domů.
• Algoritmus Zillow Offers nadhodnocoval ceny domů a platforma utrpěla značné finanční ztráty.
• Zillow se rozhodl ukončit projekt Zillow Offers
• Incident zdůraznil důležitost přesnosti a spolehlivosti AI algoritmů v reálném světě.

Algoritmy v zdravotnictví

• Studie ve Science odhalila rasismus v AI algoritmu používaném v amerických nemocnicích k identifikaci pacientů, kteří potřebují zvláštní péči.
• Algoritmus byl diskriminační k pacientům z menšinových skupin, kteří měli méně pravděpodobné to, že se jim dostane potřebné pomoci.
• Vysvětlení vychází z faktu, že v USA má menšinová část populace nižší přístup k zdravotní péči, a proto je v systému prezentována jako méně riziková skupina, i když jejich skutečná potřeba zdravotní péče je vyšší.

Tay chatbot

• Microsoft se v roce 2016 potýkal s kontroverzí po vydání chatbota Tay na Twitteru.
• Chatbot byl trénován na datech z Twitteru a během několika hodin se z něj stal nástroj pro šíření nenávistných a rasistických komentářů.
• Incident zdůraznil, že AI systémy mohou pohlcovat a reprodukovat toxické a nebezpečné obsahy z internetu.

Algoritmus náboru v Amazonu

• Amazonu se nepodařilo nasadit AI algoritmus pro nábor zaměstnanců, protože algoritmus projevil výraznou preferenci k mužským kandidátům.
• Algoritmus byl trénován na historických datech z oblasti náboru a v důsledku toho preferoval muže.
• Amazon se rozhodl projekt ukončit, když se zjistilo, že algoritmus nemůže být upraven tak, aby fungoval bez předsudků.

Závěr

• AI má vysoký potenciál transformovat různé sektory, ale zároveň s ním přichází i rizika.
• Je nutné věnovat pozornost výcviku a testování AI systémů, aby se minimalizovalo riziko předsudků, šíření falešných informací a diskriminace.
• AI systémy by měly být zodpovědné, transparentní a etické.

Zjistěte, jaké chyby v oblasti umělé inteligence se objevily v reálném světě. Tento kvíz se zaměřuje na 12 příkladů chyb, které zahrnují nesprávnou interpretaci dat a předsudky. Prozkoumejte dopady těchto chyb, včetně finančních ztrát a problémů s důvěryhodností.