Vysvětlitelná AI a interpretovatelné modely

Metoda pro pochopení složitých modelů vytvořením jednoduššího modelu, který napodobí chování složitého modelu.

Jednoduchý model (např. lineární regrese, rozhodovací strom), který napodobuje chování složitého modelu.

Výsledek zástupného modelu, který je porovnáván s výsledkem složitého modelu.

Zobrazení dat s cílem efektivně komunikovat informace, zkoumat data a prezentovat výsledky.

Grafické znázornění distribuce dat, kde vodorovná osa zobrazuje intervaly hodnot a svislá osa vyjadřuje četnost

Znázornění četnosti v rámci daného intervalu hodnot.

Kvartet dat, které mají stejnou střední hodnotu, rozptyl a korelační koeficient, ale liší se ve vizualizaci a trendu

Grafické znázornění dat pomocí sloupců, kde výška sloupce reprezentuje četnost dat v dané kategorii nebo intervalu

Identifikace neobvyklých vzorců v datech, které mohou signalizovat problém. Používá se například pro detekci podvodných transakcí, poruch strojů, útoků na síť, anomálních hodnot v medicíně nebo chyb ve výrobním procesu.

Neuronová síť s architekturou transformátoru, která se učí zpracovávat a porozumět jazykovým vzorcům. Její úkolem je provádět úlohy vyžadující jazykové pochopení, jako je psaní textu, shrnování nebo překlad.

Zabývá se získáváním, analýzou a interpretací dat s cílem získat smysluplné poznatky a vytvářet hodnotu. Využívá analytické a statistické metody, strojové učení a další pokročilé techniky.

Odborná oblast zaměřená na to, jak se počítače učí z dat a automaticky se zlepšují v plnění úkolů, aniž by k tomu musely obdržet přesné instrukce.

Proces navrhování vstupních otázek pro LLM s cílem dostat z nich co nejefektivnější odpovědi. Zahrnuje strukturální i sémantické aspekty zadávaných výzev.

Histogram je graf, který zobrazuje rozdělení numerických dat. Pomáhá identifikovat vlastnosti dat, jako je symetrie, šikmost, vrcholy, mezery a odlehlé hodnoty.

Velikost intervalů, které se používají v histogramu, může ovlivnit jeho vzhled. Příliš velké intervaly mohou skrýt detaily rozložení, zatímco příliš malé intervaly mohou zdůraznit šum.

Osa y v histogramu zobrazuje četnosti nebo relativní četnosti dat, nikoliv specifické hodnoty.

Histogram je vhodný pro zobrazení rozdělení numerických (kvantitativních) dat. Pro zobrazení kategoriálních dat je vhodnější sloupcový graf.

Spojnicový graf je ideální pro zobrazení vývoje dat v čase, protože umožňuje vizualizovat trendy a změny.

Svislá osa v sloupcovém grafu musí vždy začínat na nule. V opačném případě by mohlo docházet ke zkreslení dat.

Bublinový graf umožňuje zobrazit třetí proměnnou - velikost bubliny reprezentuje hodnotu této proměnné.

Cílem čištění dat je zlepšit kvalitu dat tak, aby byla vhodná pro analýzu a modelování. Čištění zahrnuje opravování, odstraňování duplicit, doplňování chybějících hodnot, standardizaci a odstraňování irelevantních dat.

Cílem Explainable AI (XAI) je zajistit, aby modely umělé inteligence byly srozumitelné a transparentní pro uživatele. XAI se snaží vysvětlit, jak modely fungují a jak docházejí k rozhodnutím, čímž se zvyšuje důvěra, bezpečnost a odpovědnost při nasazování AI systémů.

Techniky, které se snaží naučit vysvětlitelné funkce ze složitých modelů. Tyto techniky upravují stávající algoritmy hlubokého učení, aby se dalo pochopit, jak se model učí.

Techniky, které se snaží naučit modely, které jsou samy o sobě interpretovatelné. To znamená, že modely jsou jednodušší a jejich fungování je snadněji pochopitelné.

Techniky, které se snaží vyvodit vysvětlitelný model z jakéhokoli jiného modelu, i když je velmi komplexní a jeho chování je těžké pochopit. Jedná se o proces přeměny komplexního "Černého boxu" na srozumitelný model.

Nejjednodušší způsob, jak dosáhnout interpretovatelnosti, je použít algoritmy, které samy o sobě vytvářejí interpretovatelné modely. Patří mezi ně:. - Lineární regrese - Logistická regrese - Rozhodovací stromy.

Vysvětlení složitého modelu až po jeho trénování. Tyto techniky se zaměřují na pochopení fungování již existujícího modelu a na to, jak se rozhoduje.

SHAP (Shapley Additive Explanations) je technika, která vysvětluje, jak každá vstupní proměnná ovlivňuje výsledek predikce modelu. LIME (Local Interpretable Model-agnostic Explanations) je technika, která vytváří vysvětlení pro lokální oblasti vstupního prostoru. Oba se používají k vysvětlení komplexních modelů po jejich trénování.

Tento přístup se snaží vybudovat zjednodušený model (tzv. zástupný model), který aproximuje chování komplexního modelu a zároveň je snadno interpretovatelný.

Proces úpravy a tvorby vstupních dat (vlastností) pro zlepšení výkonu modelu strojového učení, který zahrnuje výběr relevantních vlastností, vytváření nových vlastností, skalování a normalizaci, kódování kategoriálních dat a úpravu/opravování dat.

Porovnání dvou variant (A a B) s cílem zjistit, která přináší lepší výsledky podle dané metriky (např. konverzní poměr, kliknutí, prodeje).

Transformace dat k dosažení lepšího a rychlejšího učení modelů, srovnatelnosti různých vlastností a zajištění, aby žádná vlastnost neměla větší vliv na model jen kvůli svým hodnotám.

Model, který identifikuje a odhaluje abnormální vzorce v datech, které se liší od běžných dat.

Odstranění redundantních informací z dat, protože duplicity mohou zkreslovat výsledky analýzy.

Existují různé způsoby řešení: odstranění, nahrazení (mediánem, nejčastější hodnotou nebo odhadem) nebo predikování (odhad hodnoty).

Při nekonzistentnosti dat je nutné chyby odstranit nebo upravit , aby data byla smysluplná a spolehlivá.

Vytvoření nové vlastnosti z kombinace existujících dat, která lépe odráží vzory v datech. Například ze data narození a dneška můžeme vytvořit vlastnost „věk“.