Regresja Logistyczna PDF: Logistic Regression

Regresja Logistyczna Regresja liniowa a regresja logistyczna Regresja liniowa działa pod warunkiem, że nasze obserwacje spełniają kilka kluczowych założeń: przewidywane wartości są liniowo zależne od cech systemu. dodatkowo przyjmujemy, że reszty mają rozkład normalny, a pomiary są niezal...

Regresja Logistyczna Regresja liniowa a regresja logistyczna Regresja liniowa działa pod warunkiem, że nasze obserwacje spełniają kilka kluczowych założeń: przewidywane wartości są liniowo zależne od cech systemu. dodatkowo przyjmujemy, że reszty mają rozkład normalny, a pomiary są niezależne. Wstęp do regresji logistycznej regresja logistyczna jest metodą statystyczną wykorzystywaną do klasyfikacji, szczególnie w przypadku problemów z dwiema lub więcej kategoriami. Jej główną zaletą jest możliwość modelowania prawdopodobieństwa przynależności danej obserwacji do określonej klasy Regresja logistyczna i interpretacja wyników jako prawdopodobieństwo Rozkład Bernoulliego w regresji logistycznej Jak oszacować ϕ Jak określić wartość ϕ na podstawie dostępnych danych? Binarna natura problemu Nieznana zależność Przygotowanie do kolejnych kroków  Przekształcenie funkcji prawdopodobieństwa Rozpoczynamy od podstawowego wzoru prawdopodobieństwa warunkowego: Następnie stosujemy logarytm naturalny i funkcję wykładniczą, co pozwala na zapisanie wzoru w postaci: Rozwinięcie wyrażenia: Końcowy zapis: Ostatecznie przekształcenie prowadzi do postaci: Prawdopodobieństwo przynależności do klasy  Wprowadzenie funkcji sigmoidalnej Dlaczego to ważne? Logit transformuje wartości liniowe na zakres (−∞,+∞), natomiast funkcja sigmoidalna konwertuje je na wartości między 0 a 1. W regresji logistycznej zamiast przewidywać konkretne wartości, uczymy model, który estymuje prawdopodobieństwo przynależności do danej klasy. Model regresji logistycznej Następnie: Podstawiając tę wartość do funkcji sigmoidalnej, otrzymujemy końcowy model prawdopodobieństwa: Interpretacja wag wi: Każdy współczynnik wi określa wpływ danej cechy xi na prawdopodobieństwo przynależności do klasy 1. Jeśli wi>0, to wzrost xi zwiększa prawdopodobieństwo przynależności do klasy 1. Jeśli wi