Probability and Statistics

Conditional Probability

• Definition: The probability of an event A occurring given that event B has occurred
• Notation: P(A|B) = P(A ∩ B) / P(B)
• Properties:
  • P(A|B) = P(B|A) * P(A) / P(B) (Bayes' formula)
  • P(A|B) ≥ 0, P(A|B) ≤ 1
  • P(A|B) + P(A'|B) = 1 (where A' is the complement of A)

Random Variables

• Definition: A function that assigns a numerical value to each outcome in a sample space
• Types:
  • Discrete Random Variables: Take on a countable number of distinct values
  • Continuous Random Variables: Take on an uncountable number of values
• Probability Distributions:
  • Probability Mass Function (PMF): P(X = x) for discrete random variables
  • Probability Density Function (PDF): f(x) for continuous random variables
• Expected Value: E(X) = ∑x * P(X = x) for discrete random variables

Independence

• Definition: Two events A and B are independent if the occurrence of one does not affect the probability of the other
• Condition: P(A ∩ B) = P(A) * P(B)
• Properties:
  • P(A|B) = P(A) and P(B|A) = P(B) if A and B are independent
  • If A and B are independent, then A' and B' are also independent

Bayes' Theorem

• Formula: P(A|B) = P(B|A) * P(A) / P(B)
• Interpretation: Updates the probability of an event A based on new evidence B
• Applications:
  • Diagnostic testing: Updating the probability of a disease given a positive test result
  • Machine learning: Updating the probability of a class label given new features

Central Limit Theorem (CLT)

• Statement: The distribution of the sample mean converges to a normal distribution as the sample size increases
• Conditions:
  • The sample is randomly drawn from a population
  • The sample size is sufficiently large ( typically ≥ 30)
• Implications:
  • The sample mean is approximately normally distributed
  • The standard error of the mean is approximately σ / √n
  • Confidence intervals and hypothesis testing can be applied

Şərti Ehtimallıq

• Şərti ehtimallıq A hadisəsinin B hadisəsi baş vermiş olması şərtilə baş vermə ehtimallığı
• Notasiya: P(A|B) = P(A ∩ B) / P(B)
• Xüsusiyyətləri:
  • P(A|B) = P(B|A) * P(A) / P(B) (Bayes forması)
  • P(A|B) ≥ 0, P(A|B) ≤ 1
  • P(A|B) + P(A'|B) = 1 (A' A-nın əksi)

Təsadüfi Dəyərlər

• Təsadüfi dəyərlər: nümunə fəzasında hər bir nəticəyə riyazi dəyər təyin edən funksiya
• Növləri:
  • Diskret Təsadüfi Dəyərlər: müəyyən sayda fərqli dəyərlər alır
  • Sürətli Təsadüfi Dəyərlər: sayılamaz sayda dəyərlər alır
• Ehtimallıq Paylanması:
  • Ehtimallıq Kütləsi Funksiyası (PMF): P(X = x) diskret təsadüfi dəyərlər üçün
  • Ehtimallıq Sıxlığı Funksiyası (PDF): f(x) sürətli təsadüfi dəyərlər üçün
• Gözləmə Dəyəri: E(X) = ∑x * P(X = x) diskret təsadüfi dəyərlər üçün

Müstəqillik

• Tərif: A və B hadisələri müstəqildirsə, bir hadisənin baş verməsi digərinin ehtimallığını təsir etmir
• Şərt: P(A ∩ B) = P(A) * P(B)
• Xüsusiyyətləri:
  • P(A|B) = P(A) və P(B|A) = P(B) əgər A və B müstəqildirsə
  • Əgər A və B müstəqildirsə, onda A' və B' də müstəqil olar

Bayes Teoremi

• Formula: P(A|B) = P(B|A) * P(A) / P(B)
• İzahat: A hadisəsinin ehtimallığını B yeni dəlilləri əsasında yeniləyir
• Tətbiqləri:
  • Diaqnostik testlər: Xəstəliyin ehtimallığını müsbət test nəticəsi əsasında yeniləyir
  • Maşın öyrənməsi: Sınıf etiketinin ehtimallığını yeni xüsusiyyətlər əsasında yeniləyir

Orta Limit Teoremi (CLT)

• Bəyanat: Nümunənin orta qiymətinin-paylanması böyük ölçüdə nümunə ölçüsünə çatdıqdan sonra normal paylanmaq qaydasına çadır
• Şərtlər:
  • Nümunə əhalidən təsadüfi şəkildə götürülür
  • Nümunə ölçüsü yeteri qədər böyükdür (adı tövsiyə olunan 30 və daha çox)
• Nəticələri:
  • Nümunənin orta qiyməti yaxından normal paylanmaq qaydasına çadır
  • Orta qiymətin standart xətası yaxından σ / √n-dır
  • İnamsızlıq intervalı və hipotez sınaqları tətbiq olunur