Statistische Hypothese Testen

Statistische Hypothese Testen

• Klassieke statistische hypothese testen biedt een raamwerk voor het trekken van conclusies uit data.
• De nulhypothese is een bewering over een populatieparameter.
• Data wordt gebruikt om evidentie tegen de nulhypothese te beoordelen.

Nulhypothese

• Een specifieke bewering over een populatieparameter, gemaakt voor logische argumentatie of testen.
• Het is de hypothese die de onderzoeker probeert te ontkrachten.
• Voorbeelden zijn onder andere de gemiddelde bloeddruk van patiënten is 120 mmHg, de overlevingskans van patiënten die medicijn A gebruiken is gelijk aan die van patiënten die medicijn B gebruiken en er is geen correlatie tussen roken en longkanker.
• De nulhypothese wordt verworpen of niet verworpen.

Alternatieve Hypothese

• Een bewering die de nulhypothese tegenspreekt.
• Aangeduid als $H_1$ of $H_A$.
• Representeert waar bewijs voor gevonden wil worden.
• Voorbeelden zijn onder andere de gemiddelde bloeddruk van patiënten is niet 120 mmHg, de overlevingskans van patiënten die medicijn A gebruiken is anders dan die van patiënten die medicijn B gebruiken en er is een correlatie tussen roken en longkanker.
• De alternatieve hypothese kan eenzijdig (directioneel) of tweezijdig (niet-directioneel) zijn.

Voorbeeld

• Een onderzoeker wil weten of de gemiddelde lengte van volwassen vrouwen anders is dan 5'4" (64 inches).
  • $H_0: \mu = 64$ (Nulhypothese: De gemiddelde lengte is 64 inches).
  • $H_1: \mu \neq 64$ (Alternatieve Hypothese: De gemiddelde lengte is niet 64 inches).

Fouten in Hypothese Testen

• Type I fout (False Positive): De nulhypothese verwerpen wanneer deze waar is.
  • De kans op het maken van een Type I-fout wordt aangeduid met $\alpha$.
  • Ook bekend als het significantieniveau.
• Type II fout (False Negative): Het niet verwerpen van de nulhypothese wanneer deze onjuist is.
  • De kans op het maken van een Type II-fout wordt aangeduid met $\beta$.
  • Power = $1 - \beta$ (de kans op het correct verwerpen van een onjuiste nulhypothese).

Significantieniveau ($\alpha$)

• De kans op het verwerpen van de nulhypothese wanneer deze waar is (Type I fout).
• Doorgaans ingesteld op 0.05 (5%), maar kan worden aangepast afhankelijk van de context.
• Een kleinere $\alpha$ vermindert het risico op een fout-positief, maar verhoogt het risico op een fout-negatief.

P-waarde

• De kans op het waarnemen van data die even extreem is als, of extremer dan, de waargenomen data, aangenomen dat de nulhypothese waar is.
• Een kleine p-waarde suggereert sterk bewijs tegen de nulhypothese.
• Als p-waarde $\leq \alpha$, verwerpen we de nulhypothese.
• Als p-waarde $>\alpha$, falen we de nulhypothese te verwerpen.

Voorbeeld

• Er wordt een klinische proef uitgevoerd om de effectiviteit van een nieuw medicijn te testen.
  • $H_0$: Het medicijn heeft geen effect.
  • $H_1$: Het medicijn heeft een effect.
• Het significantieniveau is ingesteld op $\alpha = 0.05$.
• De p-waarde wordt berekend als 0.03.
• Aangezien de p-waarde (0.03) kleiner is dan $\alpha$ (0.05), verwerpen we de nulhypothese en concluderen we dat het medicijn een significant effect heeft.

Stappen in Hypothese Testen

1. Stel de Hypotheses vast: Definieer de nul- en alternatieve hypotheses.
2. Stel het Significantieniveau in: Bepaal het acceptabele niveau van type I-fout ($\alpha$).
3. Bereken de Teststatistiek: Bereken een teststatistiek die het verschil tussen de sample data en de nulhypothese kwantificeert.
4. Bepaal de P-waarde: Bereken de kans op het waarnemen van een teststatistiek die even extreem is als, of extremer dan, degene die is berekend, uitgaande van de nulhypothese.
5. Neem een Beslissing:
   • Als de p-waarde kleiner is dan of gelijk is aan het significantieniveau ($\alpha$), verwerp dan de nulhypothese.
   • Als de p-waarde groter is dan het significantieniveau ($\alpha$), verwerp dan de nulhypothese niet.
6. Trek een Conclusie: Interpreteer de beslissing in de context van de onderzoeksvraag.

Algemene Statistische Tests

• T-Test wordt gebruikt om de gemiddelden van twee groepen te vergelijken.
  • Onafhankelijke samples t-test: vergelijkt de gemiddelden van twee onafhankelijke groepen.
  • Gepaarde samples t-test: vergelijkt de gemiddelden van twee gerelateerde groepen (bijv. voor en na de behandeling).
• ANOVA (Analysis of Variance): wordt gebruikt om de gemiddelden van drie of meer groepen te vergelijken.
  • Uitbreiding van de t-test voor meerdere groepen.
• Chi-kwadraat Test: wordt gebruikt om de onafhankelijkheid van categorische variabelen te testen.
  • Vergelijkt waargenomen frequenties met verwachte frequenties.
• Regressie Analyse: wordt gebruikt om de relatie tussen een of meer onafhankelijke variabelen en een afhankelijke variabele te modelleren.
  • Kan worden gebruikt om hypotheses over de relatie tussen variabelen te testen.

Voorbeeld: T-Test

• Een onderzoeker wil weten of er een significant verschil is in de gemiddelde testscores tussen twee groepen studenten.
  • $H_0: \mu_1 = \mu_2$ (Nulhypothese: De gemiddelden zijn gelijk).
  • $H_1: \mu_1 \neq \mu_2$ (Alternatieve Hypothese: De gemiddelden zijn niet gelijk).
• Er wordt een onafhankelijke samples t-test uitgevoerd en de p-waarde wordt berekend als 0.01.
• Als het significantieniveau is ingesteld op $\alpha = 0.05$, verwerpen we de nulhypothese en concluderen we dat er een significant verschil is in de gemiddelde testscores tussen de twee groepen.

Praktische Significantie vs. Statistische Significantie

• Statistische significantie: Geeft aan of het waargenomen effect waarschijnlijk te wijten is aan toeval.
• Praktische significantie: Verwijst naar de werkelijke betekenis of impact van het waargenomen effect.
• Een statistisch significant resultaat is mogelijk niet praktisch significant, vooral bij grote sample sizes.
• Overweeg de effectgrootte en de context om de praktische significantie te bepalen.

Voorbeeld

• Een onderzoek toont aan dat een nieuw medicijn de bloeddruk significant verlaagt(p < 0.05).
• Echter, de gemiddelde verlaging van de bloeddruk is slechts 2 mmHg, wat mogelijk niet klinisch betekenisvol is.
• Hoewel het resultaat statistisch significant is, is het mogelijk niet praktisch significant.

Overwegingen bij Hypothese Testen

• Sample Size: Grotere sample sizes verhogen de power van de test en de kans op het detecteren van een echt effect.
• Veronderstellingen: Statistische tests hebben veronderstellingen over de data (bijv. normaliteit, onafhankelijkheid, gelijke varianties).
  • Schendingen van veronderstellingen kunnen de validiteit van de testresultaten beïnvloeden.
• Meervoudige Vergelijkingen: Bij het uitvoeren van meerdere hypothesetests neemt het risico op het maken van een Type I-fout toe.
  • Gebruik correcties zoals Bonferroni of False Discovery Rate (FDR) om te corrigeren voor meerdere vergelijkingen.

Samenvatting

• Hypothese testen is een raamwerk voor het trekken van conclusies uit data.
• De nulhypothese is een specifieke bewering over een populatieparameter.
• Data wordt gebruikt om het bewijs tegen de nulhypothese te beoordelen.
• Fouten kunnen optreden bij hypothese testen (Type I en Type II fouten).
• De p-waarde is de kans op het waarnemen van data die even extreem is als, of extremer dan, de waargenomen data, aangenomen dat de nulhypothese waar is.
• Overweeg zowel statistische als praktische significantie bij het interpreteren van resultaten.
• Wees attent op sample size, veronderstellingen en meervoudige vergelijkingen bij het uitvoeren van hypothesetests.

Einstein Coëfficiënten

• Beschouw twee toestanden van een atoom of molecuul:
  • Toestand 1 heeft energie $E_1$
  • Toestand 2 heeft energie $E_2$, waarbij $E_2 > E_1$
• Definities:
  • $n_1$ = aantal dichtheid van atomen in toestand 1
  • $n_2$ = aantal dichtheid van atomen in toestand 2
  • $u_v$ = stralingsdichtheid bij frequentie $v$, waarbij $E_2 - E_1 = h\nu$
• Er zijn drie stralingsprocessen die kunnen optreden:
  • Spontane Emissie: Een atoom in toestand 2 kan spontaan vervallen naar toestand 1 en een foton uitstoten met energie $h\nu$. Het tempo van dit proces wordt gegeven door $A_{21} n_2$, waarbij $A_{21}$ de Einstein coëfficiënt is voor spontane emissie.
  • Absorptie: Een atoom in toestand 1 kan een foton met energie $h\nu$ absorberen en overgaan naar toestand 2. Het tempo van dit proces wordt gegeven door $B_{12} n_1 u_\nu$, waarbij $B_{12}$ de Einstein coëfficiënt is voor absorptie.
  • Gestimuleerde Emissie: Een atoom in toestand 2 kan worden gestimuleerd door een foton met energie $h\nu$ om te vervallen naar toestand 1 en een foton uit te stoten met energie $h\nu$ in dezelfde richting als het stimulerende foton. Het tempo van dit proces wordt gegeven door $B_{21} n_2 u_\nu$, waarbij $B_{21}$ de Einstein coëfficiënt is voor gestimuleerde emissie.

Tempo Vergelijking

• De snelheid van verandering van de aantal dichtheid van atomen in toestand 2 wordt gegeven door: $$\frac{dn_2}{dt} = -A_{21}n_2 + B_{12}n_1u_\nu - B_{21}n_2u_\nu$$

Thermisch Evenwicht

• In thermisch evenwicht is $\frac{dn_2}{dt} = 0$. Daarom: $$0 = -A_{21}n_2 + B_{12}n_1u_\nu - B_{21}n_2u_\nu$$

$$A_{21}n_2 = B_{12}n_1u_\nu - B_{21}n_2u_\nu$$

$$A_{21}n_2 = (B_{12}n_1 - B_{21}n_2)u_\nu$$

$$u_\nu = \frac{A_{21}n_2}{B_{12}n_1 - B_{21}n_2}$$

$$u_\nu = \frac{A_{21}}{B_{12}\frac{n_1}{n_2} - B_{21}}$$

• Vanuit de Boltzmann distributie:

$$\frac{n_1}{n_2} = e^{\frac{h\nu}{kT}}$$

Daarom:

$$u_\nu = \frac{A_{21}}{B_{12}e^{\frac{h\nu}{kT}} - B_{21}}$$

• Ook, vanuit de wet van Planck:

$$B_\nu(T) = \frac{2h\nu^3}{c^2}\frac{1}{e^{\frac{h\nu}{kT}}-1}$$

• Het gelijkstellen van deze twee uitdrukkingen voor $u_\nu$:

$$\frac{A_{21}}{B_{12}e^{\frac{h\nu}{kT}} - B_{21}} = \frac{2h\nu^3}{c^2}\frac{1}{e^{\frac{h\nu}{kT}}-1}$$

$$A_{21}(e^{\frac{h\nu}{kT}}-1) = \frac{2h\nu^3}{c^2}(B_{12}e^{\frac{h\nu}{kT}} - B_{21})$$

$$A_{21}e^{\frac{h\nu}{kT}}-A_{21} = \frac{2h\nu^3}{c^2}B_{12}e^{\frac{h\nu}{kT}} - \frac{2h\nu^3}{c^2}B_{21}$$

Einstein Relaties

• Vanuit de bovenstaande vergelijking kunnen de volgende relaties worden afgeleid:

$$A_{21} = \frac{2h\nu^3}{c^2}B_{21}$$

$$B_{12} = B_{21}$$

• Dit zijn de Einstein Relaties.

Algoritmische Complexiteit

• Een maat voor de resources (tijd, ruimte) die een algoritme nodig heeft als een functie van de inputgrootte.
• "Big O" notatie beschrijft de bovengrens van de groeisnelheid van een algoritme.
• Algeng de efficiëntie vergelijken.
• Prestaties voorspellen met grote inputs.
• Identificeer knelpunten.

Analysemethonden

1. Identificeer Dominante Operaties: Focus op operaties die het meest frequent worden uitgevoerd.
2. Bepaal Input Grootte: Definieer wat de 'n' in je analyse vormt (bijv. aantal elementen, grafiek vertices).
3. Druk uit als een Functie: Tel hoe vaak de dominante operatie wordt uitgevoerd in termen van 'n'.
4. Vereenvoudig tot Big O: Laat constanten en lagere-orde termen vallen. Alleen de snelst groeiende term telt.

Standaard Complexiteiten

Tips voor Analyse

• Lussen: Het aantal iteraties dicteert vaak de complexiteit.
• Geneste Lussen: Vermenigvuldig de complexiteiten van de lussen.
• Functie Aanroepen: Overweeg de complexiteit van aangeroepen functies.
• Conditionele Verklaringen: Analyseer worst-case scenario's.
• Recursie: Los herhalingsrelaties op om de complexiteit te bepalen.

Voorbeeld

def find_element(arr, target):
    for i in range(len(arr)): # O(n) - Loopt door elk element
        if arr[i] == target: # O(1) - Constante tijd vergelijking
            return i
    return -1

• Complexiteit: $O(n)$ - Lineaire tijd complexiteit vanwege de enkele lus die afhankelijk is van de grootte van de array.

Lineaire Algebra

• Lineaire algebra een tak van de wiskunde die vectorruimten, lineaire toepassingen en systemen van lineaire vergelijkingen bestudeert. Het is een essentieel instrument in vele domeinen zoals fysica, engineering, informatica en economie.

Vectorgroepen

• Een vectorruimte is een verzameling objecten, vector genoemd, waarop twee operaties gedefinieerd zijn:
  • vector toevoeging, vectorieel is een combinatie van twee vectoren om tot een derde op te leveren.
  • scalair vermenigvuldiging, is een vermenigvuldiging van een vector met een scalair (een getal) om tot een ander op te leveren.
• Deze operaties moeten aan bepaalde eigenschappen voldoen, zoals associativiteit, commutativiteit, distributiviteit en het bestaan van een neutraal element en een inverse.
• De verzameling vectoren in een vlak, aangeduid met $\mathbb{R}^2$ is een vectorruimte. Een vector in $\mathbb{R}^2$ wordt weergegeven door een paar reële getallen $(x, y)$, waarbij $x$ en $y$ de coördinaten van de vector zijn.

Lineaire Applicaties

• Een lineaire applicatie is een functie tussen twee vectorruimten die de operaties van vectoruele toevoeging en scalair vermenigvuldiging behoudt. Met andere woorden, als $f$ een lineaire toepassing is van $E$ naar $F$, dan heb je voor alle vectoren $u$ en $v$ in $E$ en alle scalair $\lambda$:
  • $f(u + v) = f(u) + f(v)$
  • $f(\lambda u) = \lambda f(u)$
• De functie $f: \mathbb{R}^2 \rightarrow \mathbb{R}^3$ gedefinieerd door $f(x, y) = (x + y, x - y, 2x)$ is een lineaire applicatie.

Matrices

• Een matrix is een tabel met getallen. Matrices worden gebruikt om lineaire toepassingen weer te geven en om systemen van lineaire vergelijkingen op te lossen.
• De matrix $A = \begin{bmatrix} 1 & 2 \ 3 & 4 \end{bmatrix}$ is een 2x2 matrix.

Systemen van Lineaire Vergelijkingen

• En systeem van lineaire vergelijkingen is een verzameling van lineaire vergelijkingen met dezelfde onbekenden. Een systeem van lineaire vergelijkingen kan onder de matrix Axt=b geschreven worden waarbij
• $A$- matrix met coëfficiënten
• $x$- vector met onbekenden
• $b$-vector met consanten
• Het systeem kan onder de matrix worden gedefinieerd:
• $x + 2y = 5$
• $3x + 4y = 11$
• Kan onder als matrix worden geschreven als: $\begin{bmatrix} 1 & 2 \ 3 & 4 \end{bmatrix} \begin{bmatrix} x \ y \end{bmatrix} = \begin{bmatrix} 5 \ 11 \end{bmatrix}$

Eigenwaarden en Eigenvectoren

• En matrix heeft een scalaire $\lambda$ welke een Eigenwaarde van een matrix $A$ is, zo bestaat er een niet $v$
  • De vergelijking $Av = \lambda v$, waarbij $v$ -Eigenvector vector is
• De vergelijking $Av = \lambda v$, waarbij is $v$- Eigenvector vector is van geanalyseerde matrices

Conclusie

• Lineaire algebra is krachtig