Modello di Regressione Lineare Binomiale

La regressione lineare binomiale, nota anche come Linear Probability Model (LPM), è un modello di regressione lineare utilizzato per analizzare l'influenza di una o più variabili indipendenti (v.i.) su una variabile dipendente (v.d.) binaria (dummy). La v.d. può assumere solo due valori, generalmente 0 (no) e 1 (sì).

L'equazione della regressione lineare binomiale è simile a quella della regressione lineare standard, ma la variabile dipendente è una dummy. La probabilità di ottenere 1 nella v.d. è rappresentata da pigrecoi, che è una funzione lineare delle v.i.

Nel LPM, i coefficienti della regressione rappresentano l'effetto marginale delle v.i. sulla probabilità di ottenere 1 nella v.d. Ad esempio, il coefficiente di una v.i. indica la variazione nella probabilità che la v.d. sia 1 per un'unità di aumento della v.i., tenendo costanti le altre v.i.

La probabilità di ottenere 1 nella variabile dipendente (πi) non è una funzione lineare delle variabili indipendenti (X).

Il modello logistico, anche detto logit, è un modello di regressione utilizzato quando la variabile dipendente (v.d.) è binaria (0 o 1).

La funzione logistica (o sigmoide) trasforma il predittore lineare ηi in una probabilità compresa tra 0 e 1.

L'effetto di una variazione unitaria di X sulla probabilità Pr(Y=1) dipende dal valore di X e dalle altre variabili indipendenti nel modello.

Il metodo della massima verosimiglianza (ML) è utilizzato per stimare i parametri β nel modello logistico. Trova i valori che massimizzano la probabilità di ottenere i dati osservati.

La funzione di log-verosimiglianza (LL) misura la probabilità di ottenere i dati osservati per un dato insieme di parametri.

Per campioni grandi, il metodo ML produce stime dei parametri accurate, con distribuzione normale e alta efficienza.

Nel diagramma, la curva sigmoidale rappresenta la funzione logistica, che stima la probabilità di successo (esame superato) in base alle ore di studio.

La probabilità di successo all'esame, calcolata come la percentuale di studenti promossi su un campione. Es: se 108 studenti su 200 sono promossi, la probabilità di successo è il 54%.

La probabilità di fallimento all'esame, calcolata come complemento a 1 della probabilità di successo. Se la probabilità di successo è 0.54, la probabilità di fallimento è 0.46.

Un modo per esprimere la probabilità di successo, calcolato come il rapporto tra la probabilità di successo e la probabilità di fallimento. Se la probabilità di successo è 0.54 e la probabilità di fallimento è 0.46, l'odds è 1.17.

Un indice che misura l'associazione tra due variabili, calcolato come il rapporto tra gli odds di successo in due gruppi diversi.

Un altro modo per esprimere la probabilità di successo, dato dal logaritmo naturale dell'odds. Se l'odds è 1.17, il logit è 0.15.

Il numero di studenti che hanno superato l'esame, calcolato per ogni 10 studenti che hanno fallito. È un modo per esprimere l'odds in forma più intuitiva.

La probabilità di successo calcolata in base al gruppo di studenti che hanno dedicato più di 60 ore allo studio.

La probabilità di successo calcolata in base al gruppo di studenti che hanno dedicato meno di 60 ore allo studio.

Il logit è una trasformazione della probabilità che va da -∞ a +∞. I valori negativi del logit, una volta trasformati in odds ratio (OR), variano nell'intervallo [0, 1] mentre quelli positivi variano nell'intervallo [1, +∞].

Rapporto di verosimiglianza (G2) è un indice che misura la bontà di adattamento del modello di regressione logistica ai dati. Si basa sul confronto di due equazioni: una con solo l'intercetta (M0) e un'altra che include i regressori (M1).

Gli indici Pseudo-R2 sono misure simili al coefficiente di determinazione (R2) nella regressione lineare. Misurano la variabilità della variabile dipendente spiegata dai regressori.

L'R2 di McFadden è una misura di adattamento del modello che usa la funzione di log-verosimiglianza (LL). Confronta il modello pieno (M1) con quello di intercetta (M0).

La propensione relativa indica la probabilità di un evento per un gruppo rispetto a un altro gruppo. In questo caso, la propensione relativa dei lavoratori a uscire dalla FO (anziché rimanervi) è 1,5 volte quella dei non lavoratori.

Per facilitare il confronto di OR compresi tra 0 e 1 (relazione inversa) con OR > 1 (relazione diretta) si calcolano i reciproci dei primi e si aggiunge il segno meno.

Nel caso della regressione logistica, la validazione del modello comporta la valutazione di come il modello si adatta ai dati reali, considerata la natura dicotomica della variabile dipendente.

Il termine logit(πi) rappresenta il logaritmo naturale dell'odds, ovvero il rapporto tra la probabilità di successo (Y=1) e la probabilità di insuccesso (Y=0). È una trasformazione della probabilità che rende la variabile dipendente (v.d.) lineare rispetto alle variabili indipendenti (v.i.) nel modello di regressione logistica.

L'odds ratio è il rapporto tra le odds di un evento quando una variabile indipendente (v.i.) è presente rispetto alle odds quando la v.i. è assente. Misura l'effetto di una variazione unitaria della v.i. sulle odds dell'evento in questione.

Nell'analisi di regressione logistica, il coefficiente b di una variabile indipendente (v.i.) rappresenta l'effetto del cambiamento di una unità di tale v.i. sul logaritmo naturale dell'odds. Più grande è il valore di b, maggiore è l'effetto della v.i. sulle odds dell'evento in questione.

Il calcolo dei valori predetti in un modello di regressione logistica prevede l'inserimento dei valori delle variabili esogene nel modello stimato per ottenere un'aspettativa del valore della variabile dipendente (v.d.).

L'indipendenza abitativa in relazione alla variabile 'Occupato' è definita come la probabilità di vivere separati dai genitori, condizionata dalla condizione lavorativa (occupato).

La probabilità di indipendenza abitativa per un individuo è data dalla funzione logistica, che è una curva a S che trasforma un valore lineare (logit) in una probabilità compresa tra 0 e 1.

Nel modello di regressione logistica, l'intercetta (b0) rappresenta il logaritmo naturale dell'odds quando tutte le variabili indipendenti (v.i.) sono uguali a zero. In pratica, è l'effetto sul logaritmo naturale dell'odds quando tutte le v.i. sono al loro valore di riferimento o di base.

Il modello di regressione logistica è utilizzato per prevedere la probabilità di un evento binario (es: 'sì' o 'no') in relazione a una serie di variabili indipendenti (v.i.). Il modello è basato sulla funzione logistica, che trasforma un valore lineare (logit) in una probabilità compresa tra 0 e 1.

In generale, dato k, il rapporto tra i costi di FN e FP è dato da c=1/(1+k). Questo ci dice quanto è importante minimizzare gli errori di tipo FN (falso negativo) rispetto agli errori di tipo FP (falso positivo).

Un problema comune del LPM è che può predire probabilità 'insensate', ovvero al di fuori dell'intervallo 0-1. Questo accade quando l'equazione del modello predice valori troppo alti o troppo bassi.

Quando usi il LPM per analisi esplorative, puoi commentare i suoi parametri se e solo se i segni, le significatività e l'importanza dei coefficienti corrispondono a quelli ottenuti con la regressione logistica, e la percentuale di valori 'out of range' è inferiore al 5%.

La regressione logistica multinomiale è un'estensione della regressione logistica che può essere utilizzata per predire la probabilità di un evento con più di due possibili risultati. Per ogni risultato, viene creata una funzione logistica separata che predice la probabilità.

Per una variabile dipendente con j modalità, la regressione logistica multinomiale crea j-1 logit ed equazioni prendendo una modalità come riferimento. Ad esempio, se Y ha 3 modalità, creiamo 2 logit per confrontare le probabilità con la modalità di riferimento.

La regressione logistica multinomiale permette di confrontare la probabilità di aderire a diverse modalità di una variabile dipendente, ad esempio, differenti orientamenti religiosi. Questo consente di analizzare l'influenza delle variabili indipendenti su ogni modalità.

La regressione logistica multinomiale è un modello versatile che può essere applicato a molti contesti di ricerca, ad esempio, per studiare l'influenza di variabili socio-demografiche sulla scelta di un partito politico o sull'opzione per un particolare servizio sanitario.