Modelli di Regressione LinPare: Capitolo 2

Il modello di regressione lineare multipla è utilizzato per studiare la relazione di dipendenza tra una variabile dipendente Y e una o più variabili indipendenti X. Il modello è basato sull'idea che i cambiamenti nella variabile indipendente influenzino la variabile dipendente.

L'utilizzo del modello di regressione lineare multipla per testare ipotesi derivate da una teoria. Si analizza il legame tra le variabili basandosi su una teoria preesistente.

L'utilizzo del modello di regressione lineare multipla con l'obiettivo di identificare un sottogruppo di variabili che hanno un impatto significativo sulla variabile dipendente. Questo approccio non è legato a una teoria predefinita.

Variabili che possono influenzare la relazione tra la variabile indipendente e la variabile dipendente, confondendo la relazione effettiva.

Un processo statistico che aggiunge o rimuove variabili indipendenti dal modello di regressione lineare multipla in base al loro livello di significatività statistica. Questo processo può portare a risultati falsi positivi se non si esegue con attenzione.

Un risultato significativo dal punto di vista statistico ma con un impatto irrilevante sulla variabile dipendente. Questo può accadere quando si utilizano procedure di selezione delle variabili automatiche.

La differenza tra il valore effettivo di Y e il valore previsto dal modello di regressione.

La variazione in Y causata da un cambiamento in una variabile indipendente non dipende dal valore delle altre variabili indipendenti.

Modello in cui la relazione tra la variabile dipendente e le variabili indipendenti è lineare rispetto ai parametri.

Modello in cui la relazione tra la variabile dipendente e le variabili indipendenti è non lineare rispetto ai parametri.

Famiglia di modelli che include la regressione lineare e altri modelli.

Il membro a destra dell'equazione di regressione che contiene le variabili indipendenti e i parametri.

Rapporto tra la variazione della variabile dipendente e la variazione di una variabile indipendente.

Le variabili che utilizziamo per prevedere il valore di Y.

Il contesto della scoperta riguarda l'identificazione delle relazioni, mentre il contesto della giustificazione riguarda la verifica di tali relazioni. Un modello di regressione esplorativo è una prima stima, non una dimostrazione di dipendenza.

Un modello di regressione con finalità previsionali/diagnostiche mira a individuare un modello che sia altamente predittivo, parsimonioso e stabile. Il modello deve prevedere la variabile dipendente (v.d.) il più possibile e contenere il minor numero possibile di variabili indipendenti.

Le variabili indipendenti estrane o che seguono la variabile dipendente (v.d.) non dovrebbero essere incluse nel modello di regressione.

Variabili che intervengono nel processo che lega le variabili indipendenti (X) e la variabile dipendente (Y).

Termini che introducono effetti non lineari tra le variabili indipendenti (X) e la variabile dipendente (Y), pur mantenendo il modello lineare nei parametri.

La rappresentazione geometrica di un modello di regressione lineare con due variabili indipendenti è un piano. Questo piano interpola la nube di punti, e la distanza di ciascun punto dal piano rappresenta l'errore.

L'intercetta del modello di regressione lineare, indicata con 0, rappresenta il valore della variabile dipendente quando tutte le variabili indipendenti sono uguali a zero.

Il coefficiente di regressione parziale, j, misura la variazione della variabile dipendente (Y) causata da una variazione di un'unità della variabile indipendente Xj, mantenendo costanti le altre variabili indipendenti.

La situazione in cui almeno una variabile indipendente nel modello è una combinazione lineare esatta delle altre. Questo significa che le variabili non sono tutte linearmente indipendenti.

Variabili indipendenti sono linearmente indipendenti ma la correlazione tra due o più di esse è così forte che l'informazione aggiunta da una rispetto alle altre è scarsa, conducendo a risultati incerti e instabili.

In presenza di perfetta collinearità, le stime dei parametri sono indeterminate, cioè non esiste una soluzione univoca.

L'assenza di multicollinearità è fondamentale per la corretta applicazione della regressione lineare multipla mediante il metodo OLS.

La multicollinearità può portare a problemi di interpretazione dei risultati e a stime non attendibili.

In caso di elevata collinearità, gli errori standard tendono ad essere molto elevati, portando a risultati meno affidabili.

Se la multicollinearità è presente, si può optare per la rimozione di alcune variabili dal modello o per la combinazione di variabili correlate.

La multicollinearità è un problema comune nell'analisi dei dati, e la sua identificazione e gestione sono cruciali per ottenere risultati validi e attendibili.

Si verifica quando le variabili indipendenti (X) sono linearmente dipendenti tra loro, ovvero una variabile può essere espressa come combinazione lineare delle altre. Questo problema rende impossibile ottenere stime significative dei coefficienti di regressione.

Quando si usano variabili dummy per codificare variabili categoriali, se si includono tutte le dummy nel modello e l'intercetta, si crea una situazione di perfetta collinearità. Per risolvere il problema, è necessario rimuovere o l'intercetta o una dummy.

Un metodo per risolvere il problema della multicollinearità perfetta quando si utilizzano variabili dummy. Consiste nel rimuovere una delle dummy dal modello, rendendo la modalità omessa la categoria di riferimento.

Si riferisce all'utilizzo di un'unica variabile categoriale per modellare l'effetto di più categorie. Le categorie vengono codificate come dummy (0 o 1), e il modello assume un effetto lineare tra le diverse categorie.

Il coefficiente b0 rappresenta il valore medio della variabile dipendente (Y) per la categoria di riferimento. I coefficienti b1, b2, ecc. rappresentano le differenze tra il valore medio della variabile dipendente per ciascuna categoria e il valore medio della categoria di riferimento.

L'indice di tolleranza misura la quota di varianza di una variabile indipendente non spiegata dalle altre variabili indipendenti nel modello. Un valore basso (es. 0.15) indica un'elevata collinearità tra le variabili.

Il Variance Inflation Factor (VIF) è il reciproco dell'indice di tolleranza. Un VIF elevato (sopra 10) indica un'elevata collinearità e suggerisce che la variabile indipendente è influenzata dalle altre variabili nel modello.

Rimuovere una o più variabili indipendenti dal modello di regressione. Questa è un'opzione quando la multicollinearità è elevata e le variabili sono altamente correlate.

Combinare due o più variabili indipendenti che misurano lo stesso concetto in un unico indice. Questo può aiutare a ridurre la multicollinearità e a migliorare la comprensione del modello.

Assegnare la varianza comune tra due o più variabili indipendenti a una sola variabile. Questo può aiutare a ridurre la multicollinearità e a semplificare il modello.

La multicollinearità può essere monitorata mediante indici diagnostici appositi. Tra i più utilizzati nella pratica della ricerca troviamo l'indice di tolleranza e il Variance Inflation Factor (VIF).