Algorithmes d'apprentissage automatique

Algorithmes d'apprentissage automatique

* Les algorithmes d'apprentissage automatique peuvent être classés en apprentissage supervisé et non supervisé.

Apprentissage supervisé

* L'apprentissage supervisé implique l'utilisation de données étiquetées pour entraîner des modèles afin de faire des prédictions.

Régression linéaire

• La régression linéaire prédit des valeurs continues en utilisant une relation linéaire entre les variables.
• Le modèle linéaire est exprimé comme $\hat{y} = \beta_0 + \beta_1 x_1 + \dots + \beta_n x_n$, où $\hat{y}$ est la valeur prédite, $\beta$ sont les coefficients et $x$ sont les variables d'entrée.
• L'objectif de la régression linéaire est de minimiser l'erreur quadratique moyenne (MSE).
• Le modèle est simple et interprétable.
• La régression linéaire suppose une relation linéaire et est sensible aux valeurs extrêmes.

Régression polynomiale

• La régression polynomiale est une extension de la régression linéaire pour modéliser les relations non linéaires.
• Le modèle polynomial est exprimé comme $\hat{y} = \beta_0 + \beta_1 x + \beta_2 x^2 + \dots + \beta_d x^d$, où $d$ est le degré du polynôme.
• Elle peut modéliser des relations complexes.
• Le risque de surapprentissage est présent, l'interprétation rendue ardue.

Arbres de décision

• Les arbres de décision divisent l'espace de caractéristiques en régions en fonction d'une série de décisions binaires.
• Ils sont faciles à interpréter et peuvent saisir des non-linéarités.
• Ils ont tendance au surapprentissage et sont potentiellement instables.

Forêts aléatoires

• Les forêts aléatoires utilisent un ensemble d'arbres de décision pour améliorer la généralisation et réduire le surapprentissage.
• Elles se révèlent robustes, performantes.
• Elles sont moins interprétables que les arbres de décision seuls.

Machines à vecteurs de support (SVM)

• Les SVM trouvent l'hyperplan optimal pour séparer des classes.
• Les SVM peuvent utiliser des fonctions de noyau pour gérer les données non linéaires.
• Elles sont efficaces dans les espaces à haute dimension et offrent une bonne généralisation.
• Le calcul peut être coûteux, le choix du noyau essentiel.

Apprentissage non supervisé

• L'apprentissage non supervisé utilise des données non étiquetées pour découvrir des schémas et des structures.

K-Means

• L'algorithme K-Means divise les données en K groupes en minimisant la variance intra-cluster.
• Il est relativement simple et rapide.
• Il peut être sensible à l'initialisation et requiert la spécification du nombre de clusters (K).

Analyse des composantes principales (ACP)

• L'ACP réduit la dimensionnalité en projetant les données sur les composantes principales, préservant ainsi la variance maximale.
• L'ACP peut réduire la complexité et faciliter la visualisation des données.
• Avec l'ACP, des pertes d'informations sont à prendre en compte, et l'interprétation des composantes peut être ardue.

Mesures d'évaluation

• Des mesures d'évaluation sont utilisées pour évaluer la performance des modèles d'apprentissage automatique.

Régression

• Erreur quadratique moyenne (MSE) : $\frac{1}{n} \sum_{i=1}^{n} (y_i - \hat{y}_i)^2$
• Erreur absolue moyenne (MAE) : $\frac{1}{n} \sum_{i=1}^{n} |y_i - \hat{y}_i|$
• Coefficient de détermination ($R^2$) : $1 - \frac{\sum_{i=1}^{n} (y_i - \hat{y}i)^2}{\sum{i=1}^{n} (y_i - \bar{y})^2}$

Classification

• Précision (Accuracy) : $\frac{VP + VN}{VP + VN + FP + FN}$
• Rappel (Recall) : $\frac{VP}{VP + FN}$
• Précision (Precision) : $\frac{VP}{VP + FP}$
• Score F1 (F1-Score) : $2 \cdot \frac{Precision \cdot Recall}{Precision + Recall}$
• Courbe ROC et AUC

*VP : Vrai positifs, VN : Vrai négatifs, FP : Faux positifs, FN : Faux négatifs.

Expressions régulières

Concepts de base

* Une expression régulière est un modèle ou une expression utilisé pour faire correspondre un ensemble de chaînes qui correspondent au modèle.

• **Chaîne de caractères ** : Une séquence de symboles finie provenant d’un alphabet donné.
• **Alphabet ** : Un ensemble fini de symboles.
• **Expression régulière ** : Manière de décrire un ensemble de chaînes de caractères (langue régulière).

Notation d’expression régulière

• Concaténation : abc
• Alternance : a|b
• Itération : a*

Classes de caractères étendues

• \d - Chiffre (0-9)
• \D - Non-chiffre
• \w - Caractère alphanumérique (a-z, A-Z, 0-9, _)
• \W - Caractère non-alphanumérique
• \s - Caractère d’espace blanc (espace, tabulation, nouvelle ligne)
• \S - Caractère non d’espace blanc
• . - Tout caractère (sauf la nouvelle ligne)

Quantificateurs

• ? - 0 ou 1 occurrence
• * - 0 ou plusieurs occurrences
• + - 1 ou plusieurs occurrences
• {n} - Exactement n occurrences
• {n,} - Au moins n occurrences
• {n,m} - Au moins n et au plus m occurrences

Ancrages

• ^ - Début de la chaîne de caractères
• $ - Fin de la chaîne de caractères
• \b - Limite du mot
• \B - Pas de limite du mot

Groupes

• `()` - Regroupement et capture
• `(?:)` - Regroupement sans capture
• `1`,`2`... - Rétro-références aux groupes capturés

Exemples

• Adresse e-mail : \w+@\w+\.\w+
• Numéro de téléphone : \d{3}-\d{3}-\d{3}
• Adresse IP : \d{1,3}\.\d{1,3}\.\d{1,3}\.\d{1,3}

Travailler avec des expressions régulières

• Outils :
• `grep` - Recherche dans des fichiers
• `sed` - Modification de texte
• Langages de programmation (Python, Java, C#...)

Expressions régulières dans Python

import re
## recherche
match = re.search(r"pattern", "string")
if match:
    print(match.group(0))
## remplacement
new_string = re.sub(r"pattern", "replacement", "string")
## fractionnement de chaîne
list_of_strings = re.split(r"pattern", "string")

Compiler une expression régulière

pattern = re.compile(r"pattern")
match = pattern.search("string")