Réseau de Neurones Artificielles : Les Neurones

Artificial Neural Network: Neurons

What is a Neuron?

• A neuron is a fundamental computing unit in an artificial neural network
• Inspired by the structure and function of biological neurons in the human brain

Components of a Neuron:

1. Input: One or more input values received from other neurons
2. Weights: Assigned to each input, representing the strength of the connection
3. Bias: An additional input with a weight of 1, used to shift the activation function
4. Activation function: Maps the weighted sum of inputs to an output value
5. Output: The result of the activation function, sent to other neurons or used as the final output

How a Neuron Works:

1. Receive input values and weights
2. Compute the weighted sum of inputs
3. Add the bias term to the weighted sum
4. Apply the activation function to the result
5. Send the output to other neurons or use as the final output

Types of Activation Functions:

• Sigmoid: Maps input to a value between 0 and 1
• ReLU (Rectified Linear Unit): Maps all negative values to 0 and all positive values to the same value
• Tanh (Hyperbolic Tangent): Maps input to a value between -1 and 1
• Softmax: Used for output layers, maps input to a probability distribution

Key Characteristics:

• Linearity: Weights and bias terms allow the neuron to learn linear relationships between inputs and outputs
• Non-linearity: Activation functions introduce non-linearity, enabling the neuron to learn complex relationships
• Distributed representation: Multiple neurons can represent a single concept or feature, allowing for robustness and flexibility

Réseau de Neurones Artificielles : Neurones

Qu'est-ce qu'une Neurone ?

• Une neurone est l'unité de calcul fondamentale dans un réseau de neurones artificielles
• Inspirée de la structure et de la fonction des neurones biologiques du cerveau humain

Composants d'une Neurone

• Entrées : une ou plusieurs valeurs d'entrée reçues d'autres neurones
• Poids : affectés à chaque entrée, représentant la force de la connexion
• Biais : une entrée supplémentaire avec un poids de 1, utilisée pour déplacer la fonction d'activation
• Fonction d'activation : mappe la somme pondérée des entrées à une valeur de sortie
• Sortie : le résultat de la fonction d'activation, envoyé à d'autres neurones ou utilisé comme sortie finale

Fonctionnement d'une Neurone

• Réception des valeurs d'entrée et des poids
• Calcul de la somme pondérée des entrées
• Ajout du terme de biais à la somme pondérée
• Application de la fonction d'activation au résultat
• Envoi de la sortie à d'autres neurones ou utilisation comme sortie finale

Types de Fonctions d'Activation

• Sigmoid : mappe l'entrée à une valeur comprise entre 0 et 1
• ReLU (Unité de Rectification Linéaire) : mappe toutes les valeurs négatives à 0 et toutes les valeurs positives à la même valeur
• Tanh (Tangente Hyperbolique) : mappe l'entrée à une valeur comprise entre -1 et 1
• Softmax : utilisée pour les couches de sortie, mappe l'entrée à une distribution de probabilité

Caractéristiques Clés

• Linéarité : les poids et les termes de biais permettent à la neurone d'apprendre les relations linéaires entre les entrées et les sorties
• Non-linéarité : les fonctions d'activation introduisent la non-linéarité, permettant à la neurone d'apprendre les relations complexes
• Représentation distribuée : plusieurs neurones peuvent représenter un concept ou une fonction unique, permettant de robustesse et de flexibilité