Gradient Descent - Présentation PDF
Document Details
Uploaded by UndauntedFable8007
Oussama El Hamati, Youness Tebbaq
Tags
Summary
This presentation covers gradient descent, a machine learning optimization algorithm. It explains the concept of linear regression, the cost function, and the steps in the gradient descent algorithm. The presentation includes illustrative diagrams and mathematical formulas.
Full Transcript
Gradient descent Présentée par : Encadrée par : OUSSAMA EL HAMATI Mme BENGHACHOUA YOUNESS TEBBAQ Plan de la Présentation 1.Rappel sur la Regression Lineaire 2.Fonction coût 3.Descente de gradient 4.L'analogie de la montagne 5.Algorithme de la Descente de Gradie...
Gradient descent Présentée par : Encadrée par : OUSSAMA EL HAMATI Mme BENGHACHOUA YOUNESS TEBBAQ Plan de la Présentation 1.Rappel sur la Regression Lineaire 2.Fonction coût 3.Descente de gradient 4.L'analogie de la montagne 5.Algorithme de la Descente de Gradient 6.Explication mathématique 01. Regression lineaire Définition : La régression linéaire est une méthode utilisée pour modéliser la relation entre une variable dépendante et une ou plusieurs variables indépendantes Modèle de regression lineaire Modèle de regression lineaire Notre objectif est de trouver les paramètres w et b qui permettent au modèle de s’ajuster au mieux au jeu de données 02. Fonction coût Définition La fonction coût est une mesure d’erreur qui évalue la qualité d’un modèle de régression linéaire. il s’agit de mesurer l’erreur entre chaque point de données et notre modèle, puis de faire la moyenne de toutes ces erreurs Allure de la fonction coût Lorsqu’on fait varier les paramètres w et b de notre modèle, on constate que la fonction coût prend la forme d’une parabole Allure de la fonction coût 03. Descente de gradient Qu'est-ce que la descente de gradient ? Une méthode d’optimisation utilisée pour minimiser la fonction de coût (l’erreur). Utilité :Trouver les meilleurs paramètres pour un modèle. 04. L'analogie de la montagne randonneur 05. Algorithme de la Descente de Gradient 06. Explication mathématique 07. Le calcule de Gradient 08. Conclusion Merc i