Présentation IA Gen - David - V2 1

Digital Data IA Agent conversationnel hybride 02/12/24 1 Orange Restricted  Sommaire 01 Rappel du contexte 02 Prompting 03 RAG Concept NLU & LLM Principes Princ...

Digital Data IA Agent conversationnel hybride 02/12/24 1 Orange Restricted  Sommaire 01 Rappel du contexte 02 Prompting 03 RAG Concept NLU & LLM Principes Principes Schéma d’architecture Structure Application dans Djingo Qualif / Entrainement auto 04 Démos 05 Et ensuite ? Assistance Wifi Industrialisation Assistance eSim TNR MVP LLM Marchand (Sécurité) 2 Orange Restricted 01 Contexte Concept NLU & LLM Schéma d’architecture 3 Orange Restricted  L’Intelligence Artificielle Générative permet d’aller plus loin dans les interactions de Djingo avec nos clients NLU LLM Compréhension Essentiellement à À tout moment dans la du langage naturel l’amorce conversation Exhaustivité de Tout doit être scripté par Le LLM est proactif et dispose l’information le concepteur d’une connaissance plus large Les échanges précédents Les réponses sont plus Historique de la conversation ne sont pas pris en pertinentes car enrichies avec compte l’historique Djingo ne couvre pas tout Nous améliorerons notre capacité Couverture fonctionnelle le périmètre des FAQ à couvrir l’ensemble du périmètre (200 parcours NLU) des FAQ (1200 FAQ) 4 Orange Restricted  Un bot hybride : pour le meilleur des 2 mondes (IA classique et IA Générative) Avantages des scripts IA Classique Avantages de l’IA Générative IA IA Classique Gen  Interconnecté avec le SI pour accueillir  Meilleure compréhension des les clients identifiés de façon demandes et des réponses client personnalisé, et délivrer directement des services avec un traitement personnalisé (code PUK)  Des réponses plus adaptées à la situation du client.   Maîtrise complète du parcours de bout en bout.  Exploitation des contenus existants (comme les FAQ).   Patrimoine important et performant  Couverture fonctionnelle étendue enrichie en permanence via  l’amélioration continue. 5 Orange Restricted  Un bot hybride : Comment ça marche ? IA Classique IA Générative IA IA Classique Gen  Intention (type de demande) avec  Moteur d’IA Gen (GPT 4o) maintenance des variations  Base de données intégrant le  Parcours conversationnels Orchestrateur contenu de toutes les FAQ prédéfinis. (Discovery).    Usage d’API pour se connecter au  Prompts (pour orienter les SI réponses). 6 Orange Restricted  Capacité hybride de notre Bot NLU / LLM / Discovery Onboarding Saisie client Intention NLU comprise NON OUI Lancement parcours scripté Discovery / RAG Traitement LLM Réponse LLM 7 Orange Restricted 02 Prompting Principes Structure 8 Orange Restricted Le prompt La recette d'un prompt efficace Le prompt est la requête en language naturel, avec des instructions spécifiques pour guider le ton, le style, la tâche ou le comportement des réponses de l'IA Générative lors d'une conversation. Cela sert à orienter l'IA dans la direction souhaitée pour une interaction particulière. 9 Orange Restricted  Le prompt dans Djingo Identité Gestion Data Règles Fin de Formats de Instructions et rôle Historique Source transverses conversations réponse spécifiques Persona Reformulat Restriction Gestion de META Langage Few Shot Entry request pattern ion de la aux l’insatisfacti pattern prompting pattern (gestion de saisie client informations on (gestion des la qualification) Audience en y du RAG Tracking exemples) pattern ajoutant Gestion des Instructions Semantic filter l’historique demandes de sortie Output format pattern Tonalité de MER pattern (incluant les (routage, Gestion des travaux Gestion des etc…) Listes discriminants d’INNOV), style capacités Résumés (éviter le rôle- play) Pas à pas Devis 10 Orange Restricted 03 RAG Principes Application dans Djingo Qualif / Entrainement auto 11 Orange Restricted  Le RAG : Maillon indispensable pour un LLM C’est quoi un RAG (Retrieval Augmented Generation) ? Un RAG, ou "Retrieval-Augmented Generation", est une approche en intelligence artificielle qui combine la recherche d'informations et la génération de texte. Principes  Le modèle récupère des données pertinentes à partir d'une base de connaissances ou d'une base de données.  Ensuite, il utilise ces informations pour générer des réponses ou des contenus de manière cohérente et contextuelle. Cette méthode est souvent utilisée dans des applications comme les chatbots et les systèmes de question-réponse. 12 Orange Restricted  Un RAG pour regrouper les contenus à exploiter CMS RAG LLM (Large Language Model) (Content Management System) (Retrieval Augmented Generation) ChatGPT 4o EZ Publish Discovery IBM BD exportation RAG interrogation  Contenu texte des FAQ  Requêtes sur Discovery  FAQ de l’assistance  Enrichissement  Exploitation des éléments ProPME  Textes automatique pour réponses aux  Images  Enrichissement manuel demandes  Synonymes Intervention Orange Innovation  Qualification des RAG  Mise à jour incrémentale du RAG 13  Apprentissage automatique Orange Restricted  Entrainement Plus d’1 Moins d’1 jour 14 semaine Orange Restricted  Accès et qualification des données Accès à Discovery d’IBM Improve and customize | IBM Watson Discovery Cas de test Djingo Assistance IA Gen Combinatoire de test V1.xlsx 15 Orange Restricted 04 Démos Assistance Wifi Assistance eSim 16 Orange Restricted  Un bot hybride : Démo Connexion en Wifi à la Livebox Djingo (orange.fr) Comment utiliser le wifi de ma box avec mon mobile Je veux connecter mon pc à la box en wifi Je veux connecter ma tablette Android à la Livebox 17 Orange Restricted  Un bot hybride : Démo eSIM Djingo (orange.fr) Je veux activer la esim sur mon Samsung Galaxy C’est quoi une esim ? Changer le profil esim sur mon iPhone 15 18 Orange Restricted 05 Et ensuite ? Industrialisation TNR MVP LLM Marchand (Sécurité) 19 Orange Restricted  Mise en œuvre progressive du bot hybride Mise en place de l’IA Gen pour couvrir la Long Tail Pour couvrir (les cas qui ne sont actuellement pas traités par les tous les sujets d’assistance parcours IA Classiques) Une expérience client augmentée  Une couverture complète de l’assistance  Des parcours précis et authentifiés  Des réponses adaptées à chaque demande client Aide à la connexion eSIM TV Autres domaines fonctionnels Toute l’assistance wifi à la Livebox Construction de la solution, adaptation, Ouverture progressive par domaine fonctionnel, vérification des vérification par thème données, vérification du comportement du LLM … 20 Orange Restricted  Next steps  Décembre 2024  Lancement de l’assistance TV  Etude sur la mise en place de tests de non-régression  Choix des prochains sous-domaines à ouvrir  Optimisation du tracking  S1 2025  Poursuite de l’ouverture des domaines fonctionnels pour couvrir toute la Long Tail de l’Assistance  Mise en place du dispositif de test de non-régression  Industrialisation du process CMS>Discovery>Test des données>Tests  LLM  Etude satisfaction / utilisateur  Remplacement d’anciens parcours classiques non performants 21  Création de nouveaux parcours via le LLM Orange Restricted  Merci 22 Interne Orange Orange  Un bot hybride : Démo Assistance TV (en cours de test) Djingo (orange.fr) J’ai un problème avec ma télécommande TV Comment réinitialiser le décodeur ? J'ai un code erreur S01 sur la télé. 23 Orange Restricted  Un bot hybride : Démo Marchand « Je veux protéger les équipements de mon entreprise » Djingo (Qualif) Focus : Collection spécifique / INNOV crawling Questions de qualification des besoins Affichage des prix (enjeux juridique) 24 Orange Restricted