Machine Learning Instances and Scaling Quiz
48 Questions
0 Views

Choose a study mode

Play Quiz
Study Flashcards
Spaced Repetition
Chat to Lesson

Podcast

Play an AI-generated podcast conversation about this lesson

Questions and Answers

Quel type d'instance est spécifiquement conçu pour l'entraînement d'apprentissage automatique?

  • Inferentia
  • c5.9xlarge
  • Trainium (correct)
  • m5.2xlarge

Quel type d'instance est adapté aux charges de travail ARM?

  • c5.9xlarge
  • Graviton (correct)
  • m5.2xlarge
  • t3.nano

Quel service est utilisé pour distribuer la charge de manière horizontale?

  • Amazon Route 53
  • Amazon RDS
  • VPC
  • Load balancer (correct)

Quel est un inconvénient de l'approche de scalabilité horizontale?

<p>Peut devenir coûteux (C)</p> Signup and view all the answers

Quel type de balancer est utilisé pour des applications spécifiques?

<p>Application Load Balancer (C)</p> Signup and view all the answers

Qu'est-ce qui est nécessaire pour le Machine Learning en termes d'instances?

<p>Types d'instances variés (B)</p> Signup and view all the answers

Quel type d'instance pourrait ne pas offrir de résilience?

<p>t3.nano (C)</p> Signup and view all the answers

Quel est le nombre total d'instances disponibles selon le contenu?

<p>400+ (C)</p> Signup and view all the answers

Quel est un aspect important à gérer lorsqu'on évolue à grande échelle ?

<p>Gérer les changements (A)</p> Signup and view all the answers

Pourquoi est-il essentiel de suivre et gérer les coûts lors de l'évolution vers 10 millions d'utilisateurs ?

<p>Pour maintenir l'optimisation des coûts (D)</p> Signup and view all the answers

Qu'est-ce qui est essentiel pour maintenir une continuité des affaires à grande échelle ?

<p>Développer une stratégie de gestion des incidents (D)</p> Signup and view all the answers

Quel est un des objectifs à considérer concernant l'empreinte carbone lors de l'évolutivité ?

<p>Minimiser l'empreinte carbone (B)</p> Signup and view all the answers

Comment la gestion de la sécurité et de la conformité est-elle vue lors de l'évolution à grande échelle ?

<p>Comme une nécessité absolue (A)</p> Signup and view all the answers

Quel processus doit être maintenu pour garantir une performance optimale ?

<p>Tester et développer constamment (C)</p> Signup and view all the answers

Quel est un défi associé à la gestion des utilisateurs lors de l'évolution ?

<p>Gérer les utilisateurs dans plusieurs géographies (C)</p> Signup and view all the answers

Quel est un aspect à optimiser pour améliorer l'approche d'évolution ?

<p>Les coûts opérationnels (C)</p> Signup and view all the answers

Quel service permet de gérer automatiquement la quantité de ressources en fonction de la charge ?

<p>Auto Scaling (B)</p> Signup and view all the answers

Quelle stratégie est recommandée pour assurer la disponibilité de l'infrastructure ?

<p>Intégrer la redondance à chaque niveau (A)</p> Signup and view all the answers

Quand est-il approprié de passer à NoSQL ?

<p>Si et quand cela a du sens (B)</p> Signup and view all the answers

Quel outil peut aider à la surveillance et à la journalisation des performances ?

<p>Des outils de métriques/monitoring/logging (C)</p> Signup and view all the answers

Quelle des options suivantes est considérée comme une pratique optimale en matière d'architecture cloud ?

<p>Utiliser des services auto-scalables (C)</p> Signup and view all the answers

Que signifie SOA dans le contexte de l'architecture des services ?

<p>Architecture Orientée Services (B)</p> Signup and view all the answers

Quel service AWS est spécifiquement conçu pour le développement d'applications web ?

<p>AWS Amplify (A)</p> Signup and view all the answers

Pourquoi est-il conseillé de ne pas se limiter à SQL dans le développement de bases de données ?

<p>NoSQL peut offrir plus de flexibilité selon l’échelle (A)</p> Signup and view all the answers

Quelle est la principale fonction de l'AWS Cloud Development Kit (CDK) ?

<p>Créer une infrastructure testable et réutilisable (C)</p> Signup and view all the answers

Quels meilleures pratiques peuvent être appliquées à l'infrastructure lors de l'utilisation de l'AWS CDK ?

<p>Pratiques de développement de logiciels (C)</p> Signup and view all the answers

Quel est un exemple d'outil AWS pour interagir avec les services AWS par ligne de commande ?

<p>AWS Command Line Interface (AWS CLI) (D)</p> Signup and view all the answers

Quel rôle joue AWS Identity and Access Management (IAM) dans l'automatisation de l'infrastructure ?

<p>Il gère les identités et les autorisations des utilisateurs (D)</p> Signup and view all the answers

Parmi les options suivantes, laquelle offre des APIs pour interagir avec les services AWS ?

<p>AWS Tools and SDKs (A)</p> Signup and view all the answers

Qu'est-ce que AWS CloudFormation permet de faire ?

<p>Définir et provisionner l'infrastructure AWS (D)</p> Signup and view all the answers

Quelle affirmation concernant l'AWS Cloud Control API est correcte ?

<p>Elle permet de contrôler les services AWS de manière programmatique (C)</p> Signup and view all the answers

Quel composant est essentiel pour auditer les changements d'infrastructure sur AWS ?

<p>AWS CloudTrail (C)</p> Signup and view all the answers

Quel est l'impact principal des architectures monolithiques sur la scalabilité ?

<p>Elles ne peuvent pas évoluer efficacement. (D)</p> Signup and view all the answers

Quelles sont les modules principaux d'une application de shopping en ligne mentionnée ?

<p>Module de commande, module de livraison, module de stock. (A), Module de commande, module de livraison, module de comptabilité. (D)</p> Signup and view all the answers

Quelle est la conséquence d'une surcharge sur une instance EC2 pour une application monolithique ?

<p>Des temps de réponse plus lents et une mauvaise expérience utilisateur. (D)</p> Signup and view all the answers

Qu'est-ce qui est souvent un défi lors de la mise à l'échelle d'applications monolithiques ?

<p>La nécessité d'une réécriture complète de l'application. (B), La gestion des dépendances entre modules complexes. (C)</p> Signup and view all the answers

Quel module d'une application de shopping en ligne gère les interactions d'expédition ?

<p>Module de livraison. (C)</p> Signup and view all the answers

Pourquoi une architecture monolithique peut-elle constituer un obstacle à la scalabilité d'une application ?

<p>Tous les modules sont étroitement intégrés, ce qui complique la mise à l'échelle. (D)</p> Signup and view all the answers

Quel aspect de l'instance EC2 est particulièrement affecté par la gestion de l'application monolithique ?

<p>Son efficacité de traitement lors des pics de charge. (A)</p> Signup and view all the answers

Quel module gère les détails financiers d'une application de shopping en ligne ?

<p>Module de comptabilité. (B)</p> Signup and view all the answers

Quel est l'un des avantages de l'Auto Scaling d'Amazon?

<p>Remplacement automatique des instances EC2 non saines (B)</p> Signup and view all the answers

Quel pourcentage de capacité était provisionné pour le trafic d'Amazon en novembre, selon les données fournies?

<p>24% (A), 76% (B)</p> Signup and view all the answers

Qui bénéficie de l'Auto Scaling au-delà des instances EC2?

<p>Toutes les ressources cloud (A)</p> Signup and view all the answers

Qu'est-ce qui déclenche le dimensionnement de l'Auto Scaling?

<p>Des métriques Amazon CloudWatch (C)</p> Signup and view all the answers

Quelle fonctionnalité permet de gérer les clusters de calcul à travers plusieurs zones de disponibilité?

<p>Le groupe de mise à l'échelle (A)</p> Signup and view all the answers

Quel est le principal objectif des tailles minimales et maximales dans l'Auto Scaling?

<p>Assurer un service constant sans fluctuation (A)</p> Signup and view all the answers

Quel est un usage incorrect de l'Auto Scaling?

<p>Remplacer instantanément toutes les instances (A)</p> Signup and view all the answers

Quelle affirmation est vraie concernant le trafic typique sur Amazon.com?

<p>Il existe des variations de trafic distinctes selon les jours. (D)</p> Signup and view all the answers

Flashcards

Évolutivité (Scaling)

Le processus de mise à l'échelle d'une application pour gérer un nombre croissant d'utilisateurs, en assurant des performances et une fiabilité optimales.

Évolutivité horizontale

La capacité d'une application à gérer un nombre croissant d'utilisateurs simultanément sans perte de performance.

Évolutivité verticale

La capacité d'une application à gérer plus d'utilisateurs en augmentant les ressources sur un serveur existant (CPU, mémoire, etc.).

Approche simple

L'approche la plus simple pour gérer la croissance du trafic consiste à utiliser des instances plus puissantes.

Signup and view all the flashcards

Types d'instances

AWS propose plus de 400 types d'instances avec des configurations différentes pour répondre à des besoins spécifiques.

Signup and view all the flashcards

Composants matériels

Les instances EC2 peuvent être équipées de différents types de composants matériels pour répondre à des besoins spécifiques, comme les cartes graphiques pour le traitement d'images ou les FPGA pour le traitement des données.

Signup and view all the flashcards

c5.9xlarge

L'instance c5.9xlarge est un exemple d'instance très puissante qui est conçue pour les applications exigeantes.

Signup and view all the flashcards

Inferentia

Inferentia est un processeur spécialisé conçu pour l'inférence d'apprentissage automatique, c'est-à-dire pour utiliser les modèles d'apprentissage automatique déjà entraînés.

Signup and view all the flashcards

Trainium

Trainium est un processeur spécialisé conçu pour l'entraînement des modèles d'apprentissage automatique.

Signup and view all the flashcards

Graviton

Graviton est un processeur basé sur l'architecture ARM, conçu pour optimiser les charges de travail spécifiques à cette architecture.

Signup and view all the flashcards

Changement d'instance

Le passage d'un type d'instance à un autre est généralement simple, ce qui permet de s'adapter facilement aux changements de besoins.

Signup and view all the flashcards

Auto Scaling (mise à l'échelle automatique)

L'utilisation d'instances Spot ou On-Demand pour créer des clusters informatiques qui peuvent être mis à l'échelle automatiquement.

Signup and view all the flashcards

Redimensionnement automatique

Une fonctionnalité qui vous permet de redimensionner automatiquement les clusters informatiques en ajoutant ou en supprimant des instances, en fonction des besoins.

Signup and view all the flashcards

Réplication sur plusieurs AZ

Gérer des clusters informatiques qui se répartissent sur plusieurs zones de disponibilité (AZ) pour une résilience accrue.

Signup and view all the flashcards

Tailles minimales/maximales des pools

La capacité minimale et maximale des instances dans un cluster.

Signup and view all the flashcards

Métriques Amazon CloudWatch pour la mise à l'échelle

Utilisation de métriques Amazon CloudWatch pour piloter la mise à l'échelle automatique.

Signup and view all the flashcards

Remplacement des instances EC2 non fonctionnelles

Remplacer les instances EC2 non fonctionnelles par des instances saines.

Signup and view all the flashcards

Auto Scaling au-delà des instances EC2

Utiliser Auto Scaling pour gérer non seulement les instances EC2, mais aussi d'autres services cloud.

Signup and view all the flashcards

Trafic variable sur un site web

Le trafic affluant vers un site web est variable, avec des pics et des creux selon les jours de la semaine.

Signup and view all the flashcards

AWS (Amazon Web Services)

Un ensemble d'outils et de services permettant de gérer et d'automatiser votre infrastructure informatique sur AWS. Il offre des solutions de développement, de déploiement et de gestion d'applications et de services cloud.

Signup and view all the flashcards

AWS CDK (Cloud Development Kit)

Permet d'automatiser le déploiement et la gestion d'infrastructures cloud via un langage de programmation familiar. Il permet d'utiliser des concepts de génie logiciel pour définir et configurer des ressources cloud.

Signup and view all the flashcards

IAM (Identity and Access Management)

Un service AWS permettant de définir et de gérer l'accès aux ressources cloud. Il permet de contrôler qui peut accéder à quelles ressources.

Signup and view all the flashcards

AWS CloudTrail

Un service qui enregistre les événements et actions effectuées dans votre compte AWS. Il permet de suivre les modifications et d'auditer les actions réalisées.

Signup and view all the flashcards

AWS CloudFormation

Un service AWS qui permet de déployer et de gérer des ressources cloud définies dans un fichier de configuration. Il permet de créer des infrastructures cloud de manière automatisée et répétable.

Signup and view all the flashcards

AWS Service APIs

Des services AWS qui fournissent des interfaces programmatiques pour interagir avec les services AWS. Ils permettent de créer des applications qui interagissent avec les services AWS.

Signup and view all the flashcards

AWS CLI (Command Line Interface)

Une interface en ligne de commande pour gérer les services AWS. Il permet d'interagir avec AWS depuis la ligne de commande.

Signup and view all the flashcards

AWS Tools and SDKs

Des kits de développement logiciel et des outils qui simplifient l'interaction avec les services AWS. Ils permettent de développer des applications qui interagissent avec AWS de manière plus facile.

Signup and view all the flashcards

Monolithic application (Application monolithique)

Une application qui est composée d'un seul codebase et qui est déployée sur un seul serveur.

Signup and view all the flashcards

Évolutivité horizontale (Horizontal Scaling)

La capacité d'une application à gérer un nombre croissant d'utilisateurs simultanément sans perte de performance.

Signup and view all the flashcards

Évolutivité verticale (Vertical Scaling)

La capacité d'une application à gérer plus d'utilisateurs en augmentant les ressources sur un serveur existant (CPU, mémoire, etc.).

Signup and view all the flashcards

Microservices

Un modèle d'architecture logicielle où l'application est divisée en plusieurs services indépendants, chacun étant responsable d'une fonctionnalité spécifique.

Signup and view all the flashcards

EC2 (Elastic Compute Cloud)

Une infrastructure cloud qui permet d'exécuter des applications sur des serveurs virtuels dans le cloud.

Signup and view all the flashcards

S3 (Simple Storage Service)

Un service cloud qui permet de stocker et de gérer des données dans le cloud.

Signup and view all the flashcards

CloudFront

Un service cloud qui permet de diffuser du contenu numérique, comme des vidéos, des images et des documents.

Signup and view all the flashcards

Multi-AZ

Le processus de configuration d'une infrastructure AWS pour qu'elle soit disponible dans plusieurs zones de disponibilité, ce qui améliore la tolérance aux pannes.

Signup and view all the flashcards

Services auto-évolutifs

Utilisation de services AWS qui s'adaptent automatiquement aux changements de charge, comme l'Application Load Balancer et Amazon S3.

Signup and view all the flashcards

Redondance

Assurer la redondance à tous les niveaux de l'infrastructure pour minimiser les impacts des pannes.

Signup and view all the flashcards

SQL à sa place

Commencer par utiliser une base de données relationnelle (SQL) pour une gestion plus simple et un développement plus rapide, avant de passer à un système NoSQL si nécessaire.

Signup and view all the flashcards

Mise en cache

Stocker les données en cache à différents niveaux de l'infrastructure pour améliorer les performances et réduire la charge sur la base de données principale.

Signup and view all the flashcards

Automatisation

Utiliser des outils d'automatisation pour simplifier les tâches répétitives et améliorer la fiabilité de l'infrastructure.

Signup and view all the flashcards

Surveillance

Mettre en place une surveillance, des métriques et de la journalisation pour identifier les problèmes et améliorer la performance de l'infrastructure.

Signup and view all the flashcards

SOA (Architecture orientée services)

Diviser les différentes parties de l'application en services indépendants pour améliorer la modularité et la flexibilité.

Signup and view all the flashcards

Study Notes

Introduction to Scaling on AWS

  • The presentation focuses on scaling up to 10 million users on Amazon Web Services (AWS).
  • The speaker is Giulio Iannazzo, a Solution Architect at Amazon Web Services.

How to Scale on AWS

  • Managing users, performance (across multiple geographies), detecting and responding to incidents, business continuity, security and compliance are all crucial for scaling.
  • Developing and testing, managing change, tracking and managing costs, and optimizing for cost and minimizing carbon footprint are also essential.

AWS Global Infrastructure

  • AWS has a global infrastructure with 34 regions and 108 Availability Zones (AZs).
  • It features a private backbone network and over 600 points of presence.
  • The regions are strategically located to provide data protection and resilience.

AWS Regions

  • AWS Regions define data location.
  • Regions are crucial for data protection, and compliance with regulations like GDPR.
  • Regions support disaster recovery plans.

Availability Zones (AZs)

  • An AZ is a cluster of data centers.
  • Each region has at least three AZs.
  • AZs contribute to fault tolerance and high availability.

Points of Presence

  • Used for content delivery services (e.g., Amazon CloudFront).
  • They aren't directly usable for applications.

AWS Local Zones

  • These are region extensions located in major cities and industrial centers.
  • They enhance regional coverage.

AWS Wavelength

  • An infrastructure for low latency access to data.
  • Located in stadiums and other key locations.
  • Optimized for 5G.

AWS Outposts

  • Extends AWS infrastructure into on-premises datacenters.
  • Supports ultra-low latency applications, on-premises data processing, and storage.

Breadth and Depth of Services

  • AWS offers over 200 fully featured services covering analytics, business applications, blockchain, databases, security, development tools, compute, media services, and more.
  • The services support hybrid architectures, IoT, ML, and more.

Considerations

  • The presentation emphasizes that many decisions are reversible.
  • It highlights iterative approaches: Build, Measure, Learn.
  • Control vs. Responsibility: A core concept for AWS users.
  • A starting point for selecting the right AWS services based on the requirements.

Architectural Patterns for Scaling

  • Single Instance (not suitable for high users)
  • Multiple Instances (with load balancers, and redundancy)
  • Multiple Regions
  • Typical read/write ratio (mostly reads)
  • Database Consistency
  • Shifting some load to CloudFront
  • Using Amazon S3 for object storage
  • Utilizing Amazon CloudFront to improve content delivery and reduce load times.
  • Using Amazon ElastiCache for increased performance, as well as consistency in the application.
  • Using DynamoDB for efficient access and storing large quantities of data.

Service-Oriented Architecture

  • Break down monolithic applications into independent services.
  • This facilitates scaling and maintenance.
  • Services typically have their own runtime environment (e.g., ECS, Lambda).

AWS Services

  • AWS Amplify - A developer tools suite for creating application front ends.
  • AWS Code services - Supports software release steps—allowing developers to deploy applications into several AWS compute services.
  • Blue/Green deployments–allowing for an increase in application availability, without affecting service disruption.
  • Monitoring/Observability tools—e.g., AWS X-Ray, helps to improve code performance; to troubleshoot and find anomalies quickly.

Auto Scaling

  • Auto scaling is a key element for handling fluctuating traffic.
  • It automatically adjusts capacity, ensuring high availability and cost-effectiveness.
  • It's important to scale across multiple AZs, enabling resilience against failures.

Additional Considerations ( > 1 millionUsers)

  • Fine-tune the solution.
  • Consider a multi-region deployment to support global users.
  • Check if the database is becoming a bottleneck.
  • Consider custom in-house tools, if needed.

Purpose-Built Databases

  • AWS provides purpose-built databases for specific needs (e.g., graph databases, key-value stores).
  • Leverage these solutions when appropriate to improve efficiency and performance.
  • Understanding of potential database issues, such as federation and sharding, to handle scaling.

A quick review

  • Key recommendations to improve applications, build scalability and resilience.

AWS Services (Conclusion)

  • Overview of further AWS tools and services for supporting the growth of applications.

Student resources

  • A list of suggestions for further learning and exploration, with links to various educational resources.

Studying That Suits You

Use AI to generate personalized quizzes and flashcards to suit your learning preferences.

Quiz Team

Related Documents

Scaling to 10 Million Users on AWS PDF

Description

Testez vos connaissances sur les instances conçues pour l'apprentissage automatique et la scalabilité horizontale. Ce quiz couvre différents types d'instances et services liés aux charges de travail ARM. Préparez-vous à répondre à des questions sur la résilience et la distribution des charges.

More Like This

Use Quizgecko on...
Browser
Open
Browser
Browser