Coursera

Spécialisation "Building Smarter Data Pipelines: SQL, Spark, Kafka & GenAI "

Profitez de l'une de nos meilleures offres et renforcez vos compétences avec 50 % de réduction sur Coursera Plus. Économisez maintenant.

Coursera

Spécialisation "Building Smarter Data Pipelines: SQL, Spark, Kafka & GenAI "

Build Scalable Data Engineering Systems.

Learn to design, implement, and optimize data pipelines using industry-standard tools and frameworks

Caio Avelino
Starweaver
Soheil Haddadi

Instructeurs : Caio Avelino

2 160 déjà inscrits

Inclus avec Coursera Plus

Approfondissez votre connaissance d’un sujet

des 101 examens de cours de ce programme

niveau Intermédiaire

Expérience recommandée

4 semaines à compléter
à 10 heures par semaine
Approfondissez votre connaissance d’un sujet

des 101 examens de cours de ce programme

niveau Intermédiaire

Expérience recommandée

4 semaines à compléter
à 10 heures par semaine

Ce que vous apprendrez

  • Design and implement scalable data ingestion, processing, and storage systems using Apache Kafka and Spark

  • Build high-performance data pipelines integrating cloud platforms, databases, and generative AI technologies

  • Apply data engineering best practices for enterprise-scale analytics, optimization, and real-time processing

Compétences que vous acquerrez

  • Catégorie : Data Modeling
  • Catégorie : Data Warehousing
  • Catégorie : Star Schema
  • Catégorie : Performance Tuning
  • Catégorie : Snowflake Schema
  • Catégorie : Quality Management
  • Catégorie : SQL
  • Catégorie : Data Governance
  • Catégorie : Data Pipelines
  • Catégorie : Real Time Data
  • Catégorie : Cloud Computing Architecture
  • Catégorie : Business Intelligence
  • Catégorie : Responsible AI
  • Catégorie : Extract, Transform, Load
  • Catégorie : Data Quality

Outils que vous découvrirez

  • Catégorie : Generative AI
  • Catégorie : Apache Hadoop
  • Catégorie : Apache Kafka
  • Catégorie : Microsoft SQL Servers
  • Catégorie : Apache Spark

Détails à connaître

Certificat partageable

Ajouter à votre profil LinkedIn

Enseigné en Anglais
Récemment mis à jour !

juillet 2026

Planning flexible
Apprenez à votre propre rythme

Découvrez comment les employés des entreprises prestigieuses maîtrisent des compétences recherchées

 logos de Petrobras, TATA, Danone, Capgemini, P&G et L'Oreal

Améliorez votre expertise en la matière

  • Acquérez des compétences recherchées auprès d’universités et d’experts du secteur
  • Maîtrisez un sujet ou un outil avec des projets pratiques
  • Développez une compréhension approfondie de concepts clés
  • Obtenez un certificat professionnel auprès de Coursera

Spécialisation - série de 9 cours

Engineering Data Ecosystems: Pipelines, ETL, Spark

Engineering Data Ecosystems: Pipelines, ETL, Spark

COURS 1, 3 heures

Ce que vous apprendrez

  • Identify and describe the components and importance of data ecosystems.

  • Understand the basic structure and function of data pipelines.

  • Recognize the steps involved in ETL workflows and their role in data handling.

  • Gain an introductory knowledge of big data and the application of Apache Spark.

Compétences que vous acquerrez

Catégorie : Extract, Transform, Load
Catégorie : Apache Spark
Catégorie : Data Management
Catégorie : Data Integration
Catégorie : Data Processing
Catégorie : Data Pipelines
Catégorie : Big Data
Data Engineering: Pipelines, ETL, Hadoop

Data Engineering: Pipelines, ETL, Hadoop

COURS 2, 3 heures

Ce que vous apprendrez

  • Analyse the architecture and components of data pipelines to understand their impact on data flow and processing efficiency.

  • Implement robust ETL processes, for scalability and maintainability.

  • Analyze big data challenges and introduce Hadoop ecosystem tools (HDFS, MapReduce, Hive, Pig, and Spark) for data processing tasks.

Compétences que vous acquerrez

Catégorie : Extract, Transform, Load
Catégorie : Data Pipelines
Catégorie : Apache Hadoop
Catégorie : Scalability
Catégorie : Data Architecture
Catégorie : Data Warehousing
Catégorie : Data Integration
Catégorie : Data Analysis
Catégorie : Data-Driven Decision-Making
Catégorie : Big Data
Catégorie : Data Transformation
Catégorie : Apache Hive
Catégorie : Dataflow
Catégorie : Data Processing
Catégorie : Data Management
Catégorie : Data Strategy
Catégorie : Apache Spark
Data Warehousing: Schema, ETL, Optimal Performance

Data Warehousing: Schema, ETL, Optimal Performance

COURS 3, 3 heures

Ce que vous apprendrez

  • Explain the importance of data warehousing in business intelligence.

  • Design and implement effective schema designs for data warehouses.

  • Implement ETL processes to load and transform data into a data warehouse.

  • Apply performance optimization techniques to enhance data warehouse efficiency.

Compétences que vous acquerrez

Catégorie : Star Schema
Catégorie : Query Languages
Catégorie : Data Warehousing
Catégorie : Snowflake Schema
Catégorie : Extract, Transform, Load
Catégorie : Data Management
Catégorie : Data Modeling
Catégorie : Data Integration
Catégorie : Databases
Catégorie : Business Intelligence
Catégorie : Database Design
Catégorie : Performance Tuning
Catégorie : Data Transformation
Catégorie : Performance Improvement
Microsoft SQL Server: Performance Tuning Essentials

Microsoft SQL Server: Performance Tuning Essentials

COURS 4, 3 heures

Ce que vous apprendrez

  • Analyze and tune SQL queries to enhance SQL performance and reduce application latency.

  • Evaluate effective database index and maintenance task strategies to improve efficiency.

  • Monitor the performance of troubleshooting techniques used for resolving common SQL server issues.

  • Apply best practices for SQL Server performance to ensure consistent and reliable operations.

Compétences que vous acquerrez

Catégorie : Performance Tuning
Catégorie : SQL
Catégorie : Microsoft SQL Servers
Catégorie : Database Management Systems
Catégorie : Database Management
Catégorie : Query Languages
Catégorie : System Monitoring
Catégorie : Application Performance Management
Apache Kafka - An Introduction

Apache Kafka - An Introduction

COURS 5, 3 heures

Ce que vous apprendrez

  • Describe Apache Kafka's architecture and its components, enhancing data pipeline efficiency.

  • Configure and manage Kafka clusters, ensuring high availability and fault tolerance.

  • Apply (Create and use) topics, publishers, and subscribers to facilitate real-time data exchange.

  • Implement basic stream processing applications using Kafka Streams, addressing real-world data challenges.

Compétences que vous acquerrez

Catégorie : Real Time Data
Catégorie : Apache Kafka
Catégorie : Scalability
Catégorie : Data Pipelines
Catégorie : Data Processing
Cloud Architecture Design Patterns

Cloud Architecture Design Patterns

COURS 6, 3 heures

Ce que vous apprendrez

  • Show understanding of the fundamentals of cloud architecture, including key components like virtual machines, storage, and networking.

  • Identify and implement core cloud design patterns such as Load Balancer, Circuit Breaker, and Auto-Scaling to ensure scalability and reliability.

  • Demonstrate advanced cloud design patterns, including Microservices Architecture, Event-Driven Architecture, and Serverless Computing.

Compétences que vous acquerrez

Catégorie : Serverless Computing
Catégorie : Microservices
Catégorie : Cloud Computing Architecture
Catégorie : Load Balancing
Catégorie : Cloud Services
Catégorie : Scalability
Catégorie : Event-Driven Programming
Catégorie : Cloud Deployment
Catégorie : Cloud Infrastructure
Catégorie : Infrastructure As A Service (IaaS)
Catégorie : Software Architecture
Catégorie : Cloud Computing
Catégorie : Software Design Patterns
Design Real-Time Architectures with Spark & Kafka

Design Real-Time Architectures with Spark & Kafka

COURS 7, 4 heures

Ce que vous apprendrez

  • Examine core real-time data principles and how Kafka and Spark support streaming architectures.

  • Create real-time pipelines by connecting Kafka topics with Spark Structured Streaming.

  • Improve and deploy streaming systems using monitoring, fault tolerance, and tuning.

Compétences que vous acquerrez

Catégorie : Apache Spark
Catégorie : Real Time Data
Catégorie : Apache Kafka
Catégorie : Real-Time Operating Systems
Catégorie : Data Transformation
Catégorie : Performance Tuning
Catégorie : Software Architecture
Catégorie : Systems Architecture
Catégorie : Application Deployment
Catégorie : Data Processing
Catégorie : Architecture and Construction
Catégorie : Data Pipelines
Catégorie : Event-Driven Programming
Catégorie : Scalability
Catégorie : Performance Management
Catégorie : Distributed Computing
Smart Data Cleaning with Generative AI

Smart Data Cleaning with Generative AI

COURS 8, 7 heures

Ce que vous apprendrez

Compétences que vous acquerrez

Catégorie : Generative AI
Catégorie : Automation
Catégorie : Data Cleansing
Catégorie : Data Preprocessing
Catégorie : Data Quality
Catégorie : Responsible AI
Catégorie : Alteryx
Catégorie : OpenAI
Catégorie : Tensorflow
Catégorie : Data Validation
GenAI for Data Engineers: Scaling with GenAI

GenAI for Data Engineers: Scaling with GenAI

COURS 9, 3 heures

Ce que vous apprendrez

  • Identify the capabilities of GenAI for basic role specific, Data Engineer functions.

  • Examine real-world applications to leverage GenAI for streamlining work and fostering innovation in Data Engineering functions.

  • Deploy strategies and tactics to responsibly integrate GenAI into data engineering practices, while maintaining human oversight and accountability.

Compétences que vous acquerrez

Catégorie : Generative AI
Catégorie : Data Modeling
Catégorie : Data Pipelines
Catégorie : SQL
Catégorie : Responsible AI
Catégorie : Data Transformation

Obtenez un certificat professionnel

Ajoutez ce titre à votre profil LinkedIn, à votre curriculum vitae ou à votre CV. Partagez-le sur les médias sociaux et dans votre évaluation des performances.

Instructeurs

Caio Avelino
9 Cours8 934 apprenants
Starweaver
Coursera
571 Cours1 159 189 apprenants
Soheil Haddadi
Coursera
6 Cours6 002 apprenants

Offert par

Coursera

Pour quelles raisons les étudiants sur Coursera nous choisissent-ils pour leur carrière ?

Felipe M.

Étudiant(e) depuis 2018
’Pouvoir suivre des cours à mon rythme à été une expérience extraordinaire. Je peux apprendre chaque fois que mon emploi du temps me le permet et en fonction de mon humeur.’

Jennifer J.

Étudiant(e) depuis 2020
’J'ai directement appliqué les concepts et les compétences que j'ai appris de mes cours à un nouveau projet passionnant au travail.’

Larry W.

Étudiant(e) depuis 2021
’Lorsque j'ai besoin de cours sur des sujets que mon université ne propose pas, Coursera est l'un des meilleurs endroits où se rendre.’

Chaitanya A.

’Apprendre, ce n'est pas seulement s'améliorer dans son travail : c'est bien plus que cela. Coursera me permet d'apprendre sans limites.’

Foire Aux Questions