Plateformes Data
Microsoft Fabric : arrêter le copier-coller entre notebooks avec %run
Centralisons les constantes et fonctions partagées dans un notebook Fabric commun puis réutilisons-les avec %run sans copier-coller.
Plateformes Data
Azure Databriks - Introduction par la pratique
Dans le monde de l'ingénierie des données moderne, Databricks est un nom très connu. Lorsque l'on gravite autour de Spark, on utilise très régulièrement des outils ou concept directement issue de Databricks. Dans cet article nous allons faire nos premiers pas directement sur la plateforme Databricks
Fabric - Copy job
Il y a quelque temps, Microsoft a annoncé un type de job particulier, les "Copy job". Dans de nombreux projets, pour des raisons d'impact sur les bases opérationnelles, nous faisons des copies des données sources pour travailler de façon autonome par la suite. Ce type de job est justement là pour tr
Microsoft Fabric via Terraform - les Basics
Microsoft a annoncé très récemment la "Public Preview" d'un provider Terraform pour Microsoft Fabric. Nous allons ici tester les basics de la mise en place d'une Infrastructure as Code (IaC) autour de Fabric !
Connexion du Lake à Synapse
Nous avons fait le choix de créer un compte de stockage (ou plusieurs) séparé de celui propre à Synapse pour notre datalake. Et donc, après avoir créé nos différentes ressources (workspace et stockage), il reste une étape importante qui est la "connexion" du stockage au workspace afin de
Mise en cluster d'un runtime d'intégration auto-hébergé
Dans un précédent article, nous avons installé un runtime d'intégration auto-hébergé permettant le transfert de données locales vers Azure. Nous avions évoqué dans les options avancées, la possibilité de faire de la haute disponibilité pour notre runtime. Nous allons dans cet article configurer la haute disponibilité sur
Créer un dataset Power BI depuis notre Synapse DataLakeHouse
Notre DataLakeHouse contient physiquement des fichiers de données. Ceux-ci sont organisés, nettoyés, représentent un modèle de donnée défini sur la "dernière" couche et éventuellement de formats différents. Nous pouvons donc lire nos données depuis ces fichiers et travailler dessus pour faire ce que l'on en
Rafraichir un dataset Power BI depuis Azure Synapse Analytics
Nous allons présenter dans cet article comment mettre à jour notre Dataset Power BI directement depuis Azure Synapse Analytics via un pipeline.
Configurer un runtime dans Synapse pour la connexion à une base de données On-Prem
Dans cet article, je vais procéder à l'installation d'un runtime d'intégration "simple" pour Synapse, il n'y a pas de scalabilité ni de haute dispo comme il pourrait être nécessaire en production pour des applications critiques.
Création des ressources de stockage : Azure Synapse Analytics - Azure Blob Storage
Pour rappel, nous travaillons à la mise en place d'un datalake/datalakehouse "dans" Azure Synapse Analytics. Ce scénario tourne autour de deux solutions que sont : * Storage account / Data Lake Storage --> le "datalake" * Synapse workspace --> L'environnement de développement et d'
Création de l'environnement de travail : Azure Synapse Analytics - Workspace
Nous travaillons à la mise en place d’un datalake/datalakehouse « dans » Azure Synapse Analytics. Ce scénario tourne donc autour de deux solutions que sont : Storage account / Data Lake Storage pour le « datalake » Synapse workspace pour L’environnement de développement et d’intégration Cet article
Paramétrer les Pipeline Azure Synapse Analytics sans ouvrir Synapse !
Cet article était loin dans les cartons, mais l'article Alternative pipeline parametrization for Azure Synapse Analytics a motivé la priorisation de cet article. Merci @paul_eng pour le partage et la motivation d'écrire celui-ci !