Professionele Azure Data Engineer met meer dan 3 jaar ervaring en praktische ervaring in het ontwikkelen van zeer complexe ETL-pijplijnen.
- Ervaren in het implementeren van schaalbare end-to-end geoptimaliseerde workflows op Azure Data Factory / Databricks om data te extraheren, verwerken en opslaan uit diverse bronnen, wat resulteerde in een gemiddelde 40% vermindering van de data verwerkingsduur voor mijn klanten.
- Ervaren in het migreren van data van legacy systemen (On-premise) en APIs naar Azure Data Lake, waarbij complexe transformaties op data worden uitgevoerd met DataBricks (Python en PySpark), het verwerkte data naar SQL Server / PostgreSQL / Data of Delta Lake wordt verplaatst, en SQL Stored Procedures / Functions worden geschreven die de data kunnen transformeren en berekeningen uitvoeren op basis van bedrijfslogica.
- Ik ben ook bedreven in het ontwikkelen en onderhouden van DeltaLake-architecturen met behulp van Databricks en het gebruik van DataLakes om de onderliggende data op te slaan en beveiligingsnormen af te dwingen.
- Workloads plannen met behulp van Azure Data Factory triggers of Databricks workflows.
Belangrijkste expertise: SQL, Python, PySpark, Databricks, Azure, APIs, Data Transformatie, Analytics.
Portfolio: https://arlsnahafeez967.github.io/Arslanhafeez2.github.io/