Ik bouw en optimaliseer AWS glue etl data pipelines
Over deze dienst
Heb je een betrouwbare AWS data pipeline nodig die gebouwd, gerepareerd of geoptimaliseerd moet worden?
Ik ben een AWS-gecertificeerde Cloud en DevOps Engineer met praktische ervaring in het ontwerpen van enterprise data pipelines met AWS Glue, PySpark, Amazon S3, Amazon Redshift, Python, Terraform en GitHub Actions.
Ik kan helpen met:
Ontwikkeling en troubleshooting van AWS Glue ETL jobs
S3-inname, partitionering en Parquet-verwerking
PySpark-transformaties en schema-afhandeling
Redshift staging, laden, MERGE en deduplicatie
Tijdstempelconversie, backfills en incrementele loads
Data-kwaliteitscontroles, validatie en monitoring
Glue Catalog en crawler-configuratie
Terraform infrastructuur en CI/CD deployment workflows
Pipeline-prestatie en kostenoptimalisatie
Root-cause analyse voor schema- en omgevingsspecifieke fouten
Mijn ervaring omvat het bouwen van productie pipelines voor complexe JSON-data, het flattenen van geneste structuren, het toepassen van latest-record logica, het oplossen van typeconflicten en het bevorderen van gecontroleerde wijzigingen door ontwikkel-, test- en productieomgevingen.
Neem contact met me op voordat je bestelt als je pipeline meerdere bronnen heeft, grote backfills, complexe schema's of productie-implementatievereisten.
Bestemmingsplatform:
Amazon Redshift
•
Amazon S3
Tools & platforms:
Overige
Mijn portfolio
Veelgestelde vragen
Automatische vertaling
Kun je een bestaande AWS Glue job repareren?
Ja. Deel het script, foutdetails, verwachte resultaat, voorbeeldschema en relevante logs. Verwijder vertrouwelijke gegevens en credentials voordat je iets verstuurt.
Kun je data laden in Amazon Redshift of Amazon S3?
Ja. Ik kan ETL-stromen bouwen of verbeteren die data in Amazon S3 of Amazon Redshift inladen, transformeren, valideren en laden.
Kun je geneste JSON, schemawijzigingen en backfills aan?
Ja. Ik kan geneste JSON flattenen, schema- en typeconflicten beheren, deduplicatie toepassen en gecontroleerde historische backfills ontwerpen.
Kun je de pipeline deployen met Terraform en CI/CD?
Ja. De scope van Standard of Premium kan Terraform en geautomatiseerde promotieworkflows met GitHub Actions omvatten, afhankelijk van jouw omgeving.
