Ik bouw je etl data pipeline met python, sql en apache airflow
Data Engineer voor ETL Pipelines, Python en SQL automatisering
Over deze dienst
Ik bouw betrouwbare, productieklare ETL/ELT pipelines die je data zonder fouten of downtime verplaatsen en transformeren. In mijn huidige rol als Data Engineer heb ik pipelines ontworpen die miljarden records synchroniseren tussen systemen met realtime deduplicatie, volledige en delta sync, en nul dataverlies in productie, en heb ik Apache NiFi clusters gebouwd die continue enterprise data integratie verzorgen.
Of je nu een eenvoudig script nodig hebt om data van een CSV naar een database te verplaatsen, of een geplande pipeline die data ophaalt via een API en in je data warehouse laadt, ik ontwerp het zodat het schoon, gedocumenteerd en makkelijk door jouw team over te nemen is.
Wat ik kan helpen met: data extractie uit APIs, databases of bestanden; transformatie en opschoning; deduplicatie en upsert logica; geplande en geautomatiseerde synchronisaties; en migratie tussen databases zoals MySQL, SQL Server en PostgreSQL.
Ik breng dezelfde betrouwbaarheid die ik in productie systemen gebruik die miljoenen gebruikers ondersteunen naar elk project hier. Heldere communicatie en schone, goed gedocumenteerde code maken altijd deel uit van de oplevering.
Bestemmingsplatform:
PostgreSQL
•
MySQL
•
Microsoft SQL Server
Tools & platforms:
Kafka Connect
•
Apache NiFi
Veelgestelde vragen
Automatische vertaling
Welke gegevens heb je van mij nodig om aan de slag te gaan?
Stuur me je gegevensbron en bestemming details (databases, APIs of bestanden), het formaat van je data, en hoe vaak de sync moet plaatsvinden. Ik regel de rest.
Kun je werken met mijn bestaande AWS of Azure setup?
Ja, ik werk regelmatig met ADLS, S3 en andere cloud storage- en database-diensten, en kan integreren met je bestaande infrastructuur.
Lever je documentatie voor de pipeline die je bouwt?
Ja, elke oplevering bevat duidelijke documentatie over setup, configuratie en werking van de pipeline, zodat je team het gemakkelijk kan onderhouden.

