Ik bouw je etl data pipeline met python, sql en apache airflow

Sommige informatie is automatisch vertaald.

India

Ik spreek Engels

Data Engineer voor ETL Pipelines, Python en SQL automatisering

Data Engineer bij Ksolves India Ltd., verantwoordelijk voor grote Big Data infrastructuur die productie Hadoop clusters aandrijft. Ik heb een Redis high-availability laag ontworpen die meer dan 5 milj...
Over deze dienst

Ik bouw betrouwbare, productieklare ETL/ELT pipelines die je data zonder fouten of downtime verplaatsen en transformeren. In mijn huidige rol als Data Engineer heb ik pipelines ontworpen die miljarden records synchroniseren tussen systemen met realtime deduplicatie, volledige en delta sync, en nul dataverlies in productie, en heb ik Apache NiFi clusters gebouwd die continue enterprise data integratie verzorgen.


Of je nu een eenvoudig script nodig hebt om data van een CSV naar een database te verplaatsen, of een geplande pipeline die data ophaalt via een API en in je data warehouse laadt, ik ontwerp het zodat het schoon, gedocumenteerd en makkelijk door jouw team over te nemen is.


Wat ik kan helpen met: data extractie uit APIs, databases of bestanden; transformatie en opschoning; deduplicatie en upsert logica; geplande en geautomatiseerde synchronisaties; en migratie tussen databases zoals MySQL, SQL Server en PostgreSQL.


Ik breng dezelfde betrouwbaarheid die ik in productie systemen gebruik die miljoenen gebruikers ondersteunen naar elk project hier. Heldere communicatie en schone, goed gedocumenteerde code maken altijd deel uit van de oplevering.

Bestemmingsplatform:

PostgreSQL

•

MySQL

•

Microsoft SQL Server

Tools & platforms:

Kafka Connect

•

Apache NiFi

Gerelateerde tags