Ik ontwikkel en los pyspark ETL-pijplijnen en datatransformaties op
Over deze dienst
Nodig hulp met een PySpark-taak die faalt, onverwachte resultaten oplevert of een afgebakste ETL-transformatie nodig heeft? Ik ben een computerengineer met professionele ervaring in software- en data-engineering. Ik heb PySpark-transformaties en batch-ETL-workflows opgebouwd met Azure Databricks en Azure Synapse Analytics, inclusief een medallion-stroom en het oplossen van een pijplijn die ongeveer 1,7 miljoen records verwerkt. Ik kan een specifieke fout verhelpen, één begrensde transformatie of batch-ETL-stroom implementeren, afgesproken gegevensformaten lezen en schrijven, gerichte controles toevoegen en de code toelichten. Voorafgaand aan de bestelling deel je de Spark/PySpark-versies, schema’s, een kleine veilige sample, verwachte output en runtime-context. Ik bevestig eerst de scope en aannames. Deel nooit wachtwoorden, tokens of productiegeheimen. Pakketten sluiten cloud-implementatie, infrastructuurconfiguratie, streaming, onbeperkte volumes en gegarandeerde prestatieverbeteringen uit. Optimalisatie betreft uitsluitend de afgesproken codebeoordeling en wijzigingen; de uitkomsten hangen af van data en runtime.
Tools & platforms:
Overige
Veelgestelde vragen
Automatische vertaling
Wat heb je van mij nodig om te beginnen?
Graag ontvang ik jouw doel, versies, schema’s, veilige invoer en verwachte uitvoer-voorbeelden, runtime-omgeving en bestaande code of foutdetails. Deel nooit wachtwoorden, tokens of productie-inloggegevens. Gebruik synthetische, geanonimiseerde of veilig deelbare data.
Welke Spark- en PySpark-versies ondersteun je?
Ik kan werken met een opgegeven versie wanneer de API’s en de vereiste omgeving beschikbaar zijn. Deel alsjeblieft de exacte Spark-, PySpark- en Python-versies plus bibliotheekbeperkingen zodat ik de compatibiliteit en scope kan bevestigen voordat het werk begint.
Met welke dataformaten kan ik werken?
Veelvoorkomende formaten zijn CSV, JSON en Parquet. Delta-tabellen zijn mogelijk in een compatibele Spark- of Databricks-setup. Deel eerst je schema en een kleine veilige sample zodat ik de vorm en scope kan bevestigen.
Kun je een pijplijn debuggen of oplossen die ik al heb?
Ja. Deel de relevante code, foutdetails, schema’s en een minimale reproduceerbare casus met veilige data. Ik bevestig eerst of het probleem past bij het gekozen pakket; bredere onderzoeken of meerdere taken vereisen een apart overeengekomen scope.
Beschrijf je ook testen of documentatie?
Basis bevat gerichte verificatie. Standaard bevat afgesproken data-controles, en Premium bevat ook korte documentatie. Unit- of integratietests worden niet meegerekend tenzij specifiek overeengekomen en technisch ondersteund door het geleverde project.
Kun je lokaal werken of in een cloud-omgeving?
Ik kan code ontwikkelen en controleren in een compatibele lokale of door de klant aangeleverde runtime en cloudspecifieke code beoordelen wanneer de vereiste details beschikbaar zijn. Implementatie en cloud-infrastructuurconfiguratie vallen buiten bereik. Deel geen productie-inloggegevens; gebruik where nodig klantuitvoer-stappen.
Kun je snellere prestaties of een bepaalde datahoeveelheid garanderen?
Nee. Resultaten hangen af van de gegevensstructuur, runtime, clusterinstellingen en beschikbare testdata. Ik kan een gedefinieerde codepad herzien en afgesproken wijzigingen doorvoeren, maar snelheidssprongen, onbeperkte volumes of infrastructuurafstemming kan ik niet garanderen zonder toegang en een apart overeengekomen scope.
Hoe kan ik gegevens veilig delen?
Gebruik bij voorkeur synthetische, geanonimiseerde of anderszins veilig deelbare monsters. Deel alleen materiaal waarvoor je toestemming hebt, en stuur nooit wachtwoorden, tokens of productie-inloggegevens. We kunnen van tevoren overeenkomen welke minimale data nodig is voordat we starten.
Wat telt als een revisie?
Een revisie is een wijziging aan werk dat al is geleverd binnen de afgesproken inputs, output en gedrag. Nieuwe vereisten, extra bronnen of transformaties, een andere klus of bredere debugging vallen buiten het pakket en kunnen een aangepaste aanbieding vereisen.
