Ik voer data cleaning, deduplicatie en formatting uit op rommelige data bestanden
Python Data Engineer: web scraping, ETL pipelines en data verrijking
Niveau 1
Voldoet aan bepaalde prestatiecriteria en toont een sterke potentie op de marktplaats.
Over deze dienst
Het bestand bevat 40.000 rijen, drie mensen hebben het bewerkt, en dezelfde naam komt voor als Acme, ACME Ltd en Acme Limited. Handmatig corrigeren kost een week en brengt nieuwe fouten met zich mee. Data cleaning in code kost een middag en kan volgende maand opnieuw worden uitgevoerd.
Wat ik fix
- Duplicaten, inclusief bijna-overeenkomsten die een spreadsheet-formule nooit zal vinden
- Inconsistente data, namen, adressen, valuta's en hoofdletters
- Samengevoegde of gesplitste kolommen, en bestanden die eerst moeten worden aangepast voordat ze bruikbaar zijn
- Encoding, scheidingstekens en rijen die breken bij import
Wat je terugkrijgt
- Een schoon bestand: CSV, Excel, JSON of een Google Sheet
- Een changelog met wat is veranderd, samengevoegd of verwijderd, inclusief het aantal rijen
- Het cleaning script, als je het de volgende keer zelf wilt uitvoeren
De grootste klus die ik heb gedaan, was het verwerken van meer dan 100 miljoen JSON-bestanden tot analyse-klaar CSV.
Excel stopt meestal voordat de meeste van deze klussen klaar zijn. Voor bestanden met meer dan ongeveer 50.000 rijen of voor fuzzy matching gebruik ik Python en Pandas. Stuur me het bestand en vertel wat een afgerond resultaat is. Ik bevestig de scope en geef een offerte voordat je bestelt.
Mijn portfolio
Veelgestelde vragen
Automatische vertaling
Kun je meerdere bestanden samenvoegen?
Ja, en dat is het grootste deel van het werk bij een typische opdracht. Verschillende kolomnamen, verschillende datumnotaties, overlappende rijen en één bestand met een extra kolom die niemand heeft gedocumenteerd. Ik map ze naar één schema en vertel je welke rijen van waar komen.
Mijn bestand bevat 500.000 rijen. Is dat een probleem?
Nee. Boven de 50.000 rijen gaat het werk uit een spreadsheet en naar Python en Pandas, wat sneller en herhaalbaar is in plaats van trager. Half miljoen rijen is een gewone klus. Stuur een voorbeeld en ik bevestig de prijs voordat je bestelt.
Wat telt als een duplicaat?
Jij vertelt het me, en dat is het deel waarover je het beste kunt overeenkomen voordat ik begin. Exacte overeenkomsten zijn makkelijk. Het nuttige werk is fuzzy matching: Acme Ltd tegen ACME Limited, hetzelfde adres op vier manieren geschreven, twee records die alleen verschillen in witruimte. Ik laat je de matches zien voordat ik ze samenvoeg.
Zal je me vertellen wat je hebt veranderd?
Ja, elke opdracht krijgt een changelog: rijen ingelezen, rijen uit, wat is samengevoegd, wat is verwijderd en waarom, en welke velden gestandaardiseerd zijn. Je zou niet hoeven te vertrouwen op een schoon bestand. Je moet het kunnen controleren.
Krijg ik het schoonmaakscript?
Inbegrepen in Standard en Premium, in Python, met commentaar, zodat je het kunt draaien op de export van volgende maand zonder opnieuw te bestellen. Basic levert alleen het schoongemaakte bestand, wat de juiste keuze is als dit echt een eenmalige klus is.
Kun je gescrapete data met kapotte encoding schoonmaken?
Ja, en dat is een veelvoorkomend probleem. Mojibake door de verkeerde encoding, HTML-entiteiten in tekstvelden, losse witruimte en nieuwe regels binnen cellen, nummers opgeslagen als tekst met valuta-symbolen eraan vast. Stuur een voorbeeld en ik vertel je wat te herstellen is.
Kun je de data ook analyseren naast het schoonmaken?
Samenvattingstabellen, pivots en grafieken zitten in Standard en Premium, en ze zijn handig om de schoonmaak te controleren. Als je echt statistisch werk of modellering nodig hebt, is dat een andere klus en ik verwijs je liever door dan dat ik het adequaat doe.
Kan dit elke maand automatisch draaien?
Ja, als een geplande pipeline in plaats van een herhaalde opdracht: het bestand komt binnen, het script draait, de schoongemaakte versie verschijnt waar je het nodig hebt. Dat is mijn data pipeline dienst, niet deze. Stuur me een bericht en ik stuur je de link in plaats van je twaalf keer te laten betalen.
Mijn data bevat persoonlijke informatie. Is dat een probleem?
Vertel het me voordat je het verstuurt. Ik kan er mee werken, en ik zal de bronbestanden verwijderen na levering op verzoek, maar ik weet liever vooraf dat er namen en adressen in staan dan dat ik ze vind in een bestand waarvan ik dat niet had verwacht. Pseudoniem of gesamplede data is prima voor de scope.
Hoe weet ik welk pakket ik nodig heb?
Stuur eerst het bestand of een sample ervan. Sommige klussen lijken simpel en vereisen fuzzy matching over drie bronnen; andere lijken eng en zijn één find-and-replace. Ik vertel je welke prijslaag het is, of geef een offerte op maat, voordat je iets betaalt.
93 reviews van deze dienst
| (83) | ||
| (8) | ||
| (0) | ||
| (1) | ||
| (1) |
Specificering van de beoordeling
- Communicatieniveau van de freelancer
- Kwaliteit van de levering
- Waarde van de levering
Sorteer op
J jcummings72

Verenigde Staten
I had 74,000 duplicate contacts and he was able to scrub the file and condense to no duplicates with all of the information. I’ve been trying to resolve this for years. He was able to turn it around within 24 hours. Thanks again!
US$ 50-US$ 100
Prijs
4 dagen
Looptijd
Nuttig?S 
soweilam01

Verenigde Arabische Emiraten
Lopende samenwerkingHighly recommend this seller for any project involving word and or excel.
US$ 50
Prijs
1 dag
Looptijd
Nuttig?S 
soweilam01

Verenigde Arabische Emiraten
Lopende samenwerkingVery detailed oriented and thorough seller. Happy reterning customer.
US$ 50
Prijs
4 dagen
Looptijd
Nuttig?J 
johncharlin

India
very good job done
US$ 50
Prijs
1 dag
Looptijd
Nuttig?A aclaudiof

Puerto Rico
Job was done close to expectations, but not complete. Unfortunately it was delivered too late, and I couldn't meet my client due date. Supplier suggested a 50% discount, that ant the end was not given, and never delivered on time, with lack of response due to a private family event.
US$ 100-US$ 200
Prijs
2 weken geleden
Looptijd
Nuttig?
93 reviews van deze dienst
| (83) | ||
| (8) | ||
| (0) | ||
| (1) | ||
| (1) |
Specificering van de beoordeling
- Communicatieniveau van de freelancer
- Kwaliteit van de levering
- Waarde van de levering
Sorteer op
J jcummings72

Verenigde Staten
I had 74,000 duplicate contacts and he was able to scrub the file and condense to no duplicates with all of the information. I’ve been trying to resolve this for years. He was able to turn it around within 24 hours. Thanks again!
US$ 50-US$ 100
Prijs
4 dagen
Looptijd
Nuttig?S 
soweilam01

Verenigde Arabische Emiraten
Lopende samenwerkingHighly recommend this seller for any project involving word and or excel.
US$ 50
Prijs
1 dag
Looptijd
Nuttig?S 
soweilam01

Verenigde Arabische Emiraten
Lopende samenwerkingVery detailed oriented and thorough seller. Happy reterning customer.
US$ 50
Prijs
4 dagen
Looptijd
Nuttig?J 
johncharlin

India
very good job done
US$ 50
Prijs
1 dag
Looptijd
Nuttig?A aclaudiof

Puerto Rico
Job was done close to expectations, but not complete. Unfortunately it was delivered too late, and I couldn't meet my client due date. Supplier suggested a 50% discount, that ant the end was not given, and never delivered on time, with lack of response due to a private family event.
US$ 100-US$ 200
Prijs
2 weken geleden
Looptijd
Nuttig?

