Ik verzamel gegevens van elke API of website in een schone database
Python data pipelines, web scraping en Excel automatisering
Over deze dienst
Ik schrijf Python-code die jouw gegevens ophaalt en blijft ophalen - van een REST API, een openbare endpoint, of een pagina zonder API.
Wat je krijgt:
- Een script dat jij bezit en zelf kunt uitvoeren, geen black box op mijn machine
- - Output waar je het nodig hebt: CSV, Excel, SQLite of jouw eigen database
- - Pogingen, hervatten na een crash, en een dagelijkse integriteitscontrole die aangeeft wanneer een bron stilvalt
- - Een korte notitie over wat de data dekt en waar het onbetrouwbaar is, wat het deel is dat de meeste verkopers overslaan
Ik heb collectors 24/7 laten draaien tegen exchange APIs voor vier sporten en tegen crypto exchange endpoints, en datasets van miljoenen records verwerkt. Mijn code en rapporten zijn openbaar op GitHub.
Voordat ik iets schrijf, bevestig ik de scope schriftelijk: bronnen, velden, formaat, planning. Als een site automatische toegang blokkeert, of de data achter een login zit, vertel ik je dat voordat je betaalt, niet achteraf.
Technologie:
Python
•
Excel
•
Pandas
Type informatie:
Valuta en aandelen
•
Prijsvergelijking
•
Websites
Techniek:
Geautomatiseerd
Veelgestelde vragen
Automatische vertaling
Blijft het script werken als de website verandert?
Kleine layoutwijzigingen fix ik binnen de revisieperiode. Voor langdurige stabiliteit raad ik een API-bron aan waar er een bestaat, en ik vertel je vooraf of een site fragiel lijkt.
Scrap je sites die dat niet toestaan?
Nee. Ik controleer eerst de gebruiksvoorwaarden en robots.txt en vertel je of een bron niet toegankelijk is. Ik zou liever de opdracht verliezen dan je een script geven dat je account blokkeert.
Krijg ik de broncode?
Ja, in elk pakket. Je krijgt een uitvoerbaar Python-script en een korte setup-notitie, zodat je het zelf kunt draaien, aanpassen of later aan je eigen ontwikkelaar kunt geven.
