Ik maak Python op maat gemaakte scrapers op grote schaal

Sommige informatie is automatisch vertaald.

Pakistan

Ik spreek Engels, Urdu

AI Data Engineering, Business Intelligence expert

Na 3 jaar in data engineering, realiseerde ik me dat de echte waarde niet in het schrijven van code ligt — het gaat erom rommelige data om te zetten in zakelijke antwoorden. De meeste bedrijven hebben...
Over deze dienst

Dit is niet de gebruikelijke web scraping klus.


De meeste scraping klussen leveren een eenmalige dataset op en stoppen ermee.

Maar ik bouw productieklare dataplatforms die continu web data verzamelen, verwerken en analyseren.


Een klantverhaal


De heer Anton Enta, een gepensioneerde journalist, wilde een tweedehands auto kopen maar wist niet hoe hij de markt moest beoordelen. In plaats van listings één keer te scrapen, bouwden we een platform dat de grootste gebruikte auto markt van het continent monitorde met 500.000+ live listings.


Het systeem draaide 24/7 op een server, verzamelde historische prijzen, kleuren, modellen en markttrends. Aan het eind had hij geen ruwe data meer bekeken. Hij had een compleet overzicht van hoe de markt zich gedroeg.


Om de data nuttig te maken, heb ik ook gebouwd:

  • Een NLP chatbot om de data in gewoon Engels te vragen.
  • Een Superset dashboard voor interactieve analytics en trendvisualisatie.


Dat is data engineering, niet alleen web scraping.


Tech stack: Python, Playwright, Selenium, BeautifulSoup, Requests, Pandas, PostgreSQL, MongoDB, Redis, Kafka, Airflow, Spark, dbt, Docker, ClickHouse, Superset, AWS.


Als je een CSV nodig hebt, kunnen veel klussen dat doen.


Wil je een dataplatform dat voortdurend business intelligence genereert, laten we dan je project bespreken.

Technologie:

Python

NodeJS

Selenium

Beautiful Soup

Toneelschrijver

Type informatie:

Contactinformatie

Vermeldingen

Techniek:

Geautomatiseerd

Mijn portfolio

Gerelateerde tags