Anti-bot koruması ve temiz CSV veya JSON çıktısı ile bir Python veya Node.js web kazıyıcı oluşturun

Zinn Digital tarafından satılır

Gerçek siteler için geliştirilen, JS işleme, bot engelleme önlemleri ve çok sayfalı tarama işlemlerini yöneten, temiz CSV, JSON veya veritabanı çıktısı 2 ila 10 gün içinde teslim edilen özel Python veya Node.js web kazıyıcıları.

Bir bakışta

Fiyat
$50,99 tutarından başlayan fiyatlarla
Teslimat
3 günde teslim edilir
Satıcı
Zinn Digital
Satıldı
0

Bu ilan hakkında

Demolar için değil, gerçek siteler için geliştirilmiş kazıyıcılar

Ürün katalogları, dizinler, pazaryerleri ve dinamik tek sayfalı uygulamalar için üretime hazır veri çıkarma araçları Python veya Node.js ile geliştirilmiştir. Çıktılar CSV, JSON formatında veya doğrudan veritabanınıza yazılarak teslim edilir.

Neler dahil

  • Belirttiğiniz özelliklere eşlenmiş alanlarla tek sayfadan veri çıkarma
  • Sayfalandırma, kategoriler veya site haritaları genelinde çok sayfalı tarama
  • Puppeteer, Playwright veya Selenium ile işlenen JavaScript tabanlı sayfalar
  • Giriş gerektiren içerikler için oturum yönetimi, çerezler ve form gönderimi
  • Bot koruması önlemleri: dönen kullanıcı aracıları (user-agent), proxy rotasyonu, istek sınırlama, başlık varyasyonu
  • İster manuel çözüm ister üçüncü taraf çözücü olsun, CAPTCHA duyarlı akışlar
  • Tarama gecikmelerine uyum, 403, 429 ve 503 yanıtlarında geri çekilme ve eşzamanlılık optimizasyonu
  • Veri temizleme: tekilleştirme, normalizasyon, alan eşleme, tarih ve fiyat ayrıştırma
  • CSV, JSON, Excel, Google E-Tablolar, PostgreSQL, MySQL, MongoDB veya Airtable platformlarına teslimat
  • Cron, GitHub Actions veya bulut işlevleri üzerinden zamanlanmış çalıştırmalar
  • Çalıştırmalar arasında yeni, güncellenmiş veya kaldırılmış kayıtları işaretleyen değişiklik algılama
  • Yeniden deneme kuyrukları ve işlenemeyen mesaj yönetimi (dead-letter) ile yapılandırılmış hata günlüğü

Neden dayanıklıdır

Birçok veri kazıyıcı (scraper) test sırasında bir kez çalışır ve site işaretleme dilini değiştirdiği, bir kullanıcı aracısını (user agent) engellediği veya yeni koruma katmanları eklediği anda başarısız olur. Yapılar; esnek seçicilere, yeniden deneme mantığına, yedek vekil sunuculara (proxy fallback) ve net günlük kaydı tutmaya dayanır; böylece bir seçici bozulduğunda veya bir sayfa veri yerine bir hata döndürdüğünde, sessizce boş satırlar almak yerine tam olarak hangi kayıtların neden başarısız olduğunu görürsünüz.

Kullanılan araçlar

Veri kazıma için Python (BeautifulSoup, Scrapy, Playwright, Selenium, Requests) ve Node.js (Puppeteer, Cheerio, Playwright, Axios); bot engelleme önlemleri için dönen vekil sunucular (rotating proxies), kullanıcı aracısı rotasyonu ve başsız tarayıcı (headless browser) parmak izi yönetimi; CSV, JSON, Excel, Google E-Tablolar, PostgreSQL, MySQL, MongoDB, SQLite ve Airtable üzerinde depolama; cron, GitHub Actions, AWS Lambda, Vercel Cron veya Railway aracılığıyla zamanlama; Docker, VPS sağlayıcıları, AWS veya Render üzerinde altyapı.

Teslim öncesi testler

Her yapı önce küçük bir örneklem üzerinde deneme çalıştırması yapar, ardından başarı ve başarısızlık özeti içeren tam bir çalıştırma gerçekleştirir. Çıktı, beklenen şemaya göre denetlenir; eksik alanlar, yinelenen satırlar ve ayrıştırma hataları teslimattan önce işaretlenir.

Mülkiyet

Kaynak kod ve veri kazıyıcı kimlik bilgileri nihai teslimatta tamamen size geçer. Hassas veya rekabete açık veri projeleri için talep üzerine bir gizlilik sözleşmesi sunulur.

Zaman çizelgeleri

Basic 2 ila 3 gün içinde, Standard 5 ila 7 gün içinde ve Premium 10 gün içinde teslim edilir.

Sizden gerekenler

  • Kazınacak hedef URL veya site
  • İsimler, fiyatlar, URL'ler veya görseller gibi gereken tam alanlar
  • Tercih ettiğiniz çıktı biçimi: CSV, JSON, Google E-Tablolar veya veritabanı
  • Bunun tek seferlik bir kazıma mı yoksa yinelenen bir iş mi olduğu

Hedef siteyi ve alan listesini gönderin; herhangi bir ödeme yapmanız gerekmeden önce, kendi hedefinizden çıkarılan gerçek verileri ilk başta görebilmeniz için çalışan bir önizleme kazıyıcı 48 saat içinde hazır olabilir.

Ne satın alabilirsiniz

Basic

$50,99
Veya bugünkü kur üzerinden €45,52 · £38,13 ödeyin — sepetinize eklediğinizde kur sabitlenir.

Single-site, single-page scraper with clean CSV or JSON output. - Full source code + setup - One target URL scraped - Up to 10 fields extracted per item - Static HTML parsing (no JS rendering) - CSV or JSON output - Deduplication + field normalization - Basic error handling and logging - Readme - 2 revisions

3 günde teslim edilir

Dahil edilen revizyonlar: 0

Bu paketi satın al

Zaten müşteri misiniz? Hesabınızdan satın alın

Standard

$125,99
Veya bugünkü kur üzerinden €112,48 · £94,20 ödeyin — sepetinize eklediğinizde kur sabitlenir.

Multi-page crawl with pagination, JS rendering and anti-bot handling. - Full source code + setup - One target URL scraped - Static HTML parsing (no JS rendering) - Deduplication + field normalization - Basic error handling and logging - Readme - Structured error log + retry queue - Multi-page crawl with pagination support - JavaScript-rendered pages (Puppeteer or Playwright) - Anti-bot handling — UA rotation, headers, request throttling - Proxy rotation support - Rate-limit compliance with backoff on 429/503 - Up to 25 fields per item - Unlimited records - Output to CSV, JSON, or Google Sheets - 3 revisions

7 günde teslim edilir

Dahil edilen revizyonlar: 0

Bu paketi satın al

Zaten müşteri misiniz? Hesabınızdan satın alın

Premium

$375,99
Veya bugünkü kur üzerinden €335,66 · £281,13 ödeyin — sepetinize eklediğinizde kur sabitlenir.

Full data pipeline with scheduling, database output, monitoring and dashboard. - Full source code + setup - One target URL scraped - Static HTML parsing (no JS rendering) - Deduplication + field normalization - Basic error handling and logging - Readme - Structured error log + retry queue - Multi-page crawl with pagination support - JavaScript-rendered pages (Puppeteer or Playwright) - Anti-bot handling — UA rotation, headers, request throttling - Proxy rotation support - Rate-limit compliance with backoff on 429/503 - Up to 25 fields per item - Unlimited records - Output to CSV, JSON, or Google Sheets - Priority delivery slot - Unlimited fields + custom schema mapping - Database output — PostgreSQL, MySQL, MongoDB, or SQLite - Scheduled runs — cron, GitHub Actions, AWS Lambda or Vercel - Cron Change detection between runs (new / updated / removed records) - Login-gated content support (session handling, form submission) - CAPTCHA-aware flow (manual-solve integration or third-party solver) - Docker-based deployment - Monitoring dashboard or Slack/email alerts on failure - Loom walkthrough of the full pipeline - 30 days post-delivery support - 5 revisions

10 günde teslim edilir

Dahil edilen revizyonlar: 0

Bu paketi satın al

Zaten müşteri misiniz? Hesabınızdan satın alın

Öncesinde bir hesaba gerek yoktur — hesabınız ödeme sırasında oluşturulur. İşi siz onaylayana kadar parayı güvende tutarız.

Sorular ve yanıtlar

Veri kazıyıcıları engelleyen bir siteden veri kazıyabilir misiniz?

Çoğu durumda, evet. Genel engellemeleri aşmak için proxy rotasyonu, kullanıcı aracısı varyasyonu, istek hızını sınırlama ve başsız tarayıcı oluşturmayı bir araya getiriyoruz. Daha ağır koruma hizmetleri çalıştıran siteler maliyeti artırabilir, bu nedenle önce hedefi inceler ve standart fiyatlandırmaya uyup uymadığını veya özel bir teklif gerekip gerekmediğini size bildiririz.

Web kazıma yasal mı?

Herkese açık sayfaların taranmasına çoğu yerde genellikle izin verilir, ancak bu durum site koşullarına, ilgili verilere ve kullanım amacınıza bağlıdır. Yalnızca herkese açık sayfalarla çalışırız, ödeme duvarlarını aşmayız, kişisel verileri toplamaktan kaçınırız ve yazılı onayınız ile yasal izniniz olmadan açık veri toplama karşıtı koşulları ihlal etmeyiz.

Site daha sonra düzenini değiştirirse ne olur?

Sayfa yapıları değişebilir ve bunun sonucunda seçiciler çalışmayı durdurabilir. Her kazıyıcı, bir alan veri döndürmeyi bıraktığı anda bilgilendirilmeniz için yapılandırılmış hata kaydı içerir. Standart ve Premium, kesintileri sınırlamak için yedek seçiciler ve uyarılar gibi dayanıklılık özellikleri ekler; ayrıca teslimatı takip eden 14 gün boyunca düzenle ilgili tüm düzeltmeleri ücretsiz olarak karşılıyoruz.

JavaScript ile işlenen sayfaları kazıyabilir misiniz?

Evet; tek sayfalı uygulamaları, geç yüklemeyi (lazy loading) ve sonsuz kaydırmayı işlemek için Puppeteer, Playwright veya Selenium kullanılarak yapılır. Bu, Standard ve Premium paketlerinin bir parçasıdır; Basic ise statik HTML ile sınırlıdır.

Giriş gerektiren içerikleri çekebilir misiniz?

Evet, sahibi olduğunuz veya kullanmaya yetkili olduğunuz hesaplar için geçerlidir. Oturum yönetimi, çerez yönetimi ve form gönderimi Premium kapsamına dahildir. Kimlik bilgilerinizi güvenli bir kanal üzerinden paylaşın; bunları proje bitiminden sonra saklamıyoruz.

CAPTCHA'ları nasıl işliyorsunuz?

İki yaklaşım sunuyoruz: Sizin müdahale ettiğiniz manuel çözüm duraklatması veya masrafları size ait olmak üzere üçüncü taraf bir CAPTCHA çözme hizmeti. Bu özellik Premium'a dahildir ve Standard'a eklenebilir.

Bir programa göre yinelenen veri kazıma işlemleri alabilir miyim?

Evet, Premium cron, GitHub Actions, AWS Lambda veya Vercel Cron aracılığıyla zamanlanmış çalıştırmaları destekler. Günlük, haftalık, aylık veya başka bir sıklıkta olmasını siz belirlersiniz ve her çalıştırma, isteğe bağlı hata uyarılarıyla birlikte sonuçlarını günlüğe kaydeder.

Sitede istek sınırları varsa ne olur?

İstek sınırı işleme standarttır: istek daraltma, 429 ve 503 yanıtlarında üstel geri çekilme ve sınırlar içinde kalmak için eşzamanlılık ayarı. Hem Standard hem de Premium bu mantığı eksiksiz olarak içerir.

Verileri doğrudan veritabanıma aktarabilir misiniz?

Evet, PostgreSQL, MySQL, MongoDB, SQLite veya Airtable içine doğrudan eklemeler desteklenmektedir. Veritabanı çıktısı Premium kapsamındadır; Standard ise CSV, JSON ve Google Sheets'i içerir.

Çalıştırma başına kaç kayıt çekebilirsiniz?

Sabit bir üst sınır yoktur; bu durum sitenin istek sınırlarına ve kullanılabilir proxy havuzunun büyüklüğüne bağlıdır. Birkaç gün içinde 100.000'den fazla kayıt çeken görevler yürüttük. Çok büyük tarama işlemleri için tespit eşiklerine takılmamak adına proxy rotasyonu ve zamanlanmış çalıştırmalar öneririz.

Teslimattan sonra kaynak kodun ve kazınan verilerin sahibi kimdir?

Son teslimatta kaynak kodu, kimlik bilgileri, dağıtım yapılandırması ve toplanan tüm veriler dahil olmak üzere; hiçbir lisanslama kısıtlaması, devam eden ücret veya sağlayıcıya bağımlılık olmaksızın tam mülkiyete sahip olursunuz.

Teslimden önce hangi testler ve kalite kontrol (QA) süreçleri gerçekleştirilir?

Her kazıyıcı önce küçük bir örneklem üzerinde çalıştırılır, ardından tam bir çalıştırma gerçekleştirilir. Çıktı beklenen şemaya göre kontrol edilir ve eksik alanlar, yinelenen satırlar ve ayrıştırma hataları, hata günlüğü ve başarılar ile başarısızlıkların bir özetiyle birlikte teslimden önce işaretlenir.