Bangun web scraper Python atau Node.js dengan penanganan anti-bot dan output CSV atau JSON yang bersih

Dijual oleh Zinn Digital

Web scraper kustom Python atau Node.js yang dibuat untuk situs web nyata, menangani perenderan JS, pertahanan anti-bot, dan perayapan banyak halaman, dengan output CSV, JSON, atau basis data bersih yang dikirimkan dalam 2 hingga 10 hari.

Sekilas

Harga
Mulai dari US$50,99
Pengiriman
Dikirim dalam 3 hari
Penjual
Zinn Digital
Terjual
0

Tentang listing ini

Scraper yang dibuat untuk situs web nyata, bukan demo

Alat ekstraksi data siap produksi dibuat dengan Python atau Node.js untuk katalog produk, direktori, marketplace, dan aplikasi satu halaman yang dinamis. Output dikirimkan sebagai CSV, JSON, atau ditulis langsung ke basis data Anda.

Yang dicakup

  • Ekstraksi halaman tunggal dengan bidang yang dipetakan sesuai spesifikasi Anda
  • Perayapan banyak halaman di seluruh penomoran halaman, kategori, atau peta situs
  • Halaman yang dirender dengan JavaScript ditangani menggunakan Puppeteer, Playwright, atau Selenium
  • Penanganan sesi, cookie, dan pengiriman formulir untuk konten yang dilindungi login
  • Tindakan anti-bot: pergiliran user agent, rotasi proksi, pembatasan permintaan, variasi header
  • Alur berbasis CAPTCHA, baik penyelesaian manual maupun penyelesai pihak ketiga
  • Menghormati jeda perayapan, dengan backoff pada respons 403, 429, dan 503, ditambah penyesuaian konkurensi
  • Pembersihan data: deduplikasi, normalisasi, pemetaan bidang, penguraian tanggal dan harga
  • Pengiriman ke CSV, JSON, Excel, Google Sheets, PostgreSQL, MySQL, MongoDB, atau Airtable
  • Eksekusi terjadwal melalui cron, GitHub Actions, atau fungsi cloud
  • Deteksi perubahan yang menandai catatan baru, diperbarui, atau dihapus antar-eksekusi
  • Pencatatan log kesalahan terstruktur dengan antrean coba lagi dan penanganan dead-letter

Mengapa ini andal

Banyak scraper berfungsi sekali saat pengujian dan gagal begitu situs mengubah markup-nya, memblokir user agent, atau menambahkan lapisan perlindungan baru. Hasil build mengandalkan pemilih (selector) yang tangguh, logika percobaan ulang, fallback proksi, dan pencatatan log yang jelas, sehingga ketika pemilih rusak atau laman mengembalikan kesalahan alih-alih data, Anda dapat melihat secara tepat rekaman mana yang gagal dan alasannya, alih-alih mendapatkan baris kosong tanpa pemberitahuan.

Alat yang digunakan

Python (BeautifulSoup, Scrapy, Playwright, Selenium, Requests) dan Node.js (Puppeteer, Cheerio, Playwright, Axios) untuk scraping; proksi berputar dan rotasi user-agent ditambah sidik jari peramban tanpa antarmuka (headless) untuk penanganan anti-bot; penyimpanan di seluruh CSV, JSON, Excel, Google Sheets, PostgreSQL, MySQL, MongoDB, SQLite, dan Airtable; penjadwalan melalui cron, GitHub Actions, AWS Lambda, Vercel Cron, atau Railway; infrastruktur di Docker, penyedia VPS, AWS, atau Render.

Pengujian sebelum serah terima

Setiap build menjalankan uji coba pada sampel kecil terlebih dahulu, kemudian proses penuh dengan ringkasan keberhasilan dan kegagalan. Output diperiksa terhadap skema yang diharapkan, dengan kolom yang hilang, baris duplikat, dan kesalahan penguraian ditandai sebelum pengiriman.

Kepemilikan

Kode sumber dan kredensial scraper sepenuhnya diserahkan kepada Anda pada pengiriman akhir. Perjanjian kerahasiaan (NDA) tersedia berdasarkan permintaan untuk proyek data yang sensitif atau kompetitif.

Jangka waktu

Basic dikirimkan dalam 2 hingga 3 hari, Standard dalam 5 hingga 7 hari, dan Premium dalam 10 hari.

Yang dibutuhkan dari Anda

  • URL target atau situs yang akan dikikis
  • Bidang data persis yang diperlukan, seperti nama, harga, URL, atau gambar
  • Format output pilihan Anda: CSV, JSON, Google Sheets, atau basis data
  • Apakah ini pengikisan satu kali atau tugas berulang

Kirimkan situs target dan daftar bidang data, lalu pengikis pratinjau yang berfungsi dapat siap dalam waktu 48 jam, sebelum pembayaran apa pun diperlukan, sehingga Anda dapat melihat data nyata yang diekstraksi dari target Anda terlebih dahulu.

Yang dapat Anda beli

Basic

US$50,99
Atau bayar €45,51 · £38,11 dengan tarif hari ini — tarif dikunci saat Anda menambahkannya ke keranjang.

Single-site, single-page scraper with clean CSV or JSON output. - Full source code + setup - One target URL scraped - Up to 10 fields extracted per item - Static HTML parsing (no JS rendering) - CSV or JSON output - Deduplication + field normalization - Basic error handling and logging - Readme - 2 revisions

Dikirim dalam 3 hari

Revisi termasuk: 0

Beli paket ini

Sudah menjadi pelanggan? Beli di akun Anda

Standard

US$125,99
Atau bayar €112,45 · £94,17 dengan tarif hari ini — tarif dikunci saat Anda menambahkannya ke keranjang.

Multi-page crawl with pagination, JS rendering and anti-bot handling. - Full source code + setup - One target URL scraped - Static HTML parsing (no JS rendering) - Deduplication + field normalization - Basic error handling and logging - Readme - Structured error log + retry queue - Multi-page crawl with pagination support - JavaScript-rendered pages (Puppeteer or Playwright) - Anti-bot handling — UA rotation, headers, request throttling - Proxy rotation support - Rate-limit compliance with backoff on 429/503 - Up to 25 fields per item - Unlimited records - Output to CSV, JSON, or Google Sheets - 3 revisions

Dikirim dalam 7 hari

Revisi termasuk: 0

Beli paket ini

Sudah menjadi pelanggan? Beli di akun Anda

Premium

US$375,99
Atau bayar €335,60 · £281,04 dengan tarif hari ini — tarif dikunci saat Anda menambahkannya ke keranjang.

Full data pipeline with scheduling, database output, monitoring and dashboard. - Full source code + setup - One target URL scraped - Static HTML parsing (no JS rendering) - Deduplication + field normalization - Basic error handling and logging - Readme - Structured error log + retry queue - Multi-page crawl with pagination support - JavaScript-rendered pages (Puppeteer or Playwright) - Anti-bot handling — UA rotation, headers, request throttling - Proxy rotation support - Rate-limit compliance with backoff on 429/503 - Up to 25 fields per item - Unlimited records - Output to CSV, JSON, or Google Sheets - Priority delivery slot - Unlimited fields + custom schema mapping - Database output — PostgreSQL, MySQL, MongoDB, or SQLite - Scheduled runs — cron, GitHub Actions, AWS Lambda or Vercel - Cron Change detection between runs (new / updated / removed records) - Login-gated content support (session handling, form submission) - CAPTCHA-aware flow (manual-solve integration or third-party solver) - Docker-based deployment - Monitoring dashboard or Slack/email alerts on failure - Loom walkthrough of the full pipeline - 30 days post-delivery support - 5 revisions

Dikirim dalam 10 hari

Revisi termasuk: 0

Beli paket ini

Sudah menjadi pelanggan? Beli di akun Anda

Tidak perlu akun terlebih dahulu — akun Anda dibuat saat proses pembayaran. Kami menahan uangnya sampai Anda menyetujui hasil kerjanya.

Pertanyaan dan jawaban

Dapatkah Anda melakukan scraping pada situs yang memblokir scraper?

Dalam banyak kasus, ya. Kami menggabungkan rotasi proksi, variasi user-agent, pembatasan laju (throttling), dan rendering peramban headless untuk melewati pemblokiran umum. Situs yang menjalankan layanan perlindungan lebih ketat dapat meningkatkan biaya, jadi kami memeriksa target terlebih dahulu dan memberi tahu Anda apakah target tersebut sesuai dengan harga standar atau memerlukan penawaran harga khusus.

Apakah web scraping legal?

Pengikisan data pada halaman yang tersedia untuk umum umumnya diizinkan di sebagian besar tempat, meskipun hal ini bergantung pada ketentuan situs, data yang terkait, dan tujuan penggunaan Anda. Kami hanya bekerja dengan halaman publik, tidak melewati paywall, menghindari pengumpulan data pribadi, dan tidak akan melanggar ketentuan eksplisit antipengikisan data tanpa persetujuan tertulis dan izin hukum dari Anda.

Bagaimana jika situs mengubah tata letaknya nanti?

Struktur halaman dapat berubah, dan akibatnya selektor bisa berhenti berfungsi. Setiap scraper menyertakan pencatatan kesalahan terstruktur sehingga Anda akan diberi tahu segera setelah suatu bidang berhenti mengembalikan data. Standard dan Premium menambahkan fitur ketahanan seperti selektor cadangan dan peringatan untuk membatasi kerusakan, dan kami menanggung perbaikan terkait tata letak secara gratis selama 14 hari setelah pengiriman.

Bisakah Anda melakukan scraping pada halaman yang dirender dengan JavaScript?

Ya, menggunakan Puppeteer, Playwright, atau Selenium untuk menangani aplikasi satu halaman, lazy loading, dan scrolling tanpa akhir. Ini adalah bagian dari paket Standard dan Premium; Basic terbatas pada HTML statis.

Dapatkah Anda melakukan scraping konten yang memerlukan login?

Ya, untuk akun yang Anda miliki atau diizinkan untuk Anda gunakan. Penanganan sesi, pengelolaan cookie, dan pengiriman formulir sudah termasuk dalam Premium. Bagikan kredensial apa pun melalui saluran yang aman; kami tidak menyimpannya setelah proyek selesai.

Bagaimana Anda menangani CAPTCHA?

Kami menawarkan dua pendekatan: jeda penyelesaian manual saat Anda turun tangan, atau layanan penyelesaian CAPTCHA pihak ketiga dengan biaya Anda sendiri. Ini sudah terpasang di Premium dan dapat ditambahkan ke Standard.

Bisakah saya mendapatkan scraping berulang sesuai jadwal?

Ya, Premium mendukung eksekusi terjadwal melalui cron, GitHub Actions, AWS Lambda, atau Vercel Cron. Anda memilih frekuensinya, baik harian, mingguan, bulanan, maupun interval lainnya, dan setiap eksekusi mencatat hasilnya dengan peringatan kegagalan opsional.

Bagaimana jika situs memiliki batasan laju?

Penanganan batas laju bersifat standar: pembatasan permintaan, backoff eksponensial pada respons 429 dan 503, serta penyesuaian konkurensi agar tetap berada dalam batas. Baik Standard maupun Premium menyertakan logika ini secara menyeluruh.

Bisakah Anda mengeluarkan data langsung ke basis data saya?

Ya, penyisipan langsung ke PostgreSQL, MySQL, MongoDB, SQLite, atau Airtable didukung. Output basis data merupakan bagian dari Premium, sedangkan Standard mencakup CSV, JSON, dan Google Sheets.

Berapa banyak rekaman yang dapat Anda scrape per proses?

Tidak ada batas atas yang tetap; hal ini bergantung pada batas laju situs dan ukuran kumpulan proksi yang tersedia. Kami telah menjalankan tugas yang menarik jauh lebih dari 100.000 rekaman selama beberapa hari. Untuk perayapan yang sangat besar, kami menyarankan rotasi proksi dan proses yang dijadwalkan guna menghindari ambang batas deteksi.

Siapa yang memiliki kode sumber dan data hasil scraping setelah serah terima?

Anda menerima kepemilikan penuh pada saat serah terima akhir, termasuk kode sumber, kredensial, konfigurasi penerapan, dan semua data yang dikumpulkan, tanpa batasan lisensi, biaya berkelanjutan, atau penguncian.

Pengujian dan QA apa yang dilakukan sebelum serah terima?

Setiap scraper pertama-tama dijalankan pada sampel kecil, kemudian dijalankan secara menyeluruh. Output diperiksa terhadap skema yang diharapkan, dan bidang yang hilang, baris duplikat, serta kesalahan penguraian ditandai sebelum serah terima, bersama dengan log kesalahan dan ringkasan keberhasilan serta kegagalan.