SEO-crawler блоктау

Кері сілтеме сканерлерін бұғаттаңыз — іздеу жүйелерін ешқашан емес

Бірінші санаттағы, сайт бойынша Footprint-Free басқару элементі: SEO және кері сілтеме сканерлеушілерін — Ahrefs, Majestic, Semrush, Moz, Screaming Frog және басқаларын — іздеу жүйелері толық қолжетімділікті сақтай отырып, блоктайды. PBN желісі үшін әдепкі бойынша қосылған, серверде User-Agent арқылы күштеп қолданылады, басқару панелінен және MCP арқылы басқарылады. Бұл ізін білдірмеу ойыны: бәсекелестердің құралдарынан сілтемені жасырыңыз, SERP-терде индекстелетін болып қалыңыз.

  • Сайт бойынша ауыстырып-қосқышәрбір ізші немесе топ ретінде
  • Әдепкі бойынша қосулыFootprint-Free желісі үшін
  • Іздеу жүйелері үшін қауіпсізGooglebot ешқашан бұғатталған жоқ
  • Сервер арқылы жүзеге асырылған.htaccess UA-deny + robots.txt

Із қадамы ойыны, бір басқару элементінде

Жеке желінің құндылығы — басқа ешкім көре алмайтын байланыста. Бәсекелестің бэклинк құралы PBN сайтыңызды сканерлеп, оның шығыс сілтемесін сіздің ақша түсетін сайтыңызға дейін қадағалай алған сәтте, желі әшкереленеді — ал артықшылық жоғалады.

Сондықтан бұл жұмыс нақты: сілтемелер графтарын құрастыратын кері сілтемені талдауға арналған сканерлеушілерді — Ahrefs, Majestic, Semrush, Moz, Screaming Frog, BLEXBot және басқа да солар сияқтыларды — бұғаттаңыз, ал іздеу жүйелерін толықтай өзгеріссіз қалдырыңыз, өйткені Google сканерлей алмайтын сайт рейтингке ие бола алмайды. Тыңшыларды бұғаттаңыз, индекстеушілерді сақтап қалыңыз.

Бұл параметр Footprint-Free жолағындағы әр сайтқа арналған қосқыш болып табылады және әдепкі бойынша қосулы тұрады. Әрбір іздеу роботын немесе тұтас топты белгілеңіз не белгіні алып тастаңыз, сақтаңыз, сонда жүйе сіз үшін ережелерді жазып береді немесе өшіреді.

Тек сұралып қана қоймай, серверде орындалады

robots.txt — бұл тек кеңес сипатындағы нұсқаулық, ал агрессивті сканерлеушілер оны елемейді — Majestic дәл солай істейтіні байқалған. Сондықтан нақты блок сервер деңгейінде жасалады, ал robots.txt тек қосымша сыпайы қабат ретінде қолданылады.

Серверде User-Agent қабылдамау

Бұл қолданыс – хостинг қызметкері және сақталған ауыстырып-қосқыштарыңыздан жасалған Zinn® плагині арқылы жазылған .htaccess, LiteSpeed немесе nginx User-Agent тыйымы. Бұл – іздеу роботын шынымен де тоқтататын ереже, өйткені ол роботтың адалдығына тәуелді емес.

Ереже сақтаушылар үшін robots.txt

Біз сондай-ақ бұны құрметтейтін іздеу роботтары үшін robots.txt файлында Disallow жазамыз — бұл қосымша сақтық шарасы, нәтижесінде тәртіпті құралдар сыпайы түрде, ал тәртіпсіздері қатаң түрде шеттетіледі.

Ең нашарлары үшін IP және ASN тыйым салуы

Кейбір сканерлеушілер жалған пайдаланушы агенттерінің артына жасырынады. Ең нашар бұзушылар үшін біз белгілі IP немесе ASN тыйымдарын қоса аламыз, осылайша браузер кейпіне енген сканерлеуші әлі де кіре алмайды.

Іздеу жүйелеріне әрқашан рұқсат етілген

Googlebot, Bingbot және басқа индексаторлар ешқашан бұғаттау тізімінде болмайды. Бұғаттау тек кері сілтеме құралдарына бағытталған, сондықтан индексация мен рейтингтер өзгеріссіз қалады.

Сіз Trust Flow көрсеткішіңізді сақтайсыз

Majestic жүйесін бұғаттау доменнің Trust Flow көрсеткішін жоғалтып жібереді деген қауіп жиі кездеседі. Олай болмайды. Trust Flow және Citation Flow доменнің кіріс кері сілтемелер графын (басқа сайттарды сканерлеу арқылы Majestic табатын, оған бағытталған сілтемелерді) есептеу арқылы анықталады, доменнің өзін сканерлеу арқылы емес.

PBN сайтыңызда MajesticBot бұғаттау Majestic-ке сол сайттың сыртқы сілтемелерін көруге кедергі жасырады, бұл дәл сіз жасырғыңыз келетін іздеу жүйесі іздері. Ол Majestic API арқылы доменнің Trust Flow немесе Citation Flow көрсеткіштерін жоймайды, сондықтан біздің өз SEO деректер тексерулеріміз бұл көрсеткіштерді әдеттегідей оқи береді. Дәл осындай жағдай Ahrefs DR пен Moz DA үшін де қолданылады — бұл кіріс сілтемелердің барлық өлшемдері.

Жиі қойылатын сұрақтар

Қандай роботтар бұғатталады?

SEO және кері сілтеме сканерлеушілері — Ahrefs, Majestic, Semrush, Moz, Screaming Frog, BLEXBot және солар сияқтылар. Іздеу жүйелеріне ешқашан тиіспейді: Googlebot, Bingbot және басқа индексерлер толық қолжетімділікті сақтайды, өйткені индекстелетін күйде қалу — бәрінің басты мақсаты. Әр сканерлеушіні немесе тобын белгілеп, белгіні алып тастап, сақтай аласыз.

Бұл менің рейтингіме зиянын тигізбей ме?

Жоқ. Тек кері сілтемелерді талдайтын сканерлеушілер ғана бұғатталған; сізді рейтингке шығаратын іздеу жүйелері толығымен өзгеріссіз қалады. Сайт индекстелетін және рейтингке ие бола алатын күйінде қалады — сіз сілтемелер графын Google емес, бәсекелестердің құралдарынан жасырып жатырсыз.

Блок іс жүзінде қалай қолданылады?

Серверде User-Agent арқылы — .htaccess, LiteSpeed немесе nginx арқылы тыйым салу — өйткені robots.txt тек ұсыныс сипатында және агрессивті сканерлеушілер оны елемейтіні белгілі. Біз стандарттарды сақтайтындар үшін де robots.txt ішіне Disallow жазамыз және жалған User-Agent арқылы сканерлейтін ең нашар бұзушылар үшін белгілі IP немесе ASN бойынша тыйымдарды қоса аламыз. Қозғалтқыш ережелерді сақталған ауыстырып-қосқыштарыңыздан автоматты түрде жазады және жояды.

Majestic блоktasam, Trust Flow мәнін жоғалтамын ба?

Жоқ. Trust Flow пен Citation Flow доменнің сыртқы сілтемелер графын, яғни Majestic басқа сайттарды сканерлеу арқылы тапқан оған келетін сілтемелерді талдау арқылы есептеледі, бірақ доменнің өзін сканерлеу арқылы емес. Сайтта MajesticBot-ты бұғаттау Majestic-ке оның шығыс сілтемелерін көруге кедергі жасайды, бұл сізге жасыру қажет footprint, бірақ доменнің көрсеткіштерін Majestic API-інде сол күйінде қалдырады. Бұл логика Ahrefs DR пен Moz DA үшін де қолданылады.

Бұл әдепкі бойынша қосулы ма?

Footprint-Free желісі бойынша, иә — іздеу роботтарын бұғаттау әдепкі бойынша қосылған, өйткені PBN пен кіріс сайты арасындағы сілтемені жасыру — footprint ойынының мәні. Әр сайт бойынша қай роботтардың бұғатталғанын реттеу үшін сізде толық бақылау болады.

Сілтемелер графын жасырыңыз, индекстелуді сақтаңыз

Төлем картасын талап етпейтін 14 күндік сынақ мерзімін бастаңыз және іздеу жүйелері толық қолжетімділікті сақтай отырып, сайт бойынша кері сілтеме сканерлерін бұғаттаңыз — Footprint-Free желісі үшін әдепкі бойынша қосылған, басқару панелі мен MCP арқылы басқарылады.

Тегін бастау