SEO ක්‍රෝලර් අවහිර කිරීම

පසු සබැඳි ක්‍රෝලර් අවහිර කරන්න — සෙවුම් යන්ත්‍ර කිසි විටෙකත් නොවේ

සෑම වෙබ් අඩවියක් සඳහාම වන විශිෂ්ට Footprint-Free පාලනයක්: සෙවුම් යන්ත්‍ර සඳහා පූර්ණ ප්‍රවේශය පවතින අතරතුර, SEO සහ පසුසබැඳි (backlink) ක්‍රෝලර්වරුන් වන — Ahrefs, Majestic, Semrush, Moz, Screaming Frog සහ අනෙකුත් ඒවා — අවහිර කරන්න. PBN පෙළ සඳහා පෙරනිමියෙන්ම සක්‍රියයි, සේවාදායකයේ User-Agent මඟින් බලාත්මක කෙරේ, උපකරණ පුවරුවෙන් සහ MCP මඟින් මෙහෙයවනු ලැබේ. මෙය සලකුණු (footprint) ක්‍රීඩාවයි: තරඟකරුවන්ගේ මෙවලම්වලින් සබැඳිය සඟවන්න, SERP තුළ සුචිගත කළ හැකි ලෙස රැඳී සිටින්න.

ඒවා සම්බන්ධ කරන සෑම සබැඳියක්ම කපා දමා, වෙනම නෝඩ ලෙස අඳින ලද අඩවි හයක්.
  • එක් එක් අඩවිය සඳහා ටොගලයඑක් එක් ක්‍රෝලරය හෝ කණ්ඩායමක් ලෙස
  • පෙරනිමියෙන් ක්‍රියාත්මකයිFootprint-Free මාර්ගය සඳහා
  • සෙවුම් යන්ත්‍ර සඳහා ආරක්ෂිතයිGooglebot කිසි විටෙක අවහිර කර නැත
  • සේවාදායකය මඟින් බලාත්මක කළ.htaccess UA-deny + robots.txt

මංසලකුණු ක්‍රීඩාව, එක් පාලකයකින්

පුද්ගලික ජාලයක වටිනාකම වන්නේ වෙන කිසිවෙකුට දැකිය නොහැකි සබැඳියයි. තරඟකරුවෙකුගේ පසුබැඳි මෙවලමකට ඔබේ PBN අඩවිය පරිලෝකනය කර ඔබේ මුදල් ඉපයීමේ අඩවියට එහි පිටතට යන සබැඳිය ඔස්සේ යා හැකි මොහොතේම, ජාලය නිරාවරණය වේ — එමෙන්ම වාසිය නැති වී යයි.

එබැවින් කාර්යය ඉතා පැහැදිලිය: එම සබැඳි ප්‍රස්ථාර සාදන පසුපස සබැඳි විශ්ලේෂණ ක්‍රෝලර් — Ahrefs, Majestic, Semrush, Moz, Screaming Frog, BLEXBot සහ ඒවායේ සගයන් — ඉවත් කර තබන්න, සෙවුම් යන්ත්‍රවලට කිසිසේත් බාධා නොකරන්න, මන්ද Google හට ක්‍රෝල් කළ නොහැකි වෙබ් අඩවියකට ශ්‍රේණිගත විය නොහැක. ඔත්තුකරුවන් අවහිර කරන්න, සුචිගත කරන්නන් තබා ගන්න.

මෙය Footprint-Free පෙළෙහි එක් එක් අඩවිය සඳහා වන ටොගලයකි, එය පෙරනිමියෙන්ම ක්‍රියාත්මකව පවතී. එක් එක් ක්‍රෝලරය හෝ සම්පූර්ණ සමූහයක් සලකුණු කරන්න හෝ සලකුණු ඉවත් කරන්න, සුරකින්න, එවිට එන්ජිම ඔබ වෙනුවෙන් නීති ලිවීම හෝ ඉවත් කිරීම සිදු කරනු ඇත.

හුදෙක් ඉල්ලීමක් පමණක් නොව, සේවාදායකය තුළ බලාත්මක කර ඇත

robots.txt යනු උපදේශාත්මක එකක් වන අතර, ආක්‍රමණශීලී බඩගාන්නන් (crawlers) එය නොසලකා හරියි — Majestic හරියටම එසේ කරන බව නිරීක්ෂණය කර ඇත. එබැවින් සැබෑ අවහිර කිරීම සේවාදායකයේ (server) සිදු වන අතර, robots.txt ඉහළින් ඇත්තේ අනුග්‍රහශීලී ස්ථරයක් ලෙස පමණි.

සේවාදායකයේ User-Agent ප්‍රතික්ෂේප කිරීම

බලාත්මක කිරීම යනු ඔබ සුරකින ලද ටොගලයන්ගෙන් සත්කාරක සේවකයා සහ Zinn® ප්ලගිනය මඟින් ලියන ලද .htaccess, LiteSpeed හෝ nginx User-Agent deny රීතියකි. ක්‍රෝලරයේ හොඳ හිත මත රඳා නොපවතින බැවින්, ක්‍රෝලරයක් සැබවින්ම නවත්වන්නේ මෙම රීතියයි.

අනුකූල අය සඳහා robots.txt

එයට ගරු කරන ක්‍රෝලර් සඳහා අපි robots.txt Disallow ද ලියන්නෙමු — අමතර ආරක්ෂාව සඳහා, එවිට හොඳින් හැසිරෙන මෙවලම් ආචාරශීලීව හරවා යවන අතර වැරදි ලෙස හැසිරෙන මෙවලම් දැඩි ලෙස හරවා යවනු ලැබේ.

නරකම ඒවා සඳහා IP සහ ASN ප්‍රතික්ෂේප කිරීම

සමහර ක්‍රෝලර් ව්‍යාජ පරිශීලක-නියෝජිතයන් පිටුපස සැඟවී සිටිති. නරකම වැරදිකරුවන් සඳහා අපට දන්නා-IP හෝ ASN ප්‍රතික්ෂේප කිරීම් එක් කළ හැක, එබැවින් බ්‍රව්සරයක් ලෙස පෙනී සිටින ක්‍රෝලරයකට තවමත් ඇතුළු විය නොහැක.

සෙවුම් යන්ත්‍ර සඳහා සැමවිටම ඉඩ දී ඇත

Googlebot, Bingbot සහ අනෙකුත් සුචිගත කරන්නන් කිසි විටෙකත් අවහිර කිරීමේ ලැයිස්තුවේ නොමැත. අවහිර කිරීම විශේෂයෙන් පසුපස සබැඳි මෙවලම් වෙත පමණක් එල්ල කර ඇත, එබැවින් සුචිගත කිරීම සහ ශ්‍රේණිගත කිරීම්වලට බලපෑමක් සිදු නොවේ.

ඔබ ඔබේ Trust Flow රඳවා තබා ගනී

Majestic අවහිර කිරීමෙන් වසමක Trust Flow නැති වී යනු ඇතැයි සාමාන්‍යයෙන් බියක් පවතී. එය එසේ සිදු නොවේ. Trust Flow සහ Citation Flow ගණනය කරනු ලබන්නේ වසමක ලැබෙන පසුබැඳුම් ප්‍රස්තාරයෙනි — එනම් එය වෙත යොමු වන සබැඳි වන අතර, Majestic විසින් මේවා සොයාගන්නේ අදාළ වසමම පරීක්ෂා කිරීමෙන් නොව අනෙකුත් අඩවි පරීක්ෂා කිරීමෙනි.

ඔබගේ PBN අඩවියේ MajesticBot අවහිර කිරීමෙන් Majestic හට එම අඩවියේ පිටතට යන සබැඳි (outbound links) දැකීම වළක්වයි, එය හරියටම ඔබට සැඟවීමට අවශ්‍ය පියසටහනයි (footprint). එය Majestic හි API වෙතින් වසමේ Trust Flow හෝ Citation Flow ඉවත් නොකරයි, එබැවින් අපගේම SEO-දත්ත පරීක්ෂාවන් එම ප්‍රමිතික සාමාන්‍ය පරිදි කියවීම දිගටම කරගෙන යයි. Ahrefs DR සහ Moz DA සඳහාද මෙය අදාළ වේ — මේ සියල්ල පැමිණෙන සබැඳි (inbound-link) මිනුම් වේ.

නිතර අසන ප්‍රශ්න

අවහිර කරනු ලබන්නේ කුමන ක්‍රෝලර්ද?

SEO සහ පසුබැඳි ක්‍රෝලර් — Ahrefs, Majestic, Semrush, Moz, Screaming Frog, BLEXBot සහ ඒ හා සමාන ඒවා වේ. සෙවුම් යන්ත්‍රවලට කිසි විටෙකත් බලපෑමක් සිදු නොවේ: සුචිගත කළ හැකි ලෙස පැවතීම ප්‍රධාන අරමුණ වන බැවින් Googlebot, Bingbot සහ අනෙකුත් සුචිගත කරන්නන්ට පූර්ණ ප්‍රවේශය පවතී. ඔබට එක් එක් ක්‍රෝලරය, හෝ කණ්ඩායමක්, සලකුණු කිරීමට හෝ සලකුණු ඉවත් කිරීමට සහ සුරැකීමට හැකිය.

මෙය මගේ ශ්‍රේණිගත කිරීම්වලට හානි කරයිද?

නැත. අවහිර කරනු ලබන්නේ බැක්ලින්ක්-විශ්ලේෂණ ක්‍රෝලර් පමණි; ඔබව ශ්‍රේණිගත කරන සෙවුම් යන්ත්‍ර සම්පූර්ණයෙන්ම නොවෙනස්ව තබා ඇත. වෙබ් අඩවිය සුචිගත කළ හැකි සහ ශ්‍රේණිගත කළ හැකි ලෙස පවතී — ඔබ ඔබේ සබැඳි ප්‍රස්තාරය තරඟකරුවන්ගේ මෙවලම්වලින් සඟවන්නේය, Google වෙතින් නොවේ.

අවහිර කිරීම සැබවින්ම ක්‍රියාත්මක කරන්නේ කෙසේද?

සර්වරය තුළදී, User-Agent මඟින් — .htaccess, LiteSpeed හෝ nginx ප්‍රතික්ෂේප කිරීමක් (deny) මඟින් — මන්ද robots.txt යනු උපදේශාත්මක එකක් පමණක් වන අතර ආක්‍රමණශීලී ක්‍රෝලර් එය නොසලකා හරින බව දන්නා කරුණකි. අපි නීතිගරුක ඒවා සඳහාද robots.txt Disallow ලියන අතර, ව්‍යාජ user-agents යටතේ ක්‍රෝල් කරන වඩාත්ම දරුණු වැරදිකරුවන් සඳහා ප්‍රසිද්ධ-IP හෝ ASN ප්‍රතික්ෂේප කිරීම් එක් කළ හැක. ඔබ සුරකින ලද ටොගල් මත පදනම්ව එන්ජිම ස්වයංක්‍රීයව නීති ලිවීම සහ ඉවත් කිරීම සිදු කරයි.

මම Majestic අවහිර කළහොත්, මට මගේ Trust Flow අහිමි වේද?

නැත. Trust Flow සහ Citation Flow ගණනය කරනු ලබන්නේ වසමක ලැබෙන බැක්ලින්ක් ප්‍රස්තාරයෙනි — එනම් Majestic විසින් වෙනත් අඩවි පරීක්ෂා කිරීමේදී සොයා ගන්නා ලද ඊට යොමු වන සබැඳි මගිනි — වසමම පරීක්ෂා කිරීමෙන් නොවේ. අඩවිය තුළ MajesticBot අවහිර කිරීමෙන් Majestic හට එහි පිටතට යන සබැඳි බැලීම වළක්වයි, එය ඔබට සැඟවීමට අවශ්‍ය සලකුණයි, නමුත් Majestic හි API තුළ ඇති වසමේ ප්‍රමිතික නොවෙනස්ව තබයි. එම තර්කයම Ahrefs DR සහ Moz DA සඳහාද අදාළ වේ.

මෙය පෙරනිමියෙන් ක්‍රියාත්මක වී තිබේද?

Footprint-Free මාදිලියේදී, ඔව් — පෙරනිමියෙන්ම ක්‍රෝලර් අවහිර කිරීම සක්‍රීය කර ඇත, මන්ද PBN සහ මුදල් උපයන අඩවිය අතර ඇති සම්බන්ධය සැඟවීම පාදසටහන් ක්‍රමෝපායේ මූලික පදනම වන බැවිනි. එක් එක් වෙබ් අඩවිය සඳහා අවහිර කරනු ලබන ක්‍රෝලර් සකස් කිරීමට ඔබට පූර්ණ පාලනය හිමිවේ.

ඔබගේ සබැඳි ප්‍රස්තාරය සඟවන්න, සුචිගතව සිටින්න

කාඩ්පතක් අවශ්‍ය නොවන දින 14ක අත්හදා බැලීමක් ආරම්භ කර, සෙවුම් යන්ත්‍ර සඳහා පූර්ණ ප්‍රවේශය පවතිද්දී එක් එක් අඩවිය සඳහා backlink crawlers අවහිර කරන්න — Footprint-Free පෙළ සඳහා මෙය පෙරනිමියෙන් සක්‍රීය කර ඇති අතර, dashboard සහ MCP මඟින් පාලනය කළ හැක.

නොමිලේ ආරම්භ කරන්න