Website Crawler
Use this tool to investigate the signal category highlighted in the report.
This report is based on a stored AlphaCrawler crawl snapshot and summary metrics.
Stored crawl snapshot available.
2 Jul 2026 22:20:28
Crawling time:00:01:19
Pages/Seconds2.5
AI search crawlers are allowed and the homepage content is readable without JavaScript. Review the breakdown below to push the score higher.
No robots.txt found — by default every crawler below is allowed.
| Googlebot Google · Google Search & AI Overviews | Allowed |
| Google-Extended Google · Gemini grounding & training | Allowed |
| GPTBot OpenAI · ChatGPT training & retrieval | Allowed |
| OAI-SearchBot OpenAI · ChatGPT Search index | Allowed |
| ChatGPT-User OpenAI · ChatGPT live browsing | Allowed |
| ClaudeBot Anthropic · Claude crawler | Allowed |
| Claude-User Anthropic · Claude live browsing | Allowed |
| PerplexityBot Perplexity · Perplexity index | Allowed |
| Perplexity-User Perplexity · Perplexity live fetch | Allowed |
| Bingbot Microsoft · Bing & Copilot | Allowed |
| Applebot-Extended Apple · Apple Intelligence training | Allowed |
| CCBot Common Crawl · Open dataset many LLMs use | Allowed |
| Meta-ExternalAgent Meta · Meta AI training | Allowed |
| Bytespider ByteDance · ByteDance / TikTok AI | Allowed |
| Amazonbot Amazon · Alexa & Amazon AI | Allowed |
| Weight | Status Code | Url | Issues |
|---|---|---|---|
| 0 | 200 |
https://gdebenz.ru/fuel/ai-100/rostov-na-donu
Title: АИ-100 в Ростове-на-Дону: где есть сейча ... Description: Где сейчас есть АИ-100 в Ростове-на-Дону ... H1: АИ-100 в Ростове-на-Дону: где есть сейча ... |
Duplicate Body
|
| 0 | 200 |
https://gdebenz.ru/fuel/ai-100/ufa
Title: АИ-100 в Уфе: где есть сейчас — карта АЗ ... Description: Где сейчас есть АИ-100 в Уфе: карта АЗС ... H1: АИ-100 в Уфе: где есть сейчас |
Duplicate Body
|
| 0 | 200 |
https://gdebenz.ru/fuel/ai-100/kazan
Title: АИ-100 в Казани: где есть сейчас — карта ... Description: Где сейчас есть АИ-100 в Казани: карта А ... H1: АИ-100 в Казани: где есть сейчас |
Duplicate Body
|
| 0 | 200 |
https://gdebenz.ru/fuel/ai-100/novosibirsk
Title: АИ-100 в Новосибирске: где есть сейчас — ... Description: Где сейчас есть АИ-100 в Новосибирске: к ... H1: АИ-100 в Новосибирске: где есть сейчас |
Duplicate Body
|
| 0 | 200 |
https://gdebenz.ru/fuel/ai-100/moskva
Title: АИ-100 в Москве: где есть сейчас — карта ... Description: Где сейчас есть АИ-100 в Москве: карта А ... H1: АИ-100 в Москве: где есть сейчас |
Duplicate Body
|
| 0 | 200 |
https://gdebenz.ru/fuel/ai-100/krasnoyarsk
Title: АИ-100 в Красноярске: где есть сейчас — ... Description: Где сейчас есть АИ-100 в Красноярске: ка ... H1: АИ-100 в Красноярске: где есть сейчас |
Duplicate Body
|
| 0 | 200 |
https://gdebenz.ru/fuel/ai-100/chelyabinsk
Title: АИ-100 в Челябинске: где есть сейчас — к ... Description: Где сейчас есть АИ-100 в Челябинске: кар ... H1: АИ-100 в Челябинске: где есть сейчас |
Duplicate Body
|
| 0 | 200 |
https://gdebenz.ru/fuel/ai-100/sankt-peterburg
Title: АИ-100 в Санкт-Петербурге: где есть сейч ... Description: Где сейчас есть АИ-100 в Санкт-Петербург ... H1: АИ-100 в Санкт-Петербурге: где есть сейч ... |
Duplicate Body
|
| 0 | 200 |
https://gdebenz.ru/fuel/ai-92/omsk
Title: АИ-92 в Омске: где есть сейчас — карта А ... Description: Где сейчас есть АИ-92 в Омске: карта АЗС ... H1: АИ-92 в Омске: где есть сейчас |
Duplicate Body
|
| 0 | 200 |
https://gdebenz.ru/fuel/ai-92/samara
Title: АИ-92 в Самаре: где есть сейчас — карта ... Description: Где сейчас есть АИ-92 в Самаре: карта АЗ ... H1: АИ-92 в Самаре: где есть сейчас |
Duplicate Body
|