diabolic.bg
The Old Wastelander
Колеги, някой може ли да даде информация за тази търсачка (Search 17) и нейните ботове?
На сайта им пише само това:
В Гугъл има инфо само за 2 техни страници.
Ако може някой да каже нещо повече? Има ли полза от тази търсачка или да ги уредя да получават направо 503 и да ми се махат от главата?
Благодаря предварително за съветите!
На сайта им пише само това:
Самите ботове са адски агресивни, четат robots.txt, но дърпат толкова много, че ще ми се подпали сървъра. Понеже са написани на РНР, едно правило в моя htaccess ги блокира, но въпреки, че получават непрекъснато 403, те не само не се махат, а продължават да опитват.Search17 is a new semantic search engine. We will use data collected by our crawler to uncover new relations within internet data and provide users with friendly and intuitive way to navigate their search and decision process.
В Гугъл има инфо само за 2 техни страници.
Ако може някой да каже нещо повече? Има ли полза от тази търсачка или да ги уредя да получават направо 503 и да ми се махат от главата?
Благодаря предварително за съветите!