您的位置:

php蜘蛛,php蜘蛛池

本文目录一览:

怎么阻止百度蜘蛛查询admin php文件

在网站根目录添加robots.txt文件试试

格式为

User-agent: *

Disallow: /admin.php

如何利用php来判断是百度蜘蛛还是普通用户,是普通用户访问a.htm,百度蜘蛛访问b.htm 指定某个IP访问普通页

使用预定义变量:$_SERVER["HTTP_REFERER"]来判断进入该页面的前一页。并根据不同的判断结果执行不同的操作。

PHP中如何调用JS代码实现判断是否是蜘蛛访问

这个理论上是无法做到的,因为蜘蛛可以模仿得和浏览器点开完全相同。

一般的办法是判断浏览器的AGENT标志,一般蜘蛛这里比较特殊,你看看日期里面的AGENT就知道如何识别了。

我的代码如下,可以参考:

PHP判断来访是搜索引擎蜘蛛还是普通用户的代码小结

1、推荐的一种方法:php判断搜索引擎蜘蛛爬虫还是人为访问代码,摘自Discuz x3.2

?php

function checkrobot($useragent=''){

static $kw_spiders = array('bot', 'crawl', 'spider' ,'slurp', 'sohu-search', 'lycos', 'robozilla');

static $kw_browsers = array('msie', 'netscape', 'opera', 'konqueror', 'mozilla');

$useragent = strtolower(empty($useragent) ? $_SERVER['HTTP_USER_AGENT'] : $useragent);

if(strpos($useragent, 'http://') === false dstrpos($useragent, $kw_browsers)) return false;

if(dstrpos($useragent, $kw_spiders)) return true;

return false;

}

function dstrpos($string, $arr, $returnvalue = false) {

if(empty($string)) return false;

foreach((array)$arr as $v) {

if(strpos($string, $v) !== false) {

$return = $returnvalue ? $v : true;

return $return;

}

}

return false;

}

if(checkrobot()){

echo '机器人爬虫';

}else{

echo '人';

}

?

实际应用中可以这样判断,直接不是搜索引擎才执行操作

?php

if(!checkrobot()){

//do something

}

?

2、第二种方法:

使用PHP实现蜘蛛访问日志统计

$useragent = addslashes(strtolower($_SERVER['HTTP_USER_AGENT']));

if (strpos($useragent, 'googlebot')!== false){$bot = 'Google';}

elseif (strpos($useragent,'mediapartners-google') !== false){$bot = 'Google Adsense';}

elseif (strpos($useragent,'baiduspider') !== false){$bot = 'Baidu';}

elseif (strpos($useragent,'sogou spider') !== false){$bot = 'Sogou';}

elseif (strpos($useragent,'sogou web') !== false){$bot = 'Sogou web';}

elseif (strpos($useragent,'sosospider') !== false){$bot = 'SOSO';}

elseif (strpos($useragent,'360spider') !== false){$bot = '360Spider';}

elseif (strpos($useragent,'yahoo') !== false){$bot = 'Yahoo';}

elseif (strpos($useragent,'msn') !== false){$bot = 'MSN';}

elseif (strpos($useragent,'msnbot') !== false){$bot = 'msnbot';}

elseif (strpos($useragent,'sohu') !== false){$bot = 'Sohu';}

elseif (strpos($useragent,'yodaoBot') !== false){$bot = 'Yodao';}

elseif (strpos($useragent,'twiceler') !== false){$bot = 'Twiceler';}

elseif (strpos($useragent,'ia_archiver') !== false){$bot = 'Alexa_';}

elseif (strpos($useragent,'iaarchiver') !== false){$bot = 'Alexa';}

elseif (strpos($useragent,'slurp') !== false){$bot = '雅虎';}

elseif (strpos($useragent,'bot') !== false){$bot = '其它蜘蛛';}

if(isset($bot)){

$fp = @fopen('bot.txt','a');

fwrite($fp,date('Y-m-d H:i:s')."\t".$_SERVER["REMOTE_ADDR"]."\t".$bot."\t".'http://'.$_SERVER['SERVER_NAME'].$_SERVER["REQUEST_URI"]."\r\n");

fclose($fp);

}

第三种方法:

我们可以通过HTTP_USER_AGENT来判断是否是蜘蛛,搜索引擎的蜘蛛都有自己的独特标志,下面列取了一部分。

function is_crawler() {

$userAgent = strtolower($_SERVER['HTTP_USER_AGENT']);

$spiders = array(

'Googlebot', // Google 爬虫

'Baiduspider', // 百度爬虫

'Yahoo! Slurp', // 雅虎爬虫

'YodaoBot', // 有道爬虫

'msnbot' // Bing爬虫

// 更多爬虫关键字

);

foreach ($spiders as $spider) {

$spider = strtolower($spider);

if (strpos($userAgent, $spider) !== false) {

return true;

}

}

return false;

}

下面的php代码附带了更多的蜘蛛标识

function isCrawler() {

echo $agent= strtolower($_SERVER['HTTP_USER_AGENT']);

if (!empty($agent)) {

$spiderSite= array(

"TencentTraveler",

"Baiduspider+",

"BaiduGame",

"Googlebot",

"msnbot",

"Sosospider+",

"Sogou web spider",

"ia_archiver",

"Yahoo! Slurp",

"YoudaoBot",

"Yahoo Slurp",

"MSNBot",

"Java (Often spam bot)",

"BaiDuSpider",

"Voila",

"Yandex bot",

"BSpider",

"twiceler",

"Sogou Spider",

"Speedy Spider",

"Google AdSense",

"Heritrix",

"Python-urllib",

"Alexa (IA Archiver)",

"Ask",

"Exabot",

"Custo",

"OutfoxBot/YodaoBot",

"yacy",

"SurveyBot",

"legs",

"lwp-trivial",

"Nutch",

"StackRambler",

"The web archive (IA Archiver)",

"Perl tool",

"MJ12bot",

"Netcraft",

"MSIECrawler",

"WGet tools",

"larbin",

"Fish search",

);

foreach($spiderSite as $val) {

$str = strtolower($val);

if (strpos($agent, $str) !== false) {

return true;

}

}

} else {

return false;

}

}

if (isCrawler()){

echo "你好蜘蛛精!";

}

else{

echo "你不是蜘蛛精啊!";

PHP判断普通用户或蜘蛛,调用不同代码

定义一个函数 get_naps_bot()

如果是 BOT 则返回字符串, 如果不是 BOT 返回 false

function get_naps_bot()

{

$useragent = strtolower($_SERVER['HTTP_USER_AGENT']);

if (strpos($useragent, 'googlebot') !== false){

return 'Googlebot';

}

if (strpos($useragent, 'msnbot') !== false){

return 'MSNbot';

}

if (strpos($useragent, 'slurp') !== false){

return 'Yahoobot';

}

if (strpos($useragent, 'baiduspider') !== false){

return 'Baiduspider';

}

if (strpos($useragent, 'sohu-search') !== false){

return 'Sohubot';

}

if (strpos($useragent, 'lycos') !== false){

return 'Lycos';

}

if (strpos($useragent, 'robozilla') !== false){

return 'Robozilla';

}

return false;

}

$botName = get_naps_bot();

if( empty($botName ) )

{

include( "11.php" );// 用户访问

}

else

{

include( "22.php" ); // 蜘蛛访问

}

求一段PHP代码 ,判断百度蜘蛛的来路的

普通用户与搜索引擎蜘蛛爬行的区别在于发送的user agent

百度蜘蛛名字包含Baiduspider, 而google的则是Googlebot, 这样我们可以通过判断发送的user agent来决定要不要取消普通用户的访问,编写函数如下:

function isAllowAccess($directForbidden = false,$url) { 

$allowed = array('/baiduspider/i', '/googlebot/i'); 

$user_agent = $_SERVER['HTTP_USER_AGENT']; 

$valid = false; 

foreach ($allowed as $pattern) { 

if (preg_match($pattern, $user_agent)) { 

$valid = true; 

break; 

if (!$valid  $directForbidden) { 

header('location:'.$url);

}  

return $valid; 

}

望采纳 Thx

php蜘蛛,php蜘蛛池

2022-11-25
phpjs怎么看蜘蛛(php判断蜘蛛)

本文目录一览: 1、搜索引擎蜘蛛访问日志查看器php版如何使用 2、PHP中如何调用JS代码实现判断是否是蜘蛛访问 3、搜索引擎蜘蛛访问日志查看器(php) v1.0 怎么使用? 4、PHP判断来访是

2023-12-08
php来路,php发展路线

2023-01-04
龙少php泛站群系统最新版下载,php站群管理系统

2023-01-05
搜索引擎优化高级编程php版,搜索引擎优化教程技术seo

2023-01-06
使用logback配置为网站的蜘蛛爬行程序和搜索引擎提供锐利

2023-05-19
css阻止js(css阻止元素响应js点击事件)

本文目录一览: 1、robots.txt可不可以屏蔽js或者css? 2、如何防止js和css缓存 3、iphone的微信内置浏览器网页,怎样用js或者css禁止复制内容 4、在css里面怎么过滤JS

2023-12-08
php操作dba的总结笔记,php dba

2022-11-21
关于zl聚合搜索引擎php版的信息

2022-11-15
包含十万额度mip域名php版的词条

2022-11-22
php响应式商城网站毕业设计,php设计网页案例

2022-11-29
深入理解PHP $_SERVER

2023-05-21
php缩略图等比例无损压缩,php 图片缩放

2022-12-01
爬取css和js(css选择器 爬虫)

本文目录一览: 1、百度蜘蛛爬行CSS和JS很多,这会不会浪费了蜘蛛的资源 2、怎么获取某个网页上的js和css 3、为什么百度蜘蛛老去抓css和js文件 4、python爬取网页时会不会加载css,

2023-12-08
代做mip备案高级域名php,me域名备案

2022-11-18
PHP伪静态详解

2023-05-20
php与ajax技术分享,ajax调用php

2022-11-25
搜索引擎教程

2023-05-19
优化php程序的方法小结(优化php程序的方法小结)

2022-11-09
php源码建站丨一品资源网,php源码怎么搭建网站

2023-01-03