在网上找了一些资料都没有找到,功夫不负有心人啊,在找的时侯有一个人提到了用搜索引擎爬虫蜘蛛的USERAGENT。虽然只提到一点点我还是想到了,列出我的解决方法,
1.使用Snoopy或curl传搜索引擎爬虫的USERAGENT值。
2.使用Snoopy或curl传referer值。
如:$snoopy->referer = 'http://www.google.com';
$header[] = "Referer: http://www.google.com/";
3.使用Snoopy或curl代理。
如:$snoopy->proxy_host = "59.108.44.41";
$snoopy->proxy_port = "3128";
4.使用Snoopy或curl防造IP。
如:$snoopy->rawheaders['X_FORWARDED_FOR'] = '127.0.0.1';
5.用php与一个重起路由的程序,这样就会获得新的ip地址。
6.如果发现重起路由还是显示被封,有可能对方封了你的mac地址,现在路由器都有伪造MAC的功能,可以写程序或手动修改路由器的MAC地址,网上也有专门修改网卡mac地址的工具。
php采集时被封ip的解决方法
2019-11-08 13:29php教程网 PHP教程
最近各种网站的采集程序写的比较多,遇到在采某网站时采到100多条时突然发现对方的网站打不开了,猜到肯定被封ip了,用了代理还是会封,这不是办法。
延伸 · 阅读
- 2019-11-07PHP的Symfony和CodeIgniter框架的Nginx重写规则配置
- 2019-11-07php下统计用户在线时间的一种尝试
- 2019-11-07PHP生成excel时单元格内换行问题的解决方法
- 2019-11-07PHP下对字符串的递增运算代码
- 2019-11-07深入理解PHP原理之异常机制
- 2019-11-07php中var_export与var_dump的区别分析
- PHP教程
php实现构建排除当前元素的乘积数组方法
在本篇文章中我们给大家整理了关于php实现构建排除当前元素的乘积数组的方法以及相关实例代码,有需要的朋友们参考下。...
- PHP教程
《Head First 设计模式》代码之PHP版(面向对象学习)
《Head First 设计模式》是本不错的讲解设计模式的书,不像F4写的那么枯燥,应该算是比较容易理解的好书。 ...
- PHP教程
thinkPHP框架中layer.js的封装与使用方法示例
这篇文章主要介绍了thinkPHP框架中layer.js的封装与使用方法,结合实例形式分析了thinkPHP中调用layer.js的具体操作技巧与注意事项,需要的朋友可以参考下...
- PHP教程
PHP基于rabbitmq操作类的生产者和消费者功能示例
这篇文章主要介绍了PHP基于rabbitmq操作类的生产者和消费者功能,结合实例形式分析了基于rabbitmq操作类的生产者和消费者定义与使用方法,需要的朋友可以参...
- PHP教程
PHP正则判断一个变量是否为正整数的方法
今天小编就为大家分享一篇关于PHP正则判断一个变量是否为正整数的方法,小编觉得内容挺不错的,现在分享给大家,具有很好的参考价值,需要的朋友一...
- PHP教程
PHP实现动态获取函数参数的方法示例
这篇文章主要介绍了PHP实现动态获取函数参数的方法,结合实例形式分析了php针对函数参数操作func_num_args()、func_get_arg()及func_get_args()函数相关使用技巧,需要...
- PHP教程
thinkphp5实现无限级分类
这篇文章主要为大家详细介绍了thinkphp5实现无限级分类,具有一定的参考价值,感兴趣的小伙伴们可以参考一下...
- PHP教程
PHP性能测试工具xhprof安装与使用方法详解
这篇文章主要介绍了PHP性能测试工具xhprof安装与使用方法,简单说明了性能测试工具xhprof的功能并较为详细的分析了xhprof安装与使用相关操作技巧,需要的朋...