scrapy随机更改User-Agent方法


settings.py文件中加入如下代码即可(USER_AGENT是固定写法),具体使用什么agent可以自己更改下面蓝色字体内容。settings.py文件中通过创建一个agent列表,免费云主机域名然后通过从中随机取出1个赋值给USER_AGENT变量即可代码如下:settings.py文件中加入如下代码:setting.py文件中写一个UserAgentList列表 UserAgentList = [
‘Mozilla/5.0 (Windows NT 6.2; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/27.0.1500.55 Safari/537.36’,
‘Mozilla/5.0 (Macintosh; Intel Mac OS X 10_8_2) AppleWebKit/537.17 (KHTML, like Gecko) Chrome/24.0.1309.0 Safari/537.17’
]setting.py文件中启用DOWNLOADER_MIDDLEWARES,并且把默认的注释掉middlewares.py文件中增加以下代码:安装fake-useragent(useragent的库)middlewares.py文件中导入fake-useragentmiddlewares.py文件中编写一个middleware中间件,setting.py文件中启用DOWNLOADER_MIDDLEWARES,并且把默认的注释掉

相关推荐: linux如何关闭nginx

这篇“linux如何关闭nginx”文章的知识点大部分人都不太理解,所以小编给大家总结了以下内容,内容详细,步骤清晰,具有一定的借鉴价值,希望大家阅读完这篇文章能有所收获,下面我们一起来看看这篇“linux如何关闭nginx”文章吧。 linux关闭nginx…

免责声明:本站发布的图片视频文字,以转载和分享为主,文章观点不代表本站立场,本站不承担相关法律责任;如果涉及侵权请联系邮箱:360163164@qq.com举报,并提供相关证据,经查实将立刻删除涉嫌侵权内容。

(0)
打赏 微信扫一扫 微信扫一扫
上一篇 01/26 12:21
下一篇 01/26 12:21