puppeteer爬虫400，412错误
· 4 min read
需求场景
最近发现一直爬取的网站升级了，无法通过request模块简单获取了。考虑到其实自己爬取的数据访问量并不大，实际也就我一个人偶尔访问一下，不会是因为我的爬取而去更新反爬虫机制，猜测是其他原因导致了网站升级了反爬虫机制。
解决过程
通过postman测试，可以发现一直返回412错误，后来在postman中携带了cookie，发现可以正常访问，所以通过在request请求中注入了我自己的cookie解决了问题。后来发现还是too young啊，cookie是有时效性的，一段时间后就会消失。于是想到可以通过puppeteer爬取而不是request，可奇怪的问题出现了，puppeteer访问居然显示400，搜了一大圈可以很确定是网站的反爬虫机制才会出现这个情况，参见puppeteer get 400 Error，这个机制有点666啊，一直以为puppeteer是万能的大招，后来通过搜索反爬虫机制，了解到识别puppeteer和普通chrome的大致原理，参见浏览器如何识别selenium及爬虫如何绕过反爬，到这里就很清楚了，我们需要改变puppeteer的默认参数来模拟真实的浏览器，搜索到puppeteer相关的代码，参见puppeteer无头模式下反反爬配置集合，后来在实际测试中，我需要爬取的网站只要删除默认的webdriver字段即可，并没有那么高级。
核心代码
const browser = await puppeteer.launch({
args: ['--no-sandbox', '--disable-setuid-sandbox']
});
const page = await browser.newPage();
await page.evaluateOnNewDocument(() => { //在每个新页面打开前执行以下脚本
const newProto = navigator.__proto__;
delete newProto.webdriver; //删除navigator.webdriver字段
navigator.__proto__ = newProto;
window.chrome = {}; //添加window.chrome字段，为增加真实性还需向内部填充一些值
window.chrome.app = {"InstallState":"hehe", "RunningState":"haha", "getDetails":"xixi", "getIsInstalled":"ohno"};
window.chrome.csi = function(){};
window.chrome.loadTimes = function(){};
window.chrome.runtime = function(){};
Object.defineProperty(navigator, 'userAgent', { //userAgent在无头模式下有headless字样，所以需覆写
get: () => "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_3) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.113 Safari/537.36",
});
Object.defineProperty(navigator, 'plugins', { //伪装真实的插件信息
get: () => [{"description": "Portable Document Format",
"filename": "internal-pdf-viewer",
"length": 1,
"name": "Chrome PDF Plugin"}]
});
Object.defineProperty(navigator, 'languages', { //添加语言
get: () => ["zh-CN", "zh", "en"],
});
const originalQuery = window.navigator.permissions.query; //notification伪装
window.navigator.permissions.query = (parameters) => (
parameters.name === 'notifications' ?
Promise.resolve({ state: Notification.permission }) :
originalQuery(parameters)
);
})
await page.goto('')