scrapy 爬虫怎么能够只写一个通用spider,然后利用参数去顺序爬取很多个站点

2025-03-29 04:18:22
推荐回答(1个)
回答1:

说实话这个很难,因为不同站点的html相差很大,基本上是不可能说用一个通用spider去爬取的,除非你爬取的目标本来就是整个网页页面,但这样子就成了搜索引擎那样的爬虫了