|
Post by account_disabled on Jan 8, 2024 13:16:31 GMT 9
在基本设置中,值得注意的是与参数设置能力相关的问题,例如: 子页面总数, 在结构方面对子页面进行深度分析, 分析 JavaScript 代码 - 整个文本和“裸”文本; 通过分析渲染图像(“批量导出”→ 屏幕截图)。 如何加速复杂/庞大网站的爬行和分析? 如您所知,爬行过程本身非常耗时,并且消耗大量工作内存,因此值得对其进行优化,就像在问题较多的网站的情况下,您可以更精确地配置软件,如何去做吧? 以下是“高级”选项卡中的一些设置选项: 始终遵循重定向 – 此选项允许 301 重定向; 响应超时 – 此选项允许您通过增加较慢网站的标准 20 秒时间来减慢抓取速度; 5XX 响应重试 – 此选项增加了重新分析 巴西数据库 页面以查找返回 5XX 错误的资源的机会; 要遵循的最大重定向 - 在此选项中,您可以设置尖叫青蛙应包含的重定向路径的长度。 还值得记住的是,您可以在“排除”选项卡中设置您不希望在最终报告中收到的子页面。 如何加快Frog的工作速度?有两个基本选项: 减少线程数量——我们知道,线程越多,对服务器的查询就越多; 更改每秒抓取网址的限制- 通过此功能,您可以限制抓取的地址数量,从而在浏览网站时获得更高的准确性。 此外,您还可以更改将数据从RAM保存到硬盘的选项,这应该会显着影响Frog的爬行质量。 概括 如您所知,有多种工具可用于深入的网站分析。Screaming Frog 作为一种工具,可以进行非常准确的分析,同时提供许多选项,根据我们想要访问的数据,将单个文件排除在我们的搜索范围之外。事实上,我们因此可以限制自己的时间以及收集必要数据所需的爬行时间。 毫无疑问,强烈建议使用Screaming Frog作为网站分析工具,特的人。
|
|