分类：爬虫基础

一篇文章教会你用Python爬取淘宝评论数据（写在记事本）

【一、项目简介】本文主要目标是采集淘宝的评价，找出客户所需要的功能。统计客户评价上面夸哪个功能多，比如防水，容量大，好看等等。【二、项目准备工作】 1. 准备Pycharm，下载安装等，可以参考这篇文章：Python环境搭建—安利Python小白的Python和...

前一阵子我们介绍了如何启动Scrapy项目以及关于Scrapy爬虫的一些小技巧介绍，没来得及上车的小伙伴可以戳这些文章：手把手教你如何新建scrapy爬虫框架的第一个项目（上）手把手教你如何新建scrapy爬虫框架的第一个项目（下）关于Scrapy爬虫项目运行和调试的小技巧...

/1 前言/ selenium是一个用于Web应用程序测试的工具。Selenium测试直接运行在浏览器中，就像真正的用户在操作一样，是爬复杂动态网页的必备工具。支持的浏览器包括IE，Mozilla Firefox，Safari，Google Chrome，Opera等。这里分两...

相信很多小伙伴已经听说过Xpath，之前小编也写过一篇关于Xpath的文章，感兴趣的小伙伴可以戳这篇文章如何利用Xpath抓取京东网商品信息以及Python网络爬虫四大选择器（正则表达式、BS4、Xpath、CSS）总结。今天小编继续给大家介绍一些Xpath知识点，希望对大家的学...

前几天给大家分享了如何在Windows下创建网络爬虫虚拟环境及如何安装Scrapy，还有Scrapy安装过程中常见的问题总结及其对应的解决方法，感兴趣的小伙伴可以戳链接进去查看。关于Scrapy的介绍，之前也在文章中提及过，今天小编带大家进入Scrapy爬虫框架，创建Scrapy...

众所周知，随着计算机、互联网、物联网、云计算等网络技术的风起云涌，网络上的信息呈爆炸式增长。毋庸置疑，互联网上的信息几乎囊括了社会、文化、政治、经济、娱乐等所有话题。使用传统数据收集机制（如问卷调查法、访谈法）进行捕获和采集数据，往往会受经费和地域范围所限，而且还会因其样本容量小...

一般的，我们想抓取一个网站所有的URL，首先通过起始URL，之后通过网络爬虫提取出该网页中所有的URL链接，之后再对提取出来的每个URL进行爬取，提取出各个网页中的新一轮URL，以此类推。整体的感觉就是自上而下进行抓取网页中的链接，理论上来看，可以抓取整站所有的链接。但是问题来了...

前几天给大家分享了网络爬虫中深度优先算法的介绍及其代码实现过程，没来得及上车的小伙伴们可以戳这篇文章——浅谈网络爬虫中深度优先算法和简单代码实现。今天小编给大家分享网络爬虫中广度优先算法的介绍及其代码实现过程。广度优先算法和深度优先算法恰好相反，这里继续以上图的二叉树为例。广...

学过网站设计的小伙伴们都知道网站通常都是分层进行设计的，最上层的是顶级域名，之后是子域名，子域名下又有子域名等等，同时，每个子域名可能还会拥有多个同级域名，而且URL之间可能还有相互链接，千姿百态，由此构成一个复杂的网络。当一个网站的URL非常多的时候，我们务必要设计好URL...

闻名的TIOBE排行榜刚刚发布最新的2018年2月编程言语排名榜。TIOBE编程社区索引是编程言语评价的一个指标，该指数每月更新一次。小伙伴们赶忙看看下面的排名情况吧！编程语言排行榜（TOP20） TIOBE编程社区指数是流行编程语言的一个指标，可以作为编程语言是选择依据。...