Python大神利用正则表达式教你搞定京东商品信息

京东(JD.com)是中国最大的自营式电商企业,2015年第一季度在中国自营式B2C电商市场的占有率为56.3%。如此庞大的一个电商网站,上面的商品信息是海量的,小编今天就带小伙伴利用正则表达式,并且基于输入的关键词来实现主题爬虫。

首先进去京东网,输入自己想要查询的商品,小编在这里以关键词“狗粮”作为搜索对象,之后得到后面这一串网址:https://search.jd.com/Search?keyword=%E7%8B%97%E7%B2%AE&enc=utf-8,其实参数%E7%8B%97%E7%B2%AE解码之后就是“狗粮”的意思。那么非常明显,只要输入keyword这个参数之后,将其进行编码,就可以获取到我们的目标网址了,请求网页,得到响应,尔后利用选择器便可以进行下一步的精准采集了。

在京东网上,狗粮信息在京东官网上的网页源码如下图所示:

Python大神利用正则表达式教你搞定京东商品信息

狗粮信息在京东官网上的网页源码

话不多说,直接撸代码,如下图所示。小编用的是py3,也建议大家以后多用py3版本。通常URL编码的方式是把需要编码的字符转化为%xx的形式,一般来说URL的编码是基于UTF-8的,当然也有的于浏览器平台有关。在Python的urllib库中提供了quote方法,可以实现对URL的字符串进行编码,从而可以进入到对应的网页中去。

正则表达式,又称正规表示式、正规表示法、正规表达式、规则表达式、常规表示法(英语:Regular Expression,在代码中常简写为regex、regexp或RE),是一种可以用于模式匹配和替换的强有力的工具。找到目标网页之后,调用urllib中的urlopen函数打开网页并获取源码,之后利用正则表达式实现对目标信息的精准采集。

Python大神利用正则表达式教你搞定京东商品信息

利用正则表达式实现对目标信息的精准采集

正则表达式写在这个程序中确实蛮复杂的,也占据了多行,但是主要用到的正则表达式是[\w\W]+?和[\s\S]+?。

[\s\S]或者[\w\W]是完全通配的意思,\s是指空白,包括空格、换行、tab缩进等所有的空白,而\S刚好相反。这样一正一反下来,就表示所有的字符,完全的,一字不漏的。另外,[]这个符号,表示在它里面包含的单个字符不限顺序的出现,比如下面的正则:[ace]*,这表示,只要出现a/c/e这三个任意的字母,都会被匹配。

此外,[\s]表示,只要出现空白就匹配;[\S]表示,非空白就匹配。那么它们的组合,表示所有的都匹配,与它相对应的,有[\w\W]等,意义完全相同。其实,[\s\S] 和 [\w\W]这样的用法,比”.”所匹配的还要多,因为”.”是不会匹配换行的,所有出现有换行匹配的时候,人们就习惯 使用[\s\S]或者[\w\W]这样的完全通配模式。

最后得到的输出效果图如下所示:

Python大神利用正则表达式教你搞定京东商品信息

输出效果图

这样小伙伴们就可以获取到狗粮的商品信息了,当然,小编在这里只是抛砖引玉,只匹配了四个信息,而且只是做了个单页的获取。需要更多数据的小伙伴们可以自行去更改正则表达式和设置多页,达到你想要的效果。下篇文章小编将利用美丽的汤BeautifulSoup来进行匹配目标数据,实现目标信息的精准获取。

最后给大家简单介绍一下正则表达式。正则表达式使用单个字符串来描述、匹配一系列匹配某个句法规则的字符串。在很多文本编辑器里,正则表达式通常被用来检索、替换那些匹配某个模式的文本。

正则表达式对于初学者确实晦涩难懂,不过慢慢学习还是可以掌握的,并不一定要完全记下来,但是你要知道什么时候需要什么参数,能做到顺利使用它就可以了。

看完本文有收获?请转发分享给更多的人

Python爬虫与数据挖掘

入群请在微信后台回复【入群】

一篇文章助你理解Python3中字符串编码问题

前几天给大家介绍了unicode编码和utf-8编码的理论知识,以及Python2中字符串编码问题,没来得及上车的小伙伴们可以戳这篇文章:浅谈unicode编码和utf-8编码的关系和一篇文章助你理解Python2中字符串编码问题。下面在Python3环境中进行代码演示,分别Windows和Linux操作系统下进行演示,以加深对字符串编码的理解。

一篇文章助你理解Python3中字符串编码问题

在Python2的Python文件的文件头往往会声明字符的编码格式,通过会使用代码“#-*- coding -*-”作为编码声明,如下图所示。

一篇文章助你理解Python3中字符串编码问题

因为考虑到Python文件中可能会穿插中文,不然的话Python通过解释器来读取文件的时候,文件中的中文就有可能识别不了。而在Python3中,我们就不必像Python2的文件那样进行声明编码格式了,因为在Python3中,默认将所有的字符都视为unicode格式了。下面在Python3环境下进行代码演示。

1、首先在Windows操作系统下的Python3环境中进行演示,如下图所示。

一篇文章助你理解Python3中字符串编码问题

可以看到str1就是一个中文的字符串,字符串前面也没有加u以表示其为unicode编码,其实也没有必要加那个字符,因为在Python3中将所有的字符都内置成unicode字符了,这就是Python2和Python3最大的区别。所有在这里可以直接调用encode()函数对字符串进行编码,而且也不会报错。

2、接下来在Linux操作系统下的Python3环境中进行演示,如下图所示。

一篇文章助你理解Python3中字符串编码问题

这个过程和Windows下是一样的,这里就不再赘述了。有个地方需要注意的是在Linux操作系统下,Python3的默认环境编码变为了utf-8编码,而不是Python2中的ASCII编码。

总的来说,Python3解决了一个字符串编码的重要问题,所以在字符串编码的报错方面相对Python2来说要少的多,帮助我们省下了很多事情。小伙伴们,关于在Python2和Python3中字符串的编码问题这个知识点十分重要,希望大家都可以get到噢~~

看完本文有收获?请转发分享给更多的人

Python爬虫与数据挖掘

入群请在微信后台回复【入群】

Python中的基础数据类型(String,Number)及其常用用法简析

Python中的基础数据类型

前言

哈喽,各位小伙伴们,相信大家和我一样,在开始接触Python这门语言的时候,会遇到很多困难。这边小编简单为大家总结下Python的基本数据类型,方便查看记忆。这没什么难点,只是琐碎了一些…

Python中的数据类型

  • Number(数字)
  • String(字符串)
  • List(列表)
  • Tuple(元组)
  • Set(集合)
  • Dictionary(字典)

    分类

    不可变数据类型:Number、String、Tuple

    可变:List、Dictionary、Set

    变量在Python中的操作

    python支持多变量赋值,如:

    a = b = c = 1
    print(a)
    print(b)
    print(c)

    此时三个变量a=1,b=1,c=1

    a, b, c = 1, 2, 3
    print(a)
    print(b)
    print(c)

    此时a=1,b=2,c=3

    这样可以互换两个变量的值,如:

    a = 1
    b = 2
    a, b = b, a
    print(a)
    print(b)

    不难发现a,b这两个变量的值已经交换了…

    而其他语言只能利用第三个变量完成两个变量的交换:

    a = 1 # 赋值
    b = 2 # 赋值
    
    c = a # 将第一个变量的值赋值给第三个变量,此时c保存了1
    a = b # 将第二个变量的值赋值给第一个变量,此时a保存了2
    b = c # 再将定义的第三个变量的值赋值给第二个变量,此时c保存的1赋值给b,完成交换
    print(a)
    print(b)

    查看数据类型

    type(x),如:

    a, b, c = 1, True, 1.0
    print(type(a), type(b), type(c))
    # 结果<class 'int'> <class 'bool'> <class 'float'>
    a, b, c = '1', 'True', '1.0'
    print(type(a), type(b), type(c))
    # 结果<class 'str'> <class 'str'> <class 'str'>

    Number

    temp = '123' # 非数字字符串会出错
    print(type(temp)) # <class 'str'>
    res = int(temp)
    print(type(res), res) # <class 'int'> 123
    temp = "b"
    res = int(temp, base=16) # 这里可以指定进制,注意不要超出进制范围,默认10进制
    print(type(res), res)
    print(1 == True) # True
    print(0 == False) # True

    关于Number类型知道与String相互转换,其他的数学运算几乎用不到,想了解请自行尝试,内容如下:

    abs(x)返回数字的绝对值
    ceil(x)向后取整
    cmp(x,y)若x < y 返回-1, 若 x == y 返回0, 若 x > y 返回1。Python 3 使用 (x>y)-(x<y) 替换
    exp(x)返回e的x次幂(ex)
    fabs(x)返回数字的绝对值
    floor(x)向前取整
    log(x)返回x的自然对数,x>0
    log10(x)返回以10为基数的x的对数
    max(x1,x2...)返回给定参数的最大值,参数可以为序列
    min(x1,x2...)返回给定参数的最小值,参数可以为序列
    modf(x)返回x的整数部分与小数部分,两部分的数值符号与x相同,整数部分以浮点型表示
    pow(x,y)返回x**y 运算后的值
    round(x[,n])返回x四舍五入的值,n为保留小数位数
    sqrt(x)返回数字x的平方根

    String

    获取字符串的长度
    temp = 'hahahahahahaha'
    print(len(temp)) # 14
    切片取值
    # [起始位置索引:结束位置索引,不包含:步长]
    temp = "abcdefg"
    res1 = temp[::] # 注意:不可少
    print(res1) # abcdefg
    res2 = temp[0:-1:2]
    print(res2) # ace
    字符串的格式化
    # 按默认一对一格式化
    temp1 = "我叫{},今年{}岁了!"
    res1 = temp1.format('咸鱼',22)
    print(res1) # 我叫咸鱼,今年22岁了!
    
    # 按索引格式化
    temp2 = "我叫{1},今年{0}岁了!"
    res2 = temp2.format('咸鱼',22)
    print(res2) # 我叫22,今年咸鱼岁了!
    
    # 键值对
    temp3 = "我叫{name},今年{age}岁了!"
    res3 = temp3.format(age=22,name='咸鱼')
    print(res3) # 我叫咸鱼,今年22岁了!
    find
    # 找到第一个位置   .find("e",[开始位置],[结束位置]) 注意不包含结束位置 <=开始位置 >结束位置
    # 找到返回索引 找不到返回-1
    temp = "hahe"
    res = temp.find("h",1,3)
    print(res)
    lower
    # 将字符串中的所有大写字母转换为小写字母
    temp = "AAAaaaBBbb"
    res=temp.lower()
    print(res) # aaaaaabbbb
    upper
    # 将字符串中的所有小写字母转换为大写字母
    temp = "abc"
    res=temp.upper()
    print(res) # ABC
    strip
    # 删除字符串的前后空格(换行、制表符、指定参数)
    # 默认删除换行符,制表符,空格等特殊符号
    temp = "     a aa   \n "
    res=temp.strip( )
    print(res) # a aa
    join
    # 字符串拼接
    # join方法是将字符串的每一位与调用的字符串进行拼接,除最后一位
    temp1 = 'abcd'
    temp2 = '-'
    res1 = temp2.join(temp1)
    print(res1) # a-b-c-d
    
    # 并不是两个字符串直接拼接
    temp3 = 'abc'
    temp4 = '123'
    res3 = temp3+temp4
    print(res3) # abc123
    replace
    # 替换指定字符串replace('需要更新的字符串','更新的字符串',[更新几个字符串,默认全部,超过位数不报错])
    temp = 'hahahaha'
    res = temp.replace("a", "e",50)
    print(res) # hehehehe

    关于字符串的内置函数无敌的多,其他实际也用不到…我就懒了…欢迎大家在留言区补充……