抓取百度指数引发的图像数字识别

浏览: 2404

作者介绍

叶成,数据分析师,就职于易居中国,热爱数据分析和挖掘工作,擅长使用Python倒腾数据。

前言

      学习爬虫也有段时间了,闲着无趣,想找点项目练练手,于是乎通过顺祥老师介绍,接到了一个关于百度指数的爬虫需求。(百度指数可以反映一个词在一段时间内的搜索热度,不知道百度指数的同学们可以自行百度)。好的,话不多说,开始我们的项目。

百度指数页面

image.png

输入查询的关键字

image.png

嗯?跳转到了登陆界面!(赶紧拿出小本本记下,这里需要登陆)。

登陆后的展现

image.png

      心中窃喜,脑子里满是抓包分析,模拟请求,获取指数,gameover!!!然而事实并没那么简单,根据爬虫的套路,需要查看属性(在上图中右键检查,找到文件):

image.png

正常来说这里的json文件中应该就有我们需要的文本内容,然而打开后发现它是一张图片,而且还是一张拼图,如下图所示:

image.png

并且这个图片链接包含了三个参数,如下图所示(黄色标出):

image.png

  看得脑壳都大了,先不说怎么分析加密参数,就算是破解了拿到图片链接,也无法直接取出需要的数字,因为还需要进行图像识别…沉思中…没办法,打算曲线救国,我们直接模拟鼠标移动,然后截取悬浮的黑框图片,再进行图像识别,得到百度指数。新的思路就是这样,开搞。具体步骤如下:

  • 模拟登陆

browser= webdriver.Chrome('C:\\Program Files (x86)\\Google\\Chrome\\Application\\chromedriver.exe')
browser.get('http://index.baidu.com/?from=pinzhuan')
browser.find_element_by_id("schword").clear()
browser.find_element_by_id("schword").send_keys(keys)
browser.find_element_by_id("searchWords").click()
time.sleep(2)

e1 = browser.find_element_by_id("TANGRAM_12__userName")
e1.send_keys("百度账号")
e2 = browser.find_element_by_id("TANGRAM_12__password")
e2.send_keys("密码")
e3 = browser.find_element_by_id("TANGRAM_12__submit")
e3.click()

      我们使用selenium驱动谷歌浏览器,定位到输入框,清空并输入关键词,跳转登陆页面后在登陆百度指数。

  • 构建截图区域

browser.maximize_window()
xoyelement = browser.find_elements_by_css_selector("#trend rect")[2]
x_0=1

for i in range(30):
       ActionChains(browser).move_to_element_with_offset(xoyelement, x_0, 0).perform()
       time.sleep(2)
       display = browser.find_element_by_xpath("//*[@id='viewbox']").get_attribute("style")
       style = re.findall('display: (.*?); ',display)[0]
       print(style)        #browser.execute_script(js)
       cot=0
       while style == 'none':
           ActionChains(browser).move_to_element_with_offset(xoyelement, x_0+ random.uniform(0,3), 0).perform()
           display = browser.find_element_by_xpath("//*[@id='viewbox']").get_attribute("style")
           style = re.findall('display: (.*?); ',display)[0]
           browser.execute_script(js)
           time.sleep(1)
           if style == 'block':
               print('viewbox已找到')
               break
           cot = cot +1
           if cot >200:
               print('未找到viewbox')                
               break
       time.sleep(1)
       browser.save_screenshot("E:/downloads/%s.png" %i)

      这当中的核心是ActionChains(browser).move_to_element_with_offset(xoyelement, x_0, 0).perform()。这个是用来确定鼠标的悬浮位置,我们先是通过css定位到xoyelement,然后通过offset(xoyelement, x_0, 0),确定偏移的位置,我们这里使x_0初始值为1,是因为发现为0时数值不出现。

image.png

下图中显示的是viewbox, 为了防止鼠标移动时没有viewbox的情况,我们通过判断样式是否为隐藏来确定viewbox是否出现。

image.png

要确保viewbox出现后才能进行屏幕截图。

  • Rangle的构建
          我们想要的是这个图片中的数字,并不是整个屏幕的截图,所以需要我们构建rangle,把真正的数值从屏幕截图中抠出来:

image.png

imgelement = browser.find_element_by_xpath('//div[@id="viewbox"]')

locations = imgelement.location
sizes = imgelement.size

add_length = (len(keys) - 2) * sizes['width'] / 15scroll = browser.execute_script("return window.scrollY;")
top = locations['y'] - scroll

rangle = (int(locations['x'] + sizes['width'] / 4 + add_length), int(top + sizes['height'] / 2),
      int(locations['x'] + sizes['width'] * 2 / 3), int(top + sizes['height']))

img = Image.open("E:/downloads/%s.png"%i)
jpg = img.crop(rangle)
jpg.save('E:/downloads/crop%s.jpg' %i)

      先定位到viewbox位置,然后我们构建了一个关键字长度的公式,以及rangle的范围的公式,这当中绝大部分参考百度,感谢百度!通过上面的布置,可以把百度指数的图片给下载下来,接下来的工作就是从这些图片中进行数字的识别。

image.png

  • 图片数字识别

index = []
for m in range(30):
   jpgzoom = Image.open("E:/downloads/crop%s.jpg" %m)
   (x, y) = jpgzoom.size
   x_s = 2*x
   y_s = 2*y
   out = jpgzoom.resize((x_s, y_s), Image.ANTIALIAS)
   out.save('E:/downloads/zoom%s.jpg' %m, quality=95)
   image = Image.open('E:/downloads/zoom%s.jpg' %m)
   code = pytesseract.image_to_string(image)
   if code:
       code=code.replace('.','').replace(',','')
       index.append(code)
   else:
       code=''
       index.append(code)

with
open ('E:/downloads/index.txt','w') as f:
   for item in index:
       f.write(item + '\n')

      这里的主要思想是先将图片放大一倍从而提高识别率,然后用pytesseract这个模块进行识别,因为我们截取的数字在图片中十分‘干净’,无需做什么处理,很开心,只需对识别结果中的 ’,’ 或者是 ’.’ 去除即可。

image.png

推荐 2
本文由 每天进步一点点2015 创作,采用 知识共享署名-相同方式共享 3.0 中国大陆许可协议 进行许可。
转载、引用前需联系作者,并署名作者且注明文章出处。
本站文章版权归原作者及原出处所有 。内容为作者个人观点, 并不代表本站赞同其观点和对其真实性负责。本站是一个个人学习交流的平台,并不用于任何商业目的,如果有任何问题,请及时联系我们,我们将根据著作权人的要求,立即更正或者删除有关内容。本站拥有对此声明的最终解释权。

0 个评论

要回复文章请先登录注册