谁来帮我把这个128个音频下载一下,一下一下点,手都发麻了。链接在这http://download.dogwood.com.cn/online/gfxz2018/index.html。让舍友帮忙下载,结果给我说他打王者荣耀输了8场,今天必须要赢一次。然后我就一个人默默的想办法。
后来我在网上搜到了一个函数——download.file(),它今天可算是救了我一条命。它的作用得R可以从互联网上直接把数据拽下来。其调用格式为:
download.file(url, destfile, method, quiet = FALSE, mode = "w",
cacheOK = TRUE,
extra = getOption("download.file.extra"))
主要的参数为:
关于method,在帮助文档中有很详细的说明,这样就不再赘述。
library(rvest)
url<-"http://download.dogwood.com.cn/online/gfxz2018/index.html"page<-read_html(url,encoding="UTF-8")
durl<-page%>%html_nodes('ul div.info a')%>%html_attrs()
这里就不再解释html_nodes()中间的参数怎么得来的。如果你不了解,可以参考我之前写的两篇文章。rvest包,优雅的爬取猎聘网招聘信息和我把我用R写的第一个爬虫就献给了国家。
1 提取链接
durl2<-list()for(i in 1:130) #因为我们把每一个链接都提取了两个且两个都是挨着的。
durl2[i]<-durl[i*2]
durl3<-c(1:length(durl2)) #初始化一个和durl2长度相等的durl3
for(i in 1:length(durl2)) #处理list数据类型
durl3[i]<-durl2[[i]][1]
durl3 <-durl3[-c(129:130)] #删除最后两个链接,因为那是两个视频,我不想下载。
2 提取音频名称
name<-page%>%html_nodes('ul div.info span')%>%html_text()
head(name)
name<-name[-c(129:130)] #在这里也删除最后两个视频的名称
3 添加后缀
给每一个音频名称后面添加‘.mp3’,这样的话下载下来就是MP3格式,否则就没有格式,需要你自己添加后缀,试想一下,128个文件,一个一个修改后缀,那要修改到什么时候,还不如我一个一个去下载,当然如果你懂得批处理的,那倒也无妨。如果你想了解如何在Windows下如何修改文件后缀,可以点击阅读原文查看我之前写的一篇博客。
name2<-paste(name,'.mp3')
4 开始下载
for(i in 1:length(name2))
download.file(url=durl3[i],destfile=name2[i])
OK,下载完成,我需要的128个听力音频下载完成。这里是部分截图。
学技术,就是要让技术来服务我们生活,让我们生活的更简单更方便。如果觉得不错,那就分享到你盆友圈,让更多的人看到。