go+goquery+chromedp爬虫实现对网页数据抓取

安装

首先，需要安装两个包。

1.goquery。

go get github.com/PuerkitoBio/goquery

goquery包主要用于搜索界面上的元素，获取里面的值。

具体操作可以参考：飞雪无痕 的 《golang goquery selector(选择器) 示例大全》 

2.chromedp。

go get -u github.com/chromedp/chromedp

chromedp包可以在代码上对网页进行操作，比如点击、输入数据等。尤其是某些网页内容是通过js动态加载的，仅使用goquery只能获取到加载前的内容，所以需要使用chromedp，等待页面加载完成再进行操作。

在使用chromedp之前，我们需要安装Chrome浏览器。

使用

下面使用goquery+chromedp实现对双色球开奖网站近100期开奖号码的抓取。

首先定义getHttpHtmlContent函数，通过网页地址url，选择器selector，筛选选择器sel（我的理解是，在元素sel下寻找selector元素），选择器的获取方式如下图所示。

func getHttpHtmlContent(url string, selector

本文来自互联网用户投稿，文章观点仅代表作者本人，不代表本站立场，不承担相关法律责任。如若转载，请注明出处。 如若内容造成侵权/违法违规/事实不符，请点击【内容举报】进行投诉反馈！