Go语言学习之Go爬虫爬取图片信息

最新推荐文章于 2021-10-10 17:30:11 发布

原创

最新推荐文章于 2021-10-10 17:30:11 发布 · 3.1k 阅读

8 ·

CC 4.0 BY-SA版权

文章标签：

#Go #爬虫

本文介绍了作者在学习Golang过程中，利用Go语言编写的一个并发高效的图片爬虫。通过70行代码，实现了从指定网站抓取图片，并利用goquery解析HTML。文件名采用随机生成的四段+.jpg格式，通过管道管理协程，解决了图片信息爬取不完整的问题。作者作为Go初学者，希望分享自己的学习心得，欢迎指正。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

在Golang学习过程中，想到以往学习过的语言可以做爬虫，突发奇想，也用Go做了一个爬虫来爬取图片，以做困乏之时消遣作乐，话不多言，先上代码

package main

import (
	"fmt"
	"log"
	"strconv"
	"github.com/PuerkitoBio/goquery" // 解析html
	//"io/ioutil"
	"net/http"
	"os"
	"github.com/satori/go.uuid"    // 生成图片文件名
	"io/ioutil"
)

func getAllUrls() []string {

	var urls []string
	var url string
	for i := 0; i < 2; i++ {
		url = "http://www.meizitu.com/a/more_" + strconv.Itoa(i+1) + ".html"     //网址信息
		urls = append(urls, url)
	}
	return urls
}

func parseHtml(url string)  {
	doc, err := goquery.NewDocument(url)      //获取将要爬取的html文档信息
	if err != nil {
		log.Fatal(err)
	}
	p:=make(chan string)   //新开管道
	doc.Find(".pic > a > img").Each(func(i int, s *goquery.Selection) {    //遍历整个文档

		img_url, _ := s.Attr("src")
		// 启动协程下载图片

		go download(img_url,p)        //将管道传入download函数
		fmt.Println("src = "+ <-p+"图片爬取完毕")
	})

}

// 下载图片
func download(img_url string,p chan string)  {
	uid, _ := uuid.NewV4()