码迷,mamicode.com
首页 > 其他好文 > 详细

go 爬虫

时间:2020-06-11 16:23:01      阅读:70      评论:0      收藏:0      [点我收藏+]

标签:pac   only   int   cli   x64   句柄   request   writer   htm   

package main

import (
	"bufio"
	"fmt"
	"io/ioutil"
	"net/http"
	"os"
)
func main() {

	client := &http.Client{}

	req,err := http.NewRequest("GET","http://tool.yeves.cn/",nil)
	if err != nil{
		fmt.Println(err)
	}

	req.Header.Add("User-Agent", "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/74.0.3729.108 Safari/537.2222")

	resp,err := client.Do(req)
	defer resp.Body.Close()

	if err != nil{
		fmt.Println("err")
	}

	body,err := ioutil.ReadAll(resp.Body)
	if err != nil{
		fmt.Println(err)
	}
	writeToFile(string(body))
}

func writeToFile(str string )  {
	filePath := "./a.html"
	file, err := os.OpenFile(filePath, os.O_WRONLY | os.O_CREATE, 0666)
	if err != nil {
		fmt.Printf("open file err=%v\n", err)
		return
	}
	//及时关闭file句柄
	defer file.Close()
	//写入时,使用带缓存的 *Writer
	writer := bufio.NewWriter(file)
	for i := 0; i < 5; i++ {
		writer.WriteString(str)
	}

}

  

go 爬虫

标签:pac   only   int   cli   x64   句柄   request   writer   htm   

原文地址:https://www.cnblogs.com/php-linux/p/13093701.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!