在Go網(wǎng)絡(luò)請(qǐng)求中配置代理的方法詳解
如何配置代理
不配置代理,本地請(qǐng)求google等會(huì)超時(shí)
package main
import (
"fmt"
"net/http"
"time"
)
func main() {
// 創(chuàng)建一個(gè)自定義的 Transport 實(shí)例
//transport := &http.Transport{
// Proxy: func(req *http.Request) (*url.URL, error) {
// // return url.Parse("http://127.0.0.1:1081")
// return url.Parse("socks5://127.0.0.1:1080")
// },
//}
// 創(chuàng)建一個(gè)自定義的 Client 實(shí)例
client := &http.Client{
//Transport: transport, // 設(shè)置代理
Timeout: time.Second * 3, // 設(shè)置超時(shí)
}
urlStr := "https://www.google.com/"
// 發(fā)送 GET 請(qǐng)求
resp, err := client.Get(urlStr)
if err != nil {
// 處理錯(cuò)誤
fmt.Println("發(fā)生了錯(cuò)誤:err", err)
return
}
defer resp.Body.Close()
// 處理響應(yīng)
fmt.Println(resp.StatusCode)
}輸出: 發(fā)生了錯(cuò)誤:err Get "https://www.google.com/": context deadline exceeded (Client.Timeout exceeded while awaiting headers)
取消注釋,則會(huì)輸出 200
go http Client的Transport字段有什么作用
在 Go 的 http 包中,Client 類型代表了 HTTP 客戶端。在 Client 中有一個(gè)名為 Transport 的字段,它是一個(gè) http.RoundTripper 接口類型的值,用于處理 HTTP 請(qǐng)求和響應(yīng)的傳輸細(xì)節(jié)。
通過(guò)設(shè)置 Transport 字段,可以對(duì) HTTP 請(qǐng)求進(jìn)行一些自定義設(shè)置,比如設(shè)置代理、設(shè)置超時(shí)、設(shè)置 TLS 客戶端證書(shū)等。Transport 字段提供了一些默認(rèn)實(shí)現(xiàn),也可以通過(guò)實(shí)現(xiàn) http.RoundTripper 接口來(lái)自定義實(shí)現(xiàn)。
例如,可以通過(guò)自定義 Transport 來(lái)設(shè)置 HTTP 代理:
transport := &http.Transport{
Proxy: func(req *http.Request) (*url.URL, error) {
return url.Parse("http://127.0.0.1:8888")
},
}
client := &http.Client{
Transport: transport,
}在上面的代碼中,通過(guò)自定義 Transport 并設(shè)置代理來(lái)實(shí)現(xiàn)將所有 HTTP 請(qǐng)求通過(guò)本地的代理服務(wù)器進(jìn)行轉(zhuǎn)發(fā)。這樣就可以在代理服務(wù)器上進(jìn)行一些中間人攻擊的操作,如抓包、篡改請(qǐng)求等。
設(shè)置超時(shí)不是這個(gè)字段吧
確實(shí)... 在 Go 的 http.Client 中,超時(shí)是通過(guò) Timeout 字段來(lái)設(shè)置的,而 Transport 字段用于控制 HTTP 客戶端的網(wǎng)絡(luò)傳輸設(shè)置,例如代理、TLS 配置、連接池等。超時(shí)時(shí)間是通過(guò) Timeout 字段指定的,而不是 Transport 字段。
我在用go寫(xiě)一段請(qǐng)求很多個(gè)url然后返回響應(yīng)內(nèi)容的程序,通過(guò)設(shè)置http Client的Transport設(shè)置了代理,但發(fā)現(xiàn)大量的EOF,這是什么原因?
在使用 HTTP 客戶端請(qǐng)求多個(gè) URL 時(shí),如果設(shè)置了代理,可能會(huì)導(dǎo)致連接出現(xiàn)大量的 EOF 錯(cuò)誤。這通常是由于代理服務(wù)器在連接到遠(yuǎn)程服務(wù)器時(shí)關(guān)閉了連接,而客戶端仍在嘗試使用已關(guān)閉的連接進(jìn)行通信,從而導(dǎo)致錯(cuò)誤。
一種可能的解決方案是,針對(duì)每個(gè)請(qǐng)求創(chuàng)建一個(gè)新的 HTTP 客戶端,并在使用完畢后立即關(guān)閉它。這樣可以確保每個(gè)請(qǐng)求都使用一個(gè)新的連接,避免出現(xiàn)連接復(fù)用的問(wèn)題。示例代碼如下:
func fetchURL(url string) (string, error) {
// 創(chuàng)建一個(gè)自定義的 Transport 實(shí)例
transport := &http.Transport{
Proxy: func(req *http.Request) (*url.URL, error) {
return url.Parse("http://127.0.0.1:1080") // 設(shè)置代理
},
}
// 創(chuàng)建一個(gè)自定義的 Client 實(shí)例
client := &http.Client{
Transport: transport, // 設(shè)置 Transport
Timeout: time.Second * 3, // 設(shè)置超時(shí)
}
// 發(fā)送 GET 請(qǐng)求
resp, err := client.Get(url)
if err != nil {
// 處理錯(cuò)誤
return "", err
}
defer resp.Body.Close()
// 讀取響應(yīng)內(nèi)容
body, err := ioutil.ReadAll(resp.Body)
if err != nil {
// 處理錯(cuò)誤
return "", err
}
// 返回響應(yīng)內(nèi)容
return string(body), nil
}
func main() {
urls := []string{
"http://example.com",
"http://example.org",
"http://example.net",
}
// 遍歷 URL 列表,并發(fā)送請(qǐng)求
for _, url := range urls {
resp, err := fetchURL(url)
if err != nil {
fmt.Printf("fetch %s error: %s\n", url, err)
} else {
fmt.Printf("fetch %s success: %s\n", url, resp)
}
}
}此外,還可以嘗試對(duì) Transport 的 MaxIdleConnsPerHost 和 MaxIdleConns 進(jìn)行調(diào)整,以確保連接復(fù)用時(shí)不會(huì)出現(xiàn)連接超時(shí)或連接關(guān)閉的問(wèn)題。
Transport 的 MaxIdleConnsPerHost 和 MaxIdleConns 是什么意思
Transport的MaxIdleConnsPerHost和MaxIdleConns字段都是用來(lái)控制http client連接池的大小和行為的。
- MaxIdleConnsPerHost:指定連接池中每個(gè)主機(jī)允許的最大空閑連接數(shù)。默認(rèn)值是2。
- MaxIdleConns:指定整個(gè)連接池允許的最大空閑連接數(shù)。默認(rèn)值是無(wú)限制。
當(dāng)http client創(chuàng)建一個(gè)連接時(shí),它將嘗試重用現(xiàn)有的空閑連接。如果連接池中沒(méi)有空閑連接,則http client將創(chuàng)建一個(gè)新的連接。如果連接池中的空閑連接已達(dá)到MaxIdleConns或MaxIdleConnsPerHost,則http client將關(guān)閉連接。
因此,如果將MaxIdleConns和MaxIdleConnsPerHost設(shè)置得太小,那么http client將會(huì)頻繁地關(guān)閉和創(chuàng)建連接,這會(huì)導(dǎo)致一些EOF錯(cuò)誤??梢赃m當(dāng)?shù)卦黾舆@些字段的值,以減少這些錯(cuò)誤的發(fā)生。
如何設(shè)置?
可以通過(guò)在創(chuàng)建 Transport 實(shí)例時(shí)進(jìn)行設(shè)置,例如:
transport := &http.Transport{
MaxIdleConnsPerHost: 10, // 每個(gè)主機(jī)最大空閑連接數(shù)
MaxIdleConns: 100, // 最大空閑連接數(shù)
}其中,MaxIdleConnsPerHost 表示每個(gè)主機(jī)最大的空閑連接數(shù),MaxIdleConns 表示所有主機(jī)的最大空閑連接數(shù)。您可以根據(jù)實(shí)際情況進(jìn)行調(diào)整。需要注意的是,如果 MaxIdleConnsPerHost 設(shè)置的太小,可能會(huì)導(dǎo)致無(wú)法復(fù)用連接,從而增加了連接的建立和關(guān)閉成本;如果設(shè)置的太大,可能會(huì)占用過(guò)多的系統(tǒng)資源。
以上就是在Go網(wǎng)絡(luò)請(qǐng)求中配置代理的方法詳解的詳細(xì)內(nèi)容,更多關(guān)于Go網(wǎng)絡(luò)請(qǐng)求中配置代理的資料請(qǐng)關(guān)注腳本之家其它相關(guān)文章!
相關(guān)文章
關(guān)于go-zero服務(wù)自動(dòng)收集問(wèn)題分析
這篇文章主要介紹了關(guān)于go-zero服務(wù)自動(dòng)收集問(wèn)題,本文給大家介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2022-12-12
Go項(xiàng)目配置管理神器之viper的介紹與使用詳解
viper是一個(gè)完整的?Go應(yīng)用程序的配置解決方案,它被設(shè)計(jì)為在應(yīng)用程序中工作,并能處理所有類型的配置需求和格式,下面這篇文章主要給大家介紹了關(guān)于Go項(xiàng)目配置管理神器之viper的介紹與使用,需要的朋友可以參考下2023-02-02
go標(biāo)準(zhǔn)庫(kù)net/http服務(wù)端的實(shí)現(xiàn)示例
go的http標(biāo)準(zhǔn)庫(kù)非常強(qiáng)大,本文主要介紹了go標(biāo)準(zhǔn)庫(kù)net/http服務(wù)端,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2024-07-07
在Go網(wǎng)絡(luò)請(qǐng)求中配置代理的方法詳解
這篇文章主要給大家介紹了如何在Go網(wǎng)絡(luò)請(qǐng)求中配置代理的方法,文章通過(guò)代碼示例介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或工作有一定的幫助,需要的朋友可以參考下2023-09-09
Go語(yǔ)言sync鎖與對(duì)象池的實(shí)現(xiàn)
本文介紹了Go語(yǔ)言標(biāo)準(zhǔn)庫(kù)sync包提供的并發(fā)控制工具,主要包括互斥鎖(sync.Mutex)和讀寫(xiě)鎖(sync.RWMutex)兩類同步機(jī)制,下面就來(lái)具體介紹一下這兩個(gè)的使用,感興趣的可以了解一下2025-08-08
Windows+Linux系統(tǒng)下Go語(yǔ)言環(huán)境安裝配置過(guò)程
Go 語(yǔ)言被設(shè)計(jì)成一門(mén)應(yīng)用于搭載 Web 服務(wù)器,存儲(chǔ)集群或類似用途的巨型中央服務(wù)器的系統(tǒng)編程語(yǔ)言。這篇文章主要介紹了Windows+Linux系統(tǒng)下Go語(yǔ)言環(huán)境搭建配置過(guò)程,針對(duì)每種系統(tǒng)給大家講解的非常詳細(xì),需要的朋友可以參考下2021-06-06
Go?net?http超時(shí)應(yīng)用場(chǎng)景全面詳解
HTTP是一個(gè)復(fù)雜的多階段協(xié)議,因此沒(méi)有一個(gè)一刀切的超時(shí)解決方案,在這篇文章中,我將分解您可能需要應(yīng)用超時(shí)的各個(gè)階段,并研究在服務(wù)器端和客戶端上執(zhí)行超時(shí)的不同方法2024-01-01
Go+Vue開(kāi)發(fā)一個(gè)線上外賣應(yīng)用的流程(用戶名密碼和圖形驗(yàn)證碼)
這篇文章主要介紹了Go+Vue開(kāi)發(fā)一個(gè)線上外賣應(yīng)用(用戶名密碼和圖形驗(yàn)證碼),本文給大家介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2020-11-11

