golang 實現(xiàn)一個負載均衡案例(隨機,輪訓)
更新時間：2021年04月30日 11:18:09 作者：charles_lun
這篇文章主要介紹了golang 實現(xiàn)一個負載均衡案例(隨機、輪訓)，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧
今天用go實現(xiàn)一個簡單的負載均衡的算法，雖然簡單，還是要寫一下。
1.首先就是服務器的信息
package balance
type Instance struct {
host string
port int
}
func NewInstance(host string, port int) *Instance {
return &Instance{
host: host,
port: port,
}
}
func (p *Instance) GetHost() string {
return p.host
}
func (p *Instance) GetPort() int {
return p.port
}
2.接著定義接口
package balance
type Balance interface {
/**
*負載均衡算法
*/
DoBalance([] *Instance,...string) (*Instance,error)
}
3.接著，是實現(xiàn)接口，random.go
package balance
import (
"errors"
"math/rand"
)
func init() {
RegisterBalance("random",&RandomBalance{})
}
type RandomBalance struct {
}
func (p *RandomBalance) DoBalance(insts [] *Instance,key...string) (inst *Instance, err error) {
if len(insts) == 0 {
err = errors.New("no instance")
return
}
lens := len(insts)
index := rand.Intn(lens)
inst = insts[index]
return
}
roundrobin.go
package balance
import (
"errors"
)
func init() {
RegisterBalance("round", &RoundRobinBalance{})
}
type RoundRobinBalance struct {
curIndex int
}
func (p *RoundRobinBalance) DoBalance(insts [] *Instance, key ...string) (inst *Instance, err error) {
if len(insts) == 0 {
err = errors.New("no instance")
return
}
lens := len(insts)
if p.curIndex >= lens {
p.curIndex = 0
}
inst = insts[p.curIndex]
p.curIndex++
return
}
4 然后，全部交給管理器來管理,這也是為什么上面的文件全部重寫了init函數(shù)
package balance
import (
"fmt"
)
type BalanceMgr struct {
allBalance map[string]Balance
}
var mgr = BalanceMgr{
allBalance: make(map[string]Balance),
}
func (p *BalanceMgr) registerBalance(name string, b Balance) {
p.allBalance[name] = b
}
func RegisterBalance(name string, b Balance) {
mgr.registerBalance(name, b)
}
func DoBalance(name string, insts []*Instance) (inst *Instance, err error) {
balance, ok := mgr.allBalance[name]
if !ok {
err = fmt.Errorf("not fount %s", name)
fmt.Println("not found ",name)
return
}
inst, err = balance.DoBalance(insts)
if err != nil {
err = fmt.Errorf(" %s erros", name)
return
}
return
}
下面進行測試：
func main() {
var insts []*balance.Instance
for i := 0; i < 10; i++ {
host := fmt.Sprintf("192.168.%d.%d", rand.Intn(255), rand.Intn(255))
port, _ := strconv.Atoi(fmt.Sprintf("880%d", i))
one := balance.NewInstance(host, port)
insts = append(insts, one)
}
var name = "round"
if len(os.Args) > 1 {
name = os.Args[1]
}
for {
inst, err := balance.DoBalance(name, insts)
if err != nil {
fmt.Println("do balance err")
time.Sleep(time.Second)
continue
}
fmt.Println(inst)
time.Sleep(time.Second)
}
}
5.如果想擴展這個，又不入侵原來的代碼結構，可以類比上面實現(xiàn)dobalance接口即可
package add
import (
"awesomeProject/test/balance"
"fmt"
"math/rand"
"hash/crc32"
)
func init() {
balance.RegisterBalance("hash", &HashBalance{})
}
type HashBalance struct {
key string
}
func (p *HashBalance) DoBalance(insts [] *balance.Instance, key ...string) (inst *balance.Instance, err error) {
defKey := fmt.Sprintf("%d", rand.Int())
if len(key) > 0 {
defKey = key[0]
}
lens := len(insts)
if lens == 0 {
err = fmt.Errorf("no balance")
return
}
hashVal := crc32.Checksum([]byte(defKey), crc32.MakeTable(crc32.IEEE))
index := int(hashVal) % lens
inst = insts[index]
return
}
這樣就能交給管理器統(tǒng)一管理了，而且不會影響原來的api。
補充：golang grpc配合nginx實現(xiàn)負載均衡
概述
grpc負載均衡有主要有進程內balance, 進程外balance, proxy 三種方式，本文敘述的是proxy方式，以前進程內的方式比較流行，靠etcd或者consul等服務發(fā)現(xiàn)來輪詢，隨機等方式實現(xiàn)負載均衡。
現(xiàn)在nginx 1.13過后正式支持grpc, 由于nginx穩(wěn)定，高并發(fā)量，功能強大，更難能可貴的是部署方便，并且不像進程內balance那樣不同的語言要寫不同的實現(xiàn)，因此我非常推崇這種方式。
nginx的配置
確認安裝版本大于1.13的nginx后打開配置文件，寫入如下配置
upstream lb{
#負載均衡的grpc服務器地址
server 127.0.0.1:50052;
server 127.0.0.1:50053;
server 127.0.0.1:50054;
#keepalive 500;#這個東西是nginx和rpc服務器群保持長連接的總數(shù)，設置可以提高效率，同時避免nginx到rpc服務器之間默認是短連接并發(fā)過后造成time_wait過多
}
server {
listen 9527 http2;
access_log /var/log/nginx/host.access.log main;
http2_max_requests 10000;#這里默認是1000，并發(fā)量上來會報錯，因此設置大一點
#grpc_socket_keepalive on;#這個東西nginx1.5過后支持
location / {
grpc_pass grpc://lb;
error_page 502 = /error502grpc;
}
location = /error502grpc {
internal;
default_type application/grpc;
add_header grpc-status 14;
add_header grpc-message "Unavailable";
return 204;
}
}
可以在host.access.log日志文件里面看到數(shù)據(jù)轉發(fā)記錄
proto文件：
syntax = "proto3"; // 指定proto版本
package grpctest; // 指定包名
// 定義Hello服務
service Hello {
// 定義SayHello方法
rpc SayHello(HelloRequest) returns (HelloReply) {}
}
// HelloRequest 請求結構
message HelloRequest {
string name = 1;
}
// HelloReply 響應結構
message HelloReply {
string message = 1;
}
客戶端：
客戶端連接地址填寫nginx的監(jiān)聽地址，相關代碼如下：
package main
import (
pb "protobuf/grpctest" // 引入proto包
"golang.org/x/net/context"
"google.golang.org/grpc"
"google.golang.org/grpc/grpclog"
"fmt"
"time"
)
const (
// Address gRPC服務地址
Address = "127.0.0.1:9527"
)
func main() {
// 連接
conn, err := grpc.Dial(Address, grpc.WithInsecure())
if err != nil {
grpclog.Fatalln(err)
}
defer conn.Close()
// 初始化客戶端
c := pb.NewHelloClient(conn)
reqBody := new(pb.HelloRequest)
reqBody.Name = "gRPC"
// 調用方法
for{
r, err := c.SayHello(context.Background(), reqBody)
if err != nil {
grpclog.Fatalln(err)
}
fmt.Println(r.Message)
time.Sleep(time.Second)
}
}
服務端：
package main
import (
"net"
"fmt"
pb "protobuf/grpctest" // 引入編譯生成的包
"golang.org/x/net/context"
"google.golang.org/grpc"
"google.golang.org/grpc/grpclog"
)
const (
// Address gRPC服務地址
Address = "127.0.0.1:50052"
//Address = "127.0.0.1:50053"
//Address = "127.0.0.1:50054"
)
var HelloService = helloService{}
type helloService struct{}
func (this helloService) SayHello(ctx context.Context,in *pb.HelloRequest)(*pb.HelloReply,error){
resp := new(pb.HelloReply)
resp.Message = Address+" hello"+in.Name+"."
return resp,nil
}
func main(){
listen,err:=net.Listen("tcp",Address)
if err != nil{
grpclog.Fatalf("failed to listen: %v", err)
}
s:=grpc.NewServer()
pb.RegisterHelloServer(s,HelloService)
grpclog.Println("Listen on " + Address)
s.Serve(listen)
}
測試
以50052,50053,50054 3個端口啟3個服務端進程，運行客戶端代碼，即可看見如下效果：
負載均衡完美實現(xiàn)， 打開日志文件，可以看到post的地址為 /grpctest.Hello/SayHello，nginx配置為所有請求都按默認 localtion / 轉發(fā)，因此 nginx再配上合適的路由規(guī)則，還可實現(xiàn)更靈活轉發(fā)，也可達到微服務注冊的目的，非常方便。
以上為個人經驗，希望能給大家一個參考，也希望大家多多支持腳本之家。如有錯誤或未考慮完全的地方，望不吝賜教。
相關文章
Go語言Swagger實現(xiàn)為項目生成 API 文檔
Swagger 是一個基于 OpenAPI 規(guī)范設計的工具,用于為 RESTful API 生成交互式文檔,下面小編就來介紹一下如何在 Go 項目中集成 Swagger,特別是結合 Gin 框架生成 API 文檔2025-03-03
深入理解Golang?make和new的區(qū)別及實現(xiàn)原理
在Go語言中，有兩個比較雷同的內置函數(shù)，分別是new和make方法，二者都可以用來分配內存，那他們有什么區(qū)別呢？下面我們就從底層來分析一下二者的不同。感興趣的小伙伴們可以參考借鑒，希望對大家能有所幫助2022-10-10
這篇文章主要為大家介紹了Go語言基礎go doc命令的用法及示例詳解，有需要的朋友可以借鑒參考下，希望能夠有所幫助祝大家多多進步2021-11-11
Golang 處理浮點數(shù)遇到的精度問題(使用decimal)
本文主要介紹了Golang 處理浮點數(shù)遇到的精度問題，不使用decimal會出大問題，文中通過示例代碼介紹的非常詳細，具有一定的參考價值，感興趣的小伙伴們可以參考一下2022-02-02
探索Golang?Redis實現(xiàn)發(fā)布訂閱功能實例
這篇文章主要介紹了Golang?Redis發(fā)布訂閱功能實例探索,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進步,早日升職加薪2024-01-01
在Go編程中,上下文（context）是一個非常重要的概念,它包含了與請求相關的信息,本文主要來和大家討論一下如何在并發(fā)計算中使用上下文,感興趣的可以了解下2024-02-02
Go單元測試對數(shù)據(jù)庫CRUD進行Mock測試
這篇文章主要為大家介紹了Go單元測試對數(shù)據(jù)庫CRUD進行Mock測試的示例詳解，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進步，早日升職加薪2022-06-06
備忘錄模式是一種行為設計模式, 允許在不暴露對象實現(xiàn)細節(jié)的情況下保存和恢復對象之前的狀態(tài),本文主要通過一些圖片來給大家介紹一下Go的備忘錄模式,需要的朋友可以參考下2023-08-08
Go中time.RFC3339 時間格式化的實現(xiàn)
這篇文章主要介紹了Go中time.RFC3339 時間格式化的實現(xiàn)，文中通過示例代碼介紹的非常詳細，對大家的學習或者工作具有一定的參考學習價值，需要的朋友們下面隨著小編來一起學習學習吧2021-01-01
本文主要介紹了Go語言使用Json的方法實現(xiàn)2024-05-05