golang基于可靠消息的最终一致性

数据不一致

订单服务需要跨微服务调用库存服务实现,由于跨微服务可能会存在各种问题数据不一致
1.先调用库存服务后执行本地事务
本地执行失败-调用库存的归还
非本地执行失败,本地代码异常,不知道本地执行情况,代码突然挂掉了(磁盘满了)
2.先执行本地事务后调用库存服务-只有扣减库存成功之后才commit
扣减库存发送出去时网络拥塞重试3次,但实际上库存服务扣减成功
扣减库存发送出去了,订单服务宕机
扣减库存发送出去了,库存服务返回扣减结果时网络拥塞

在这里插入图片描述

TCC解决库存扣减的问题

confirm或者cancel的时候都可能会宕机,但是下一次启动的时候可以读取日志继续没有完成的逻辑,java有seta库,golang有go-seta但不支持grpc
在这里插入图片描述

基于可靠消息最终一致性方案

基于可靠消息本质上解决了一个问题:可靠消息(消费者应该确保这个消息能被正确消费,即库存服务代码要可靠而且一定要执行,代码有bug或者宕机都能解决)
在这里插入图片描述
积分服务没有问题,但是库存服务可能存在库存不足

如何通过基于可靠消息实现库存的一致性

1.订单信息准备一个归还库存的half消息
2.订单服务通过grpc调用库存服务
3.如果失败直接rollback不发送,什么事情都没有发生;如果成功执行本地事务
4.本地事务执行成功,通过rollback不发送1准备的消息;本地事务如果失败,通过commit发送1准备的消息通过调用reback逻辑归还库存
5.通过commit发送1准备的消息通过调用reback逻辑归还库存
到此正常的逻辑已经结束,第六七步是宕机或者程序出错的回查
6.如果异常程序挂掉,就回查本地逻辑
7.如果没有查询到本地信息就通过commit发送1准备的消息通过调用reback逻辑归还库存
潜在问题:下单但不支付-设置超时归还订单
在这里插入图片描述

改进
在这里插入图片描述

发送端逻辑

构造OrderListener

type OrderListener struct{}

// When send transactional prepare(half) message succeed, this method will be invoked to execute local transaction.
func (o *OrderListener) ExecuteLocalTransaction(addr *primitive.Message) primitive.LocalTransactionState {
	fmt.Println("开始执行本地逻辑")
	time.Sleep(time.Second * 3)
	fmt.Println("执行本地逻辑失败")
	//本地执行逻辑无缘无故失败 代码异常 宕机
	return primitive.UnknowState
}

// When no response to prepare(half) message. broker will send check message to check the transaction status, and this
// method will be invoked to get local transaction status.
func (o *OrderListener) CheckLocalTransaction(msg *primitive.MessageExt) primitive.LocalTransactionState {
	fmt.Println("rocketmq的消息回查")
	time.Sleep(time.Second * 15)
	return primitive.CommitMessageState
}

创建订单API


func (*OrderServer) CreateOrder(ctx context.Context, req *proto.OrderRequest) (*proto.OrderInfoResponse, error) {

	orderListener := OrderListener{}
	p, err := rocketmq.NewTransactionProducer(
		&orderListener,
		producer.WithNameServer([]string{"IP:PORT"}),
	)
	if err != nil {
		zap.S().Errorf("生成producer失败:%s", err.Error())
		return nil, err
	}
	if err = p.Start(); err != nil {
		// panic("启动producer失败")
		zap.S().Errorf("启动producer失败:%s", err.Error())
		return nil, err
	}

	order := model.OrderInfo{
		OrderSn:      GenerateOrderSn(req.UserId),
		Address:      req.Address,
		SignerName:   req.Name,
		SingerMobile: req.Mobile,
		Post:         req.Post,
		User:         req.UserId,
	}
	jsonString, _ := json.Marshal(order)

	res, err := p.SendMessageInTransaction(context.Background(),
		primitive.NewMessage("order_reback", jsonString))
	if err != nil {
		fmt.Printf("发送失败:%s\n", err)
		return nil, status.Error(codes.Internal, "发送消息失败")
	}
	if res.State == primitive.CommitMessageState {
		return nil, status.Error(codes.Internal, "新建订单失败")
	}

	return &proto.OrderInfoResponse{Id: orderListener.ID, OrderSn: order.OrderSn, Total: orderListener.OrderAmount}, nil
}

修改OrderListener通过指针的形式回传值

type OrderListener struct {
	Code        codes.Code//状态嘛
	Detail      string//执行详情信息
	ID          int32//ID
	OrderAmount float32//总金额
}

ExecuteLocalTransaction执行本地事务逻辑

// When send transactional prepare(half) message succeed, this method will be invoked to execute local transaction.
func (o *OrderListener) ExecuteLocalTransaction(msg *primitive.Message) primitive.LocalTransactionState {

	var orderInfo model.OrderInfo
	_ = json.Unmarshal(msg.Body, &orderInfo)

	var goodsIds []int32
	var shopCarts []model.ShoppingCart
	goodsNumsMap := make(map[int32]int32)
	if result := global.DB.Where(&model.ShoppingCart{User: orderInfo.User, Checked: true}).Find(&shopCarts); result.RowsAffected == 0 {
		o.Code = codes.InvalidArgument
		o.Detail = "没有选中结算的商品"
		//没扣减库存,回滚,没必要发送
		return primitive.RollbackMessageState
	}
	for _, shopCart := range shopCarts {
		goodsIds = append(goodsIds, shopCart.Goods)
		goodsNumsMap[shopCart.Goods] = shopCart.Nums
	}
	//跨服务调用
	//商品微服务
	goods, err := global.GoodsSrvClient.BatchGetGoods(context.Background(), &proto.BatchGoodsIdInfo{
		Id: goodsIds,
	})
	if err != nil {
		o.Code = codes.Internal
		o.Detail = "批量查询商品信息失败"
		//没扣减库存,回滚,没必要发送
		return primitive.RollbackMessageState
	}
	var orderAmount float32
	var orderGoods []*model.OrderGoods
	var goodsInvInfo []*proto.GoodsInvInfo
	for _, good := range goods.Data {
		orderAmount += good.ShopPrice * float32(goodsNumsMap[good.Id])
		orderGoods = append(orderGoods, &model.OrderGoods{
			Goods:      good.Id,
			GoodsName:  good.Name,
			GoodsImage: good.GoodsFrontImage,
			GoodsPrice: good.ShopPrice,
			Nums:       goodsNumsMap[good.Id],
		})
		goodsInvInfo = append(goodsInvInfo, &proto.GoodsInvInfo{
			GoodsId: good.Id,
			Num:     goodsNumsMap[good.Id],
		})
	}

	if _, err = global.InventorySrvClient.Sell(context.Background(), &proto.SellInfo{GoodsInfo: goodsInvInfo}); err != nil {
		//TODO 改写一下sell的返回逻辑,对于非网络问题导致的err根据状态判断是否等于InvalidArgument和ResourceExhausted;对于网络问题导致的err,库存扣减可能是失败或者成功,根据库存归还的接口实现
		o.Code = codes.ResourceExhausted
		o.Detail = "扣减库存失败"
		return primitive.RollbackMessageState
	}

	tx := global.DB.Begin()
	orderInfo.OrderMount = orderAmount
	if result := tx.Save(&orderInfo); result.RowsAffected == 0 {
		tx.Rollback()
		o.Code = codes.ResourceExhausted
		o.Detail = "创建订单失败"
		//调用扣减库存之后,出错调用commit归还库存
		return primitive.CommitMessageState
	}

	for _, orderGood := range orderGoods {
		orderGood.Order = orderInfo.ID
	}

	o.OrderAmount = orderAmount
	o.ID = orderInfo.ID
	//批量插入orderGoods
	if result := tx.CreateInBatches(orderGoods, 100); result.RowsAffected == 0 {
		tx.Rollback()
		o.Code = codes.Internal
		o.Detail = "批量插入商品失败"
		//调用扣减库存之后,出错调用commit归还库存
		return primitive.CommitMessageState
	}

	if result := tx.Where(&model.ShoppingCart{User: orderInfo.User, Checked: true}).Delete(&model.ShoppingCart{}); result.RowsAffected == 0 {
		tx.Rollback()
		o.Code = codes.Internal
		o.Detail = "删除购物车记录失败"
		//调用扣减库存之后,出错调用commit归还库存
		return primitive.CommitMessageState
	}
	tx.Commit()
	//本地事务执行成功,上图第4步.成功,rollback,不做归还库存
	return primitive.RollbackMessageState
}

消息回查CheckLocalTransaction

// When no response to prepare(half) message. broker will send check message to check the transaction status, and this
// method will be invoked to get local transaction status.
func (o *OrderListener) CheckLocalTransaction(msg *primitive.MessageExt) primitive.LocalTransactionState {
	var orderInfo model.OrderInfo
	_ = json.Unmarshal(msg.Body, &orderInfo)
	//通过OrderSn查询实现检查之前的逻辑是否完成
	if result := global.DB.Where(model.OrderInfo{OrderSn: orderInfo.OrderSn}).First(&orderInfo); result.RowsAffected == 0 {
		//本地事务执行失败,但并不能说明内存扣减了
		return primitive.CommitMessageState
	}
	//本地事务执行成功,不需要归还库存了
	return primitive.RollbackMessageState
}

消费端逻辑

归还表

type DeliveryHistory struct {
	Goods   int32  `gorm:"type:int;index"`
	Num     int32  `gorm:"type:int"`
	OrderSn string `gorm:"type:varchar(200)"`
	Status  string `gorm:"type:varchar(200)"` //1.代表已扣减.2.代表已归还,3.失败
}

表设计比较麻烦,十件商品建立十条信息,1.数据量大2.查询麻烦 改进表为StockSellDetail

type StockSellDetail struct {
	OrderSn string          `gorm:"type:varchar(200);index:idx_order_sn,unique"`
	Status  int             `gorm:"type:varchar(200)"` //1.表示已扣减,2.表示已归还
	Detail  GoodsDetailList `gorm:"type:varchar(200)"` //list类型,包括id和num
}

GoodsDetailList定义

type GoodsDetail struct {
	Goods int32
	Num   int32
}
type GoodsDetailList []GoodsDetail

func (g *GoodsDetailList) Scan(value interface{}) error {
	return json.Unmarshal(value.([]byte), &g)
}
func (g GoodsDetailList) Value() (driver.Value, error) {
	return json.Marshal(g)
}

通过gorm新建数据表
归还函数

func AutoReback(ctx context.Context, msgs ...*primitive.MessageExt) (consumer.ConsumeResult, error) {
	type OrderInfo struct {
		OrderSn string
	}
	for i := range msgs {
		//归还应该知道每件商品应该归还多少,但是有一个问题是什么?重复归还的问题
		//所以说这个借口应该确保幂等行,不能因为消息的重复发送导致一个订单的库存归还多次,没有扣减的库存不能归还
		//如果确保这些都没有问题,新建一张表,这张表记录了详细的订单扣减细节,以及归还细节
		var orderInfo OrderInfo
		err := json.Unmarshal(msgs[i].Body, &orderInfo)
		if err != nil {
			zap.S().Errorf("解析json失败:%v\n", msgs[i].Body)
			//代码问题 下一次重新发consumer.ConsumeRetryLater
			//数据问题 忽略
			return consumer.ConsumeSuccess, nil
		}
		//去将inv的库存加回去,将selldetail的status设置为2,要在事务中进行
		tx := global.DB.Begin()
		var sellDetail model.StockSellDetail
		if result := tx.Where(&model.StockSellDetail{OrderSn: orderInfo.OrderSn, Status: 1}).First(&sellDetail); result.RowsAffected == 0 {
			return consumer.ConsumeSuccess, nil
		}
		//逐个归还
		for _, orderGood := range sellDetail.Detail {
			//先查后改并发容易出问题,直接stocks=stocks+2
			if result := tx.Where(&model.Inventory{Goods: orderGood.Goods}).Update("stocks", gorm.Expr("sotcks+?", orderGood.Num)); result.RowsAffected == 0 {
				tx.Rollback()
				//检查代码
				return consumer.ConsumeRetryLater, nil
			}
		}
		sellDetail.Status = 2
		if result := tx.Where(&model.StockSellDetail{OrderSn: orderInfo.OrderSn}).Update("status", 2); result.RowsAffected == 0 {
			tx.Rollback()
			return consumer.ConsumeRetryLater, nil
		}
		tx.Commit()
	}
	return consumer.ConsumeSuccess, nil
}

库存服务订阅topic

//监听库存归还topic
	c, err := rocketmq.NewPushConsumer(
		consumer.WithNameServer([]string{"IP:PORT"}),
		consumer.WithGroupName("shop"),
	)
	if err != nil {
		panic("连接失败")
	}
	if err = c.Subscribe("order", consumer.MessageSelector{}, handler.AutoReback); err != nil {
		fmt.Println("读取消息失败")
	}
	_ = c.Start()
	//不能让主goroutine退出
	time.Sleep(time.Hour)
	_ = c.Shutdown()

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值