代码编织梦想

RabbitMQ持久化

概念

刚刚我们已经看到了如何处理任务不丢失的情况,但是如何保障当 RabbitMQ 服务停掉以后消息生产者发送过来的消息不丢失。默认情况下 RabbitMQ 退出或由于某种原因崩溃时,它忽视队列和消息,除非告知它不要这样做。确保消息不会丢失需要做两件事: 我们需要将队列和消息都标记为持久化;

队列如何持久化

之前我们创建的队列都是非持久化的,rabbitmq 如果重启的化,该队列就会被删除掉,如果要队列实现持久化 需要在声明队列的时候把 durable 参数设置为持久化;
在这里插入图片描述
但是需要注意的就是如果之前声明的队列不是持久化的,需要把原先队列先删除,或者重新创建一个持久化的队列,不然就会出现错误;
在这里插入图片描述
以下为控制台中持久化与非持久化队列的 UI 显示区:

在这里插入图片描述

消息实现持久化

要想让消息实现持久化需要在消息生产者修改代码,MessageProperties.PERSISTENT_TEXT_PLAIN 添加这个属性。
在这里插入图片描述
将消息标记为持久化但不能完全保证不会丢失消息。尽管它告诉 RabbitMQ 将消息保存到磁盘,但是这里依然存在当消息刚准备存储在磁盘的时候 但是还没有存储完,消息还在缓存的一个间隔点。此时并没有真正写入磁盘。持久性保证并不强,但是对于我们的简单任务队列而言,这已经绰绰有余了。如果需要更强有力的持久化策略,参考后边课件发布确认章节;

不公平分发

在最开始的时候我们学习到 RabbitMQ 分发消息采用的轮训分发,但是在某种场景下这种策略并不是很好,比方说有两个消费者在处理任务,其中有个消费者 1 处理任务的速度非常快,而另外一个消费者 2
处理速度却很慢,这个时候我们还是采用轮训分发的化就会到这处理速度快的这个消费者很大一部分时间处于空闲状态,而处理慢的那个消费者一直在干活,这种分配方式在这种情况下其实就不太好,但是
RabbitMQ 并不知道这种情况它依然很公平的进行分发;
为了避免这种情况,我们可以设置参数 channel.basicQos(1);
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
意思就是如果这个任务我还没有处理完或者我还没有应答你,你先别分配给我,我目前只能处理一个任务,然后 rabbitmq 就会把该任务分配给没有那么忙的那个空闲消费者,当然如果所有的消费者都没有完成手上任务,队列还在不停的添加新任务,队列有可能就会遇到队列被撑满的情况,这个时候就只能添加新的 worker 或者改变其他存储任务的策略。

预取值

本身消息的发送就是异步发送的,所以在任何时候,channel 上肯定不止只有一个消息另外来自消费者的手动确认本质上也是异步的。因此这里就存在一个未确认的消息缓冲区,因此希望开发人员能限制此缓冲区的大小,以避免缓冲区里面无限制的未确认消息问题。这个时候就可以通过使用 basic.qos 方法设置“预取计数”值来完成的。==该值定义通道上允许的未确认消息的最大数量。==一旦数量达到配置的数量,RabbitMQ 将停止在通道上传递更多消息,除非至少有一个未处理的消息被确认,例如,假设在通道上有未确认的消息 5、6、7,8,并且通道的预取计数设置为 4,此时 RabbitMQ 将不会在该通道上再传递任何消息,除非至少有一个未应答的消息被 ack。比方说 tag=6 这个消息刚刚被确认 ACK,RabbitMQ 将会感知这个情况到并再发送一条消息。消息应答和 QoS 预取值对用户吞吐量有重大影响。通常,增加预取将提高向消费者传递消息的速度。==虽然自动应答传输消息速率是最佳的,但是,在这种情况下已传递但尚未处理的消息的数量也会增加,从而增加了消费者的 RAM 消耗(随机存取存储器)==应该小心使用具有无限预处理的自动确认模式或手动确认模式,消费者消费了大量的消息如果没有确认的话,会导致消费者连接节点的内存消耗变大,所以找到合适的预取值是一个反复试验的过程,不同的负载该值取值也不同 100 到 300 范围内的值通常可提供最佳的吞吐量,并且不会给消费者带来太大的风险。预取值为 1 是最保守的。当然这将使吞吐量变得很低,特别是消费者连接延迟很严重的情况下,特别是在消费者连接等待时间较长的环境中。对于大多数应用来说,稍微高一点的值将是最佳的。
在这里插入图片描述

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/cjl_xupt/article/details/118978114

rabbitmq持久化机制-爱代码爱编程

之前其实已经写过一篇关于RabbitMQ持久化的 文章 ,但那篇文章侧重代码层面的写入流程,对于持久化操作何时发生以及什么时候会刷新到磁盘等问题其实都没有搞清楚,这篇文章着重于关注这些问题。 消息什么时候需要持久化? 根据 官方博文 的介绍,RabbitMQ在两种情况下会将消息写入磁盘: 消息本身在publish的时候就要求消息写入磁盘;

rabbitmq实战篇9-消息持久化_朱_哲的博客-爱代码爱编程

在前面的第七和第八节我们讲解了如何实现消息的发布和订阅。同时也提到了一些问题,比如说如果RabbitMQ服务挂掉了,那么我们的消息也就丢失了。怎么解决这样的问题呢?这就需要我们将消息进行持久化啦 这节,我们就在原有的基础上来讲解消息的持久化 如何持久化 其实,在之前我们已经将消息进行了持久化。只是我们并没有去关注。 简单说说消息发布订阅的流程: 生产者将消

rabbitmq 消息持久化实现_zwhfyy的博客-爱代码爱编程

如果想要让消息重启后仍然不丢失,那么需要将queue设置成 durable 为true , 并且发送消息的时候指明消息是要持久化得MessageProperties.PERSISTENT_TEXT_PLAIN channel.queueDeclare(QUEUE_NAME, true, false, false, null); channel.basi

rabbitmq使用总结:持久化_sheungxin的博客-爱代码爱编程

[list][*][b]持久化[/b][/list] RabbitMQ的持久化是为了实现服务从异常状态恢复后恢复之前的状态。RabbitMQ发送消息涉及交换器(exchange)、队列(queue)、消息,因而持久化包括交换器的持久化、队列的持久化、消息文本的持久化。获取消息是从队列中获取的、交换器进行的转发,所以为了确保消息的最终持久化,一般交换器、队

rabbitmq实战(二)-消息持久化策略、事务以及confirm消息确认方式_wenqi365的博客-爱代码爱编程

「扫码关注我,面试、各种技术(mysql、zookeeper、微服务、redis、jvm)持续更新中~」 RabbitMQ学习列表: RabbitMQ实战(一)-消息通信基本概念 · 在上一篇学习完RabbitMQ通信

rabbitmq之消息持久化_weixin_34062329的博客-爱代码爱编程

消息的可靠性是RabbitMQ的一大特色,那么RabbitMQ是如何保证消息可靠性的呢——消息持久化。 为了保证RabbitMQ在退出或者crash等异常情况下数据没有丢失,需要将queue,exchange和Message都持久化。 queue的持久化 queue的持久化是通过durable=true来实现的。 一般程

rabbitmq持久化_iiaythi的博客-爱代码爱编程_rabbitmq持久化

rabbitmq持久化 持久化是为提高rabbitmq消息的可靠性,防止在异常情况(重启,关闭,宕机)下数据的丢失 rabbitmq持久化分为三个部分: 交换器的持久化、队列的持久化和消息的持久化 交换器的持

rabbitmq:我的消息去哪儿了呢?持久化和你的策略。-爱代码爱编程

关于在Rabbit里创建队列和交换器有个不可告人的秘密:默认情况下他们无法幸免于服务器重启。没错,重启RabbitMQ服务器后,那些队列和交换器就都消失了(随同里面的消息)。原因在于每个队列和交换器的durable属性。该属性默认情况为false,他决定了RabbitMQ是否需要在崩溃或者重启之后重新创建队列(或者交换器)。将他设置为true,这样你就不需

RabbitMQ的四种策略-爱代码爱编程

RabbitMQ简介 RabbitMQ基于AMQP协议 AMQP (Advanced Message Queuing Protocol) 高级消息队列协议 AMQP优点 面向消息 队列 路由(包括点对点和发布/订阅) 可靠性 安全 RabbitMQ优点 跨平台 易用性 扩展性 高可用性 RabbitMQ三个基本对象 Conne

消息队列RabbitMQ之消息持久化-爱代码爱编程

文章目录 前置知识RabbitMQ消息持久化为什么需要消息持久化?怎么设置消息持久化?JavaAPI设置持久化属性 前置知识 什么是消息队列RabbitMQ?参考博客:消息队列RabbitMQ之初学者 什么是消息队列的消息模型?参考博客:消息队列RabbitMQ之五种消息模型 什么是消息队列的基本消息模型?参考博客:消息队列Rabbit

多线程与双端队列结合使用,实现持久化任务(1)_线程任务持久化-爱代码爱编程

双端队列deque import collections class TaskQueue(object): def __init__(self): super(TaskQueue,self).__init__() self.queue = collections.deque() def pop(s