这篇文章将为大家详细讲解有关Fluentd中如何配置高可用，文章内容质量较高，因此小编分享给大家做个参考，希望大家阅读完这篇文章后对相关知识有一定的了解。对于高访问量的web站点或者服务，我们可以采用Fluentd的高可用配置模式。消息分发语义Fluentd设计初衷主要是用作事件日志分发系统的。这类系统支持几种不同的分发模式：至多一次。消息被立即发送，若传输成功，该消息不会再被发送。发送失败，则会导致消息丢 香港云主机失。现实环境下会有很多情况导致发送失败，比如网络暂时不可用。至少一次。消息至少会被发送一次，若发送失败，消息会被重发。这保证了消息不会被丢失，但可能导致接收端收到重复的消息。精确只发一次。消息刚好发送一次，能确保送达且不会重复。这是大家所期望的分发模式。实现此模式可能需要采用同步化的日志处理方式，当达到发送瓶颈时，告知业务层已无法接收更多的日志。为了在不影响业务性能的情况下收集大量的日志，日志层必须以异步的方式运行。因此，Fluentd只提供了前两种传输模式。
网络拓扑为使得Fluentd具备高可用性，典型的部署架构需要包含两种不同角色的Fluentd模块：转发器（forwarder）和聚合器（aggregator）。其拓扑结构如下图所示
转发器部署在业务节点，用于收集业务方产生的本地日志事件，并将事件发送至聚合器。聚合器持续地从转发器接收日志，对日志进行缓存，并定期上传日志到下一个处理方（典型的就是存储）。聚合器采用主备模式。如上图，192.168.0.1为主，192.168.0.2为备。
转发器配置转发器的典型配置如下所示：这里有两个输入源，使用forward插件将日志事件发送到两个聚合器server中，其中通过standby指定192.168.0.2为备用聚合器。若两个聚合器节点都不可用，日志将会缓存在转发器节点。
聚合器配置聚合器的典型配置如下所示：
这个比较简单，使用forward插件作为输入源。日志会在本地缓存，并通过重传机制确保能送达目的地。
失败场景提示转发失败转发器收到应用层的日志事件后，先将事件写入本地磁盘缓存（由buffer_path指定）。每个flush_interval到来时，缓存事件被转发至聚合器。转发器进程若发生崩溃，进程重启后会自动重发已缓存的日志；转发器和聚合器网络若发生故障，转发器也会对日志进行重传。这在一定程度上保证了转发器的健壮性。但仍有一些情况可导致数据丢失：转发器收到业务层日志，在将日志写入缓存之前发生崩溃磁盘损坏
聚合失败聚合器采用和转发器相同的失败处理机制，失败场景类似。
错误排查采用此架构进行部署时，有时候会遇到“no nodes are available”的错误提示。这可能是节点间网络不通导致的。需要注意的是，节点之间通过24224端口传输数据，既使用TCP，也会使用UDP。可通过以下命令进行检查：关于Fluentd中如何配置高可用就分享到这里了，希望以上内容可以对大家有一定的帮助，可以学到更多知识。如果觉得文章不错，可以把它分享出去让更多的人看到。
Kafka中怎么保证消息不丢失重复，很多新手对此不是很清楚，为了帮助大家解决这个难题，下面小编将为大家详细讲解，有这方面需求的人可以来学习下，希望你能有所收获。消费端重复消费：建立去重表消费端丢失数据：关闭自动提交offset，处理完之后受到移位生产端重复发送…
免责声明：本站发布的图片视频文字，以转载和分享为主，文章观点不代表本站立场，本站不承担相关法律责任；如果涉及侵权请联系邮箱：360163164@qq.com举报，并提供相关证据，经查实将立刻删除涉嫌侵权内容。
微信扫一扫 
