这篇文章主要介绍“kafka客户端的使用方法”,在日常操作中,相信很多人在kafka客户端的使用方法问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”kafka客户端的使用方法”的疑惑有所帮助!接下来,请跟着小编一起来学习吧!新的生产者是线程安全的,在线程之间共享单个生产者实例,通常单例比多个实例要快。一个简单的例子,使用producer发送一个有序的key/value(键值对),放到java的main
方法里就能直接运行,生产者的缓冲空间池保留尚未发送到服务器的消息,后台I/O线程负责将这些消息转换成请求发送到集群。如果使用后不关闭生产者,则会泄露这些资源。send()
方法是异步的,添加消息到缓冲区等待发送,并立即返回。生产者将单个的消息批量在一起发送来提高效率。ack
是判别请求是否为完整的条件(就是是判断是不是成功发送了)。我们指定了“all”将会阻塞消息,这种设置性能最低,但是是最可靠的。retries
,如果请求失败,生产者会自动重试,我们指定是0次,如果启用重试,则会有重复消息的可能性。producer
(生产者)缓存每个分区未发送的消息。缓存的大小是通过 batch.size
配置指定的。值较大的话将会产生更大的批。并需要更多的内存(因为每个“活跃”的分区都有1个缓冲区)。默认缓冲可立即发送,即便缓冲空间还没有满,但是,如果你想减少请求的数量,可以设置linger.ms
大于0。这将指示生产者发送请求之前等待一段时间,希望更多的消息填补到未满的批中。这类似于TCP的算法,例如上面的代码段,可能100条消息在一个请求发送,因为我们设置了linger(逗留)时间为1毫秒,然后,如果我们没有填满缓冲区,这个设置将增加1毫秒的延迟请求以等待更多的消息。需要注意的是,在高负载下,相近的时间一般也会组成批,即使是 linger.ms=0
。在不处于高负载的情况下,如果设置比0大,以少量的延迟代价换取更少的,更有效的请求。buffer. 香港云主机memory
控制生产者可用的缓存总量,如果消息发送速度比其传输到服务器的快,将会耗尽这个缓存空间。当缓存空间耗尽,其他发送调用将被阻塞,阻塞时间的阈值通过max.block.ms
设定,之后它将抛出一个TimeoutException。key.serializer
和value.serializer
示例,将用户提供的key和value对象ProducerRecord转换成字节,你可以使用附带的ByteArraySerializaer或StringSerializer处理简单的string或byte类型。异步发送一条消息到topic,并调用callback
(当发送已确认)。send是异步的,并且一旦消息被保存在等待发送的消息缓存
中,此方法就立即返回。这样并行发送多条消息而不阻塞去等待每一条消息的响应。发送的结果是一个RecordMetadata,它指定了消息发送的分区,分配的offset和消息的时间戳。如果topic使用的是CreateTime,则使用用户提供的时间戳或发送的时间(如果用户没有指定指定消息的时间戳)如果topic使用的是LogAppendTime,则追加消息时,时间戳是broker的本地时间。由于send调用是异步的,它将为分配消息的此消息的RecordMetadata
返回一个Future。如果future调用get(),则将阻塞,直到相关请求完成并返回该消息的metadata,或抛出发送异常。如果要模拟一个简单的阻塞调用,你可以调用get()
方法。完全无阻塞的话,可以利用回调参数提供的请求完成时将调用的回调通知。发送到同一个分区的消息回调保证按一定的顺序执行,也就是说,在下面的例子中 callback1
保证执行 callback2
之前:注意:callback一般在生产者的I/O线程中执行,所以是相当的快的,否则将延迟其他的线程的消息发送。如果你需要执行阻塞或计算昂贵(消耗)的回调,建议在callback主体中使用自己的Executor来并行处理。pecified by:Parameters:record – 发送的记录(消息)
callback – 用户提供的callback,服务器来调用这个callback来应答结果(null表示没有callback)。Throws:InterruptException – 如果线程在阻塞中断。
SerializationException – 如果key或value不是给定有效配置的serializers。
TimeoutException – 如果获取元数据或消息分配内存话费的时间超过max.block.ms。
KafkaException – Kafka有关的错误(不属于公共API的异常)。到此,关于“kafka客户端的使用方法”的学习就结束了,希望能够解决大家的疑惑。理论与实践的搭配能更好的帮助大家学习,快去试试吧!若想继续学习更多相关知识,请继续关注开发云网站,小编会继续努力为大家带来更多实用的文章!
这篇文章将为大家详细讲解有关win8系统如何禁用光驱,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。1.打开运行,输入devmgmt.msc,启动设备管理器。2.找到DVD/CD-ROM驱动器。点击右键,选择禁用。关于“win…
免责声明:本站发布的图片视频文字,以转载和分享为主,文章观点不代表本站立场,本站不承担相关法律责任;如果涉及侵权请联系邮箱:360163164@qq.com举报,并提供相关证据,经查实将立刻删除涉嫌侵权内容。