由买买提看人间百态

boards

本页内容为未名空间相应帖子的节选和存档,一周内的贴子最多显示50字,超过一周显示500字 访问原贴
Programming版 - Kafka consumer启动怎样不读之前的massage
相关主题
给大家出个多进程的题zookeeper还有公司在用吗
zookeeper 这种牛鼻软件都是apache自己的人写的?一个Hadoop Cluster升级的问题
real time distributed framework一个JAVA程序请教
关于web client连接server的问题创建kafka consumer的stop函数
有人分享一下学习 使用卡夫卡的方法 心得么?问个Java问题
kafka 压缩包里自带zookeeper对吧?问大牛个java线程机器数的估算
对分布式软件的Jepsen测试如果能够保证kafka的broker不被flood?
job schduleing - one and only onekafka produce to AWS
相关话题的讨论汇总
话题: kafka话题: consumer话题: offset话题: 启动话题: 之前
进入Programming版参与讨论
1 (共1页)
k****r
发帖数: 807
1
这里大侠多,有个Kafka的问题请教一下:
我现在用python的kafka api实现一个consumer,可是每次启动consumer都会读到之前
所以的msgs。。。
请问Kafka怎样可以不去读之前的东西,只读到启动之后producer发出的msg呢?
谢谢,
w**z
发帖数: 8232
2
it is based on the offset, not timestamp.

【在 k****r 的大作中提到】
: 这里大侠多,有个Kafka的问题请教一下:
: 我现在用python的kafka api实现一个consumer,可是每次启动consumer都会读到之前
: 所以的msgs。。。
: 请问Kafka怎样可以不去读之前的东西,只读到启动之后producer发出的msg呢?
: 谢谢,

k****r
发帖数: 807
3
offset怎么控制呢?

【在 w**z 的大作中提到】
: it is based on the offset, not timestamp.
N*****m
发帖数: 42603
4
consumer group id

【在 k****r 的大作中提到】
: 这里大侠多,有个Kafka的问题请教一下:
: 我现在用python的kafka api实现一个consumer,可是每次启动consumer都会读到之前
: 所以的msgs。。。
: 请问Kafka怎样可以不去读之前的东西,只读到启动之后producer发出的msg呢?
: 谢谢,

k****i
发帖数: 128
5
你这是simple consumer还是high level的?前者你可以自己控制offset,后者在
zookeeper里
w**z
发帖数: 8232
6
http://cwiki.apache.org/confluence/display/KAFKA/FAQ#FAQ-Idon&#

【在 k****r 的大作中提到】
: offset怎么控制呢?
f*******t
发帖数: 7549
7
好像可以checkpoint吧,把读过的offset放到zookeeper之类的kv store里
g*********e
发帖数: 14401
8
你需要修改checkpoint的文件里的offset

【在 k****r 的大作中提到】
: 这里大侠多,有个Kafka的问题请教一下:
: 我现在用python的kafka api实现一个consumer,可是每次启动consumer都会读到之前
: 所以的msgs。。。
: 请问Kafka怎样可以不去读之前的东西,只读到启动之后producer发出的msg呢?
: 谢谢,

k****r
发帖数: 807
9
thanks for your solutions.
I finally use group ID of high level consumer and set the autocommit as True
. Then, the problem is solved.
N*****m
发帖数: 42603
10
你也不给我发个包子

True

【在 k****r 的大作中提到】
: thanks for your solutions.
: I finally use group ID of high level consumer and set the autocommit as True
: . Then, the problem is solved.

k****r
发帖数: 807
11
请查收。

【在 N*****m 的大作中提到】
: 你也不给我发个包子
:
: True

1 (共1页)
进入Programming版参与讨论
相关主题
kafka produce to AWS有人分享一下学习 使用卡夫卡的方法 心得么?
请教一个concurrentlinkedqueue的用法问题kafka 压缩包里自带zookeeper对吧?
请教pthread producer-consumer问题对分布式软件的Jepsen测试
求教一个Java问题 IllegalMonitorStateExceptionjob schduleing - one and only one
给大家出个多进程的题zookeeper还有公司在用吗
zookeeper 这种牛鼻软件都是apache自己的人写的?一个Hadoop Cluster升级的问题
real time distributed framework一个JAVA程序请教
关于web client连接server的问题创建kafka consumer的stop函数
相关话题的讨论汇总
话题: kafka话题: consumer话题: offset话题: 启动话题: 之前