由买买提看人间百态

boards

本页内容为未名空间相应帖子的节选和存档,一周内的贴子最多显示50字,超过一周显示500字 访问原贴
Programming版 - 如果能够保证kafka的broker不被flood?
相关主题
问大牛个java线程机器数的估算java 真不适合12306一类的网站
Kafka consumer启动怎样不读之前的massagec++的两大威胁
kafka produce to AWS傻逼太监懂个屁C*
给大家出个多进程的题erlang系的东西从来都以量大著称
一个JAVA程序请教有专门讲 message server performance 的资料吗
二爷看过来。redis, kafka
发现一个大牛Scala的用途
Cassandra 看测试read也不算慢呢Celery in Golang and Scala?
相关话题的讨论汇总
话题: kafka话题: broker话题: flood话题: 保证话题: log
进入Programming版参与讨论
1 (共1页)
a****y
发帖数: 102
1
各位大侠,
我理解kafka的producer是push log 到broker,如何能够保证producer不会
floodbroker?比如client有个bug,所有的user都不停的send log。理论上broker的处
理能力是有限的,即使使用system 的pagecache,如果无法处理实时送过来的log,是
否会有data loss,应该怎么避免呢?
多谢!
w**z
发帖数: 8232
2
如果是load 问题, 就scale, 加 broker, 这不是distributed system 的精髓? 如
果是 client bug, 你应该有必要 的 monitoring and alerting, 在把系统搞当之前应
该就被alert 了。

【在 a****y 的大作中提到】
: 各位大侠,
: 我理解kafka的producer是push log 到broker,如何能够保证producer不会
: floodbroker?比如client有个bug,所有的user都不停的send log。理论上broker的处
: 理能力是有限的,即使使用system 的pagecache,如果无法处理实时送过来的log,是
: 否会有data loss,应该怎么避免呢?
: 多谢!

g*********e
发帖数: 14401
3
Have more partitions on your Kafka topic
Rate limit client and drop event
N*****m
发帖数: 42603
4
0.9以后支持quota

【在 a****y 的大作中提到】
: 各位大侠,
: 我理解kafka的producer是push log 到broker,如何能够保证producer不会
: floodbroker?比如client有个bug,所有的user都不停的send log。理论上broker的处
: 理能力是有限的,即使使用system 的pagecache,如果无法处理实时送过来的log,是
: 否会有data loss,应该怎么避免呢?
: 多谢!

1 (共1页)
进入Programming版参与讨论
相关主题
Celery in Golang and Scala?一个JAVA程序请教
zookeeper 这种牛鼻软件都是apache自己的人写的?二爷看过来。
大牛们讲讲MQ到底好在哪里?发现一个大牛
Pinterest陶涛:三个教训和三个发展选择Cassandra 看测试read也不算慢呢
问大牛个java线程机器数的估算java 真不适合12306一类的网站
Kafka consumer启动怎样不读之前的massagec++的两大威胁
kafka produce to AWS傻逼太监懂个屁C*
给大家出个多进程的题erlang系的东西从来都以量大著称
相关话题的讨论汇总
话题: kafka话题: broker话题: flood话题: 保证话题: log