我可以在 Kafka Broker 所在的同一台机器上运行 Kafka Streams 应用程序吗?

2024-03-01

我有一个 Kafka Streams 应用程序,它从几个主题获取数据并连接数据并将其放入另一个主题中。

卡夫卡配置:

5 kafka brokers
Kafka Topics - 15 partitions and 3 replication factor. 

注意:我在运行 Kafka Brokers 的同一台机器上运行 Kafka Streams 应用程序。

每小时消耗/产生几百万条记录。每当我关闭任何卡夫卡经纪人时,它就会进入重新平衡状态,并且需要大约。重新平衡需要 30 分钟甚至更多,而且很多时候它会杀死许多 Kafka Streams 进程。


从技术上讲,可以在与代理相同的服务器上运行 Kafka Streams 应用程序。但不建议这样做。两者都需要共享相同的资源,最终会出现争用。

每当我关闭任何卡夫卡经纪人时,它就会进入重新平衡

不知道为什么会发生这种情况。您使用什么版本的 Kafka 或 Streams API?如果您使用的是 Broker 0.10.1+,我强烈建议您将 Streams 应用程序升级到 0.11(注意,您可以在不升级 Broker 的情况下执行此操作)。

根据您正在分阶段解决的问题的详细信息,StandbyTask might有助于延长重新平衡时间。您可以简单配置参数num.standby.replica = 1启用StandbyTasks.

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

我可以在 Kafka Broker 所在的同一台机器上运行 Kafka Streams 应用程序吗? 的相关文章

随机推荐

  • 如何在 DefaultRouter() 中进行反向操作

    我正在设置一个新的测试 并且我想进行相反的操作 router DefaultRouter router register profile views UserProfileViewSet base name profile urlpatte
  • 如何动态更改 Apollo Web Socket Link URI?

    目前我已经设置了 Apollo websocket 链接 如下所示 const wsLink new WebSocketLink uri ws example com graphql token getToken options recon
  • 如何将 Git 存储库从 Beanstalk 移至 Github?

    我的代码仓库在豆茎 http beanstalkapp com 如何将代码从 Beanstalk 移至Github https github com 建议的方法是 git clone bare url for beanstalk repo
  • R:如何从日期中删除当天? [复制]

    这个问题在这里已经有答案了 我在 df 列中有一堆日期 格式如下 dd mm yyyy 我希望它看起来像这样 01 2020 mm yyyy 如何从所有日期中删除这一天 Use format指定您想要的日期格式 date lt as Dat
  • 从多个 JavaScript 线程访问 IndexedDB

    概述 我试图避免从网页和网络工作人员访问 IndexedDB 时出现竞争情况 Setup 当用户使用站点时将项目保存到本地 IndexedDB 的网页 每当用户将数据保存到本地数据库时 记录就会被标记为 未发送 Web worker 后台线
  • 每当在树视图中添加新节点时创建事件处理程序

    我想编写一个自定义类 每当我向树视图添加一个节点时 它都应该调用一个事件 这样我就可以递归地运行它 我很少使用TreeView 但乍一看这是我的第一印象 由于无法继承 TreeViewCollection 因此您可能必须在新类上创建一个单独
  • 如何获得像Instagram一样1:1比例的Android Camera2?

    我的问题很简单 如何获得安卓系统android hardware Camera2像 Instagram 一样 1 1 比例且不变形 我用 GoogeSamples 项目进行了测试android Camera2Basic https gith
  • Mac OS X 虚拟环境中的 Python 安装是否包含一个可以包含到 Xcode 中的框架?

    我喜欢将 Python 与 numpy scipy 和其他一些包一起使用 我是一个绝对的 Python 初学者 在 Mac OS X 下安装时遇到一些问题 我按照这两个教程来安装 python 1 http hackercodex com
  • 使用 jQuery AJAX 调用类方法?

    我正在从 PHP AJAX 库 xajax 迁移到 jQuery AJAX 使用 xajax 我可以通过将公共类方法绑定到 javascript 函数名称 例如 this gt registerFunction javascriptFunc
  • wpf 网格最佳实践

    我有一个包含许多标签 组合框和文本框的网格 我在每个单元格中都放置了标签和组合框 最佳实践是什么 1 将组合框和标签放入堆栈面板中 然后将其放入单元格中 2 只需将两个控件直接放入网格单元格中 两种方法的优点和缺点是什么 谢谢 将两个控件放
  • 在 Java 中,写入文件比迭代数组慢多少? [关闭]

    Closed 这个问题需要细节或清晰度 help closed questions 目前不接受答案 我意识到一般来说写入速度较慢 但我想知道是多少 我在服务器类中有一些代码写入日志文件 if inputLine equals y Syste
  • C# 如何检查 if 语句的哪一部分是正确的 [关闭]

    Closed 这个问题需要多问focused help closed questions 目前不接受答案 我想知道如何检查 if 语句的哪一部分是正确的 例如 如果你有这个 int a 1 b c d if a gt 0 b gt 1 c
  • 使用所见即所得编辑器编辑 HTML

    我有一个带有 HTML 字符串的 datagridview 使用 CellDoubleClick 事件 我在 WebBrowser 控件中显示 html 字符串 In Form1 private void dataGridView1 Cel
  • 订阅 FormBuilder valueChanges 时,使用 debounceTime 和 uniqueUntilChanged 不起作用

    非常简单地说 我想在用户停止输入一段时间后执行查询 我见过的每个教程都使用FormBuilder建议订阅valueChanges输入字段的 同时管道debounceTime and distinctUntilChanged this thr
  • 与语言无关的构建管理系统

    在我的职业生涯中 我曾多次在一个软件团队工作 该团队确定a 我们需要一个构建 测试系统b 我们应该自己写c 我们可以让开发人员花一周的时间来完成它 然后他们就不必再碰它了 每一次 这都会导致一个系统似乎只对编写它的人有效 并且需要他们持续关
  • Rails 3.1 上的 Capistrano 部署/资产失败

    我添加了这一行load deploy assets 到我的 Capfile 以使用 Rails 3 1 部署资产 卡皮斯特拉诺到达这条线 executing cd home deploy armonia stage releases 201
  • pitest无法找到junit测试

    我的 gradlepitest 无法给我正确的结果 看起来它无法找到我的测试文件 我有以下 build gradle 文件 apply plugin java apply plugin maven apply plugin info sol
  • 将 lambda 函数作为参数传递 C++

    我正在努力将 lambda 函数 R1 和 R2 传递给我的模板函数 F 但是 我不确定我是否正确执行此操作 函数 F 应该使用主函数中的所有参数并执行相关计算 牛顿近似根法 我是使用模板函数的新手 因此 任何帮助将不胜感激 main cp
  • C++ 的手册页在哪里? [关闭]

    Closed 此问题正在寻求书籍 工具 软件库等的推荐 不满足堆栈溢出指南 help closed questions 目前不接受答案 Linux 中是否存在 C 文档 我想要类似 C 的手册页之类的东西 例如 string stl ios
  • 我可以在 Kafka Broker 所在的同一台机器上运行 Kafka Streams 应用程序吗?

    我有一个 Kafka Streams 应用程序 它从几个主题获取数据并连接数据并将其放入另一个主题中 卡夫卡配置 5 kafka brokers Kafka Topics 15 partitions and 3 replication fa