具有多个任务的分布式官方 Mongodb Kafka 源连接器无法正常工作

2023-12-03

我正在我的 Windows 机器上运行 Apache Kafka,有两个 Kafka-Connect-Workers(端口 8083、8084)和一个具有三个分区的主题(一个复制)。 我的问题是,每当我关闭其中一个 Kafka-Connect 工作程序时,我都能看到故障转移到其他 Kafka-Connect 工作程序,但没有发生负载平衡,因为任务数始终为 1。 我使用官方 MongoDB-Kafka-Connector 作为源(ChangeStream),tasks.max=6。 我尝试使用多个线程更新 MongoDB,以便它可以将更多数据推送到 Kafka-Connect 中,并且可能使 Kafka-Connect 创建更多任务。即使在数据量更大的情况下,任务数仍然为一。

我如何确认只有一项任务正在运行?这是通过 api "http://localhost:8083/connectors/mongodb-connector/status" : 回复: { "name":"mongodb-connector", "connector": { "state":"RUNNING", "worker_id":"xx.xx.xx.xx:8083" } "tasks": [ { "id": 0, "state": "RUNNING" "worker_id": "xx.xx.xx.xx:8083" } ], "type": "source" } 我在这里错过了什么吗?为什么没有创建更多任务?


这似乎是官方 MongoDB Kafka Source Connector 的行为。这是我在另一个论坛上从 Ross Lawley(MongoDB 开发人员)那里得到的答案:

在 1.2.0 之前,接收器连接器仅支持单个任务。 源连接器仍然只支持单个任务,这是因为它使用单个更改流游标。这足以观察和发布集群范围、数据库范围或单个集合的更改。

我提出了这张票:https://jira.mongodb.org/browse/KAFKA-121得到以下回复:源连接器只会生成一个任务。 这是设计使然,因为源连接器由变更流支持。更改流在内部使用与复制引擎使用的数据相同的数据,因此应该能够像数据库一样进行扩展。 没有计划允许多个游标,但是,如果您觉得这不能满足您的要求,那么您可以配置多个连接器,每个连接器都有自己的更改流游标。

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

具有多个任务的分布式官方 Mongodb Kafka 源连接器无法正常工作 的相关文章

随机推荐

  • 使用C#获取插入行的id

    我有一个查询要在表中插入一行 该表有一个名为 ID 的字段 该字段是使用列上的 AUTO INCRMENT 填充的 我需要为下一个功能获取这个值 但是当我运行以下命令时 它总是返回 0 即使实际值不为 0 MySqlCommand comm
  • iOS 上的自定义键盘:如何访问 UITextField?

    我有一个UIView我分配给文本字段的子类如下 self textField inputView HexKeyboard alloc initWithFrame CGRectMake 0 0 100 100 这有效 即键盘出现 然而 应该如
  • 提取以特定字符开头的几个单词EXCEL

    我有这个公式来提取以给定字符 开头的特定单词 它工作正常 但是 有更多以相同开头的单词 它只会提取第一个单词 如何让它全部提取出来 TRIM LEFT SUBSTITUTE MID B2 FIND B2 LEN B2 REPT 100 10
  • 为 n 维系统实现模块化 Runge-kutta 四阶方法

    我正在尝试使我的 runge kutta 四阶代码模块化 我不想每次使用它时都必须编写和声明代码 但是在 hpp和 cpp文件中声明它以分别使用它 但我遇到了一些问题 一般来说 我想求解 n 维方程组 为此 我使用两个函数 一个用于方程组
  • 如何在谷歌浏览器中创建侧边栏(右侧)?

    似乎这是不可能的 但如果有人提示如何在 google chrome 中创建右侧边栏 如 iframe 任何提示都会有所帮助 谢谢 截至目前 实验性侧边栏 API 已从 Chrome 文档中消失 因为不再有开发人员在处理它 对于现在可以实现的
  • 与循环相比,使用函数有什么优点?

    函数式迭代器似乎正在取代 JS 中 for 循环的使用 传递诸如此类的函数有什么好处map or reduce与 for while 循环相比 var numbers 1 4 9 var doubles numbers map functi
  • 我可以选择性地禁用软件包加载到 VS2010 中吗?

    继续问题来自 VS2010加载缓慢 我可以分析扩展程序各自的启动时间吗 查看日志文件后 发现有一些我没有太多使用的包 我认为 加载时间 包 2s Microsoft VisualStudio TeamArchitect DesignersC
  • 当值为 null 时使用 Thymeleaf

    我的数据库中有一些值 如果尚未输入 则这些值可能为空 但是当我在 html 中使用 Thymeleaf 时 它在解析 null 值时会出错 有什么办法可以处理这个问题吗 最短的方法是使用 操作员 如果您有嵌入地址实体的用户实体 以便访问地址
  • 在 bash 中使用 ${1:1}

    有人知道什么吗 1 1 在 bash 中意味着 例如 for i 0 i lt 1 1 i do addToList 2 done 那是一场狂欢参数扩展 具体来说 parameter offset parameter offset leng
  • 批处理中的 IF 语句导致问题。单独运行时有效吗?

    在工作中 我每天为新用户设置几台计算机 我使用的批处理文件提供了 3 个选项 1 添加新用户 2 更改电脑名称 3 两者皆有 当从自己的批处理文件运行时 它们都工作得很好 但是当将代码复制 粘贴到 IF 语句中时 只有 IF 语句 2 有效
  • JS FileReader 在 safari 中无法工作,但在 chrome 中工作正常

    我创建了显示图像的功能 如果您有任何替代解决方案 请提供帮助 admin previewImage function input selector if input files input files 0 var reader new Fi
  • 设置 PHP 应用程序的默认时区

    我想知道我们是否也可以使用init set 功能设置默认时间 a 我知道我们可以在编辑 php ini 时设置时区 b 在 PHP 上使用 Linux time 命令 c init set date timezone Europe Edin
  • 如何执行大量的承诺? [复制]

    这个问题在这里已经有答案了 我计划在 firebase 上运行大量查询 这些查询可能会增长到数十万甚至数百万的数量级 我一直在使用Promise all 解决我的大部分疑问 但随着请求的增长Promise all 似乎只是停止以随机数运行
  • 生成浮点随机值(也为负值)

    如何在 C 中生成浮点随机值 也消极 一般来说 要从任意分布生成随机数 您首先生成均匀随机数 然后将它们传递给累积分布函数的逆函数 例如 假设您想要在区间 10 0 10 0 上均匀分布的随机数 而您得到的只是 0 0 1 0 中的随机数
  • 如何使用宏为 Scala 案例类中的每个字段生成案例对象?

    我正在尝试生成case objects 代表每个case member每个孩子的case class具有密封特征 我能够在宏中生成代码 但我不知道如何在我的代码中使用它 示例用例 sealed trait Item sealed trait
  • 带有贝塞尔曲线路径的 SCNShape

    我想在 Scenekit iOS 中绘制一条 3d 线 我正在尝试使用下面的代码来绘制线 func path gt UIBezierPath var bPath UIBezierPath bPath moveToPoint CGPointM
  • Python、tkinter 中的多个窗口

    我正在尝试编写一个程序 您可以在其中打开一个单独的测试 调试窗口 例如 第二个窗口包含一些影响主窗口的按钮 我已经尝试了一些事情 我可以打开两个单独的窗口 但我想要绘制的任何内容都是在主窗口中绘制的 import tkinter as tk
  • TortoiseHg 更改默认 .hg 文件夹位置

    是否建议将默认的 hg 文件夹位置更改为中心位置 而不是将 hg 文件夹存储在工作目录下 因为我不小心删除了工作目录并丢失了所有提交历史记录 有没有办法更改 TortoiseHg 中默认的 hg 文件夹位置 或者有什么关于备份存储库的建议吗
  • 如何在 matlab 中以规范表示形式求解线性规划? [关闭]

    很难说出这里问的是什么 这个问题是含糊的 模糊的 不完整的 过于宽泛的或修辞性的 无法以目前的形式得到合理的回答 如需帮助澄清此问题以便重新打开 访问帮助中心 是否可以在matlab中输入这样的字符串 MAX 140 x1 160 x2 x
  • 具有多个任务的分布式官方 Mongodb Kafka 源连接器无法正常工作

    我正在我的 Windows 机器上运行 Apache Kafka 有两个 Kafka Connect Workers 端口 8083 8084 和一个具有三个分区的主题 一个复制 我的问题是 每当我关闭其中一个 Kafka Connect