keydb重量发布6.3.0开源版,华为深度参与贡献-凯发k8国际娱乐官网入口

发表于 2022/05/13 11:47:09 2022/05/13
【摘要】 5月12日 keydb 社区隆重发布了 6.3.0开源版本,将与华为加拿大研究院dcs团队2021-2022年合作的成果,深度优化的企业版的能力贡献给了开源社区。

keydb是目前redis 分布式缓存生态产品中唯一实现完全多线程的开源产品。自从今年4月snapchat 收购eqalphasnapchat及所属的keydb团队大力推进keydb的开源社区的发展和建设,团队开始全身投入keydb社区的推广及影响力活动5月12keydb社区隆重发布了 6.3.0开源版本,将与华为加拿大研究院dcs团队2021-2022年合作的成果,深度优化的企业版的能力贡献给开源社区

合作优化的能力包括有完全多线程下进一步性能的提升,async rehash的实现, global lock& snapshot 优化算法的实现,async命令,主备集群下的fastsync的能力, 以及istorage接口实现与存储的对接等功能。

在相同的硬件上,keydb可以实现比redis5和redis6io多线程条件下高得多的吞吐量。活动复制简化了热备盘故障切换,够轻松地在副本上分发写入,并使用简单的基于tcp的负载平衡/故障切换。keydb的更高的性能允许在更少的硬件上做更多的事情,从而降低了操作成本和复杂性。

下图比较了几个keydb最新版本和redis设置,包括最新的redis6 io-threads选项和tls基准。在非tsl情况下比较最新的redis版本性能有4-5倍的提升。在tsl安全加密情况下,性能更有超过9-10倍的提升。

keydb团队和huawei dcs 云服务团队在过去一年中在keydb社区中积极合作与配合,实现了keydb在原企业版基础上的又一个飞跃。在性能,性价比和功能竞争力上有了新的突破。huawei dcs 团队将继续参与keydb的社区合作,及持续投入参与该社区的核心发展工作中,力争促进在keydb架构,及生态上的进一步的提升。

keydb 6.3.0版是第一个包含以前keydb企业功能的开源版本!此版本是多年来摆脱keydb全局锁并实现跨核心更好扩展的工作的最极致产品

activereplication psync

active replication psynckeydb的功能在旧的版本中已经实现,但在连接到新对等体时始终需要完全同步。在此版本中,keydb支持部分同步,以实现快速群集愈合。此外,keydb能够根据对等节点的知识更新其复制偏移量,这意味着从一个节点进行完全同步足以允许数据部分同步到网格中的其他节点。

此更改大大减少了将新节点添加到活动复制群集的时间。在我们的测试中,我们看到12节点网状群集的时间从10分钟以上缩短到1分半

异步命令

异步命令是可以在没有全局锁的情况下执行的命令。必须首先在配置文件中通过设置“enable-async-commands yes”启用此功能。启用异步命令时,一致性会略有修改,特别是来自其他客户端的写入可能需要配置的时间才能对其他客户端可见。此时间使用max-snapshot-slip配置参数配置。

  • 使用异步命令的排序规则如下:
  • 写入总是在客户端之间完全有序执行写入操作的客户端始终立即可见写入操作

对于大多数应用程序,对复制一致性模型的轻微修改将不可见。如果您的应用程序依赖于不同客户端之间的排序,默认情况下禁用此功能。此外,还为那些确实依赖于客户端之间的一致性但愿意插入围栏以在正确时间断言总排序的客户端提供了一个名为“lfence”的新命令。

以下命令支持异步操作:

  • get
  • mget

随着时间的增加,其他只读命令将被添加。如果您特别感兴趣的命令,请发布一个问题,以帮助我们确定您的用例的优先级。

异步重哈希

keydb依赖于自旋锁来同步线程。在keydb的早期版本中,等待获取锁时消耗的cpu时间被浪费了。keydb现在能够在这段时间内使用浪费的cpu时间执行重新哈希,以达到更有用的目的。在许多情况下,这几乎可以完全隐藏重新哈希的开销。启用此功能不需要配置,默认情况下它运行。

过程中后台保存

从历史上看,redis使用“fork”系统调用来创建一个执行后台保存的新进程。这使得代码更容易遵循,因为内核在后台保存过程中处理内存写时复制的艰巨任务。然而,这种方法的缺点是,无法准确估计所需的内存总量,包括后台保存。

keydb现在使用新的“快照”系统在特定时间段创建数据库的快照,并在进程中创建写时复制新更改。因此,maxmemory设置现在是全局设置,并将包括用于后台保存的内存。

为了向后兼容性,在后台保存期间,maxmemory的语义会稍微修改。当后台保存正在进行时,keydb将允许内存消耗超过maxmemory 20%。这是为了模拟后台保存内存消耗不计入maxmemory设置的旧行为,同时允许轻松计算内存使用的总上限。

istorage接口

此版本还不包括keydb基于rocksdb的闪存功能。但是,该版本包括keydbistorage接口,这是我们持久存储功能的主干。通过为自定义存储凯发k8国际娱乐官网入口的解决方案实施此接口,您将启用所有keydb功能。

感谢我们的贡献者:

感谢所有为keydb做出贡献的人,包括错误报告、设计和测试:

ben schermel
firaenix: bug report - crash in sorted sets with long names
kerog: error after include *.confg
gvsafronov: fedora 35 compile failure
talkabout: always providing helpful and detailed bug reports, not limited to
inakisoriamrf: crash
alebcay: macos build break
server2245: install issue on rhel7
antiarchitect: , and many others
tchernomax: missing support for systemd
heng kuang: detailed bug reports and design suggestions
kajaruban surendran: detailed performance analysis of async rehash and other features
paul chen: your enthusiasm and willingness to help debug issues has been deeply appreciated.

特别感谢华为加拿大研究团队详细而深入的bug报告、功能设计,验证参与。

thanks to the eq alpha team that made this release possible: malavansotheeswaran, vivek saini, christian legge, peter liang, ben schermel, john sully


keydb 6.3.0 开源发布 release note 原文:

【凯发k8国际娱乐官网入口的版权声明】本文为华为云社区用户原创内容,转载时必须标注文章的来源(华为云社区),文章链接,文章作者等基本信息,否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件至:进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容。
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。