断网续传一般是将大文件采用合理的策略分块传输,然后两边检测传输的分块数据,一旦断网,不用重来,只要从未传输的分块开始继续传即可,
最近谷歌开源 cdc-file-transfer就是这个原理,他的性能碾压 rsync ,该工具凭借卓越性能直接碾压传统工具 rsync,在多项实测中表现惊艳,已获 Azure、Epic 等巨头青睐,红帽更是计划将其纳入 RHEL 默认仓库。
cdc-file-transfer 的核心优势在于创新采用内容定义分块(CDC)算法,实测传输 100G 虚拟机镜像时,速度较 rsync 提升 40%,同时内存占用减少 35%。
其具备两大核心功能:cdc rsync 支持同步处理,能跳过目标端相同文件大小和时间戳的文件传输;cdc stream 可实现 Windows 到 Linux 的单向流式传输,访问游戏时菜单显示速度较 sshfs 快 2 至 5 倍。
该工具还拥有断网重连续传能力,搭配 CRC32 双保险校验机制,通过生成 32 位校验值确保数据传输零丢失,即便网络波动也能保障数据完整性。目前,Azure 已采用它传输 PB 级数据,Epic 借助其实现《堡垒之夜》资源秒传。
https://github.com/google/cdc-file-transfer
网友回复
- threejs如何做个三维搭积木的游戏?
- three如何实现标记多个起始路过地点位置后选择旅行工具(飞机汽车高铁等),最后三维模拟行驶动画导出mp4?
- ai实时驱动的3d数字人可视频聊天的开源技术有吗
- swoole+phpfpm如何实现不同域名指向不同目录的多租户模式?
- 如何用go替换nginx实现请求phpfpm解析运行php脚本?
- 有没有浏览器离线运行进行各种文档、图片、视频格式转换的开源工具?
- 如何使用go语言搭建一个web防火墙?
- linux如何检测特定网络协议比如http协议中报文是否包含特点关键词并阻止返回给客户?
- 如果在nginx外过滤包含某些关键词的网页并阻止打开?
- 程序员怎么做副业赚钱?



 
				 
			 
			 
				 
			