当前位置: 首页 > news >正文

milvus使用milvus migration工具迁移数据

1.前提:这个数据迁移工具是collection 维度的
2.文章内是2.3.1–》2.4.5数据迁移,公司内部需求,各位看官注意哈
官方架构图:文档
想要迁移的milvus 官方称之为:源source milvus
在这里插入图片描述
要迁入的表
在这里插入图片描述
目标的milvus 官方称之为:目标target milvus
在这里插入图片描述
安装migration
github地址:https://github.com/zilliztech/milvus-migration
在这里插入图片描述


下载下来然后:
1.创建文件夹
2. 解压

 tar -xzvf milvus-migration_Linux_x86_64.tar.gz 

得到以下的目录
在这里插入图片描述
下载模板文件yaml,放入milvus_migration/configs 下,一般命名:migration.yaml
在这里插入图片描述

在这里插入图片描述

dumper:worker:workMode: milvus2xreader:bufferSize: 500meta:mode: configversion: 2.3.1collection: test_0829  #表名source:milvus2x:endpoint: xxxx(ip):325xx(port)database: xxusername: xxxpassword: xxtarget:milvus2x:endpoint: xxxx:324xxdatabase: xxxusername: xxxpassword: xxx

执行命令

./milvus-migration start --config=/opt/k8s/octopus/milvus_migration/configs/migration.yaml

ok 完成!

由于这个脚本只能单表导入,官网提供了sh 脚本实现 批量导入
batch_collection_migration.sh

#!/bin/bashcollections=("collection1" "collection2" "collection3")for collection in "${collections[@]}"; doecho "BatchMigration==> $collection"./milvus-migration start -t="$collection" -c=/opt/k8s/octopus/milvus_migration/migration.yml
done

看的出来就是shell脚本for 循环执行就行了,但是我的表很多哎,这样一点点写很烦,改一下吧

在这里插入图片描述
在这里插入图片描述
执行
在这里插入图片描述

如果目标 Milvus 中没有与源集合对应的集合,milvus-migration工具会自动创建该集合。注意,迁移后目标集合不会被索引,您需要手动为该集合创建索引。

相关文章:

  • 北京网站建设多少钱?
  • 辽宁网页制作哪家好_网站建设
  • 高端品牌网站建设_汉中网站制作
  • Kubernetes 上安装 Jenkins
  • 滑动窗口系列(定长滑动窗口长度)8/31
  • CRMEB商城系统功能解读——渠道码
  • Ant Design vue 多层for循环form表单自定义校验
  • css中的伪类
  • 打卡第58天------图论
  • Stable Diffusion 必备插件推荐,菜鸟轻松成高手!(附插件整合包)
  • 基于爬山法MPPT和PI的直驱式永磁同步风力发电机控制系统simulink建模与仿真
  • string的模拟实现与深浅拷贝
  • 嵌入式全栈开发学习笔记---Linux系统编程(进程间通信)
  • Trying to update a textarea with string from an OpenAI request
  • 使用Python+docx+openpyxl将Word表格转换为Excel表格
  • 如何处理时间序列异常值?理解、检测和替换时间序列中的异常值
  • 掌握Go语言中的Channel:并发编程的核心
  • 集成电路学习:什么是CPU中央处理器
  • 【译】理解JavaScript:new 关键字
  • angular2 简述
  • HTML中设置input等文本框为不可操作
  • IDEA常用插件整理
  • java架构面试锦集:开源框架+并发+数据结构+大企必备面试题
  • mac修复ab及siege安装
  • MySQL主从复制读写分离及奇怪的问题
  • php面试题 汇集2
  • storm drpc实例
  • vue2.0开发聊天程序(四) 完整体验一次Vue开发(下)
  • 第十八天-企业应用架构模式-基本模式
  • 分享一个自己写的基于canvas的原生js图片爆炸插件
  • 基于游标的分页接口实现
  • 看图轻松理解数据结构与算法系列(基于数组的栈)
  • 微信小程序上拉加载:onReachBottom详解+设置触发距离
  • 我看到的前端
  • 小程序测试方案初探
  • Nginx惊现漏洞 百万网站面临“拖库”风险
  • #define、const、typedef的差别
  • #LLM入门|Prompt#3.3_存储_Memory
  • (二)windows配置JDK环境
  • (非本人原创)史记·柴静列传(r4笔记第65天)
  • (四)React组件、useState、组件样式
  • (一)C语言之入门:使用Visual Studio Community 2022运行hello world
  • (原创)攻击方式学习之(4) - 拒绝服务(DOS/DDOS/DRDOS)
  • (转)iOS字体
  • .htaccess配置重写url引擎
  • .NET Core/Framework 创建委托以大幅度提高反射调用的性能
  • .NET Core工程编译事件$(TargetDir)变量为空引发的思考
  • .net 微服务 服务保护 自动重试 Polly
  • .NET/C# 使窗口永不激活(No Activate 永不获得焦点)
  • .NET/C# 使用 #if 和 Conditional 特性来按条件编译代码的不同原理和适用场景
  • .NET企业级应用架构设计系列之开场白
  • .NET中使用Redis (二)
  • @Data注解的作用
  • @RequestMapping处理请求异常
  • @RequestMapping-占位符映射
  • [ web基础篇 ] Burp Suite 爆破 Basic 认证密码
  • [100天算法】-实现 strStr()(day 52)
  • [AIGC] 开源流程引擎哪个好,如何选型?