当前位置: 首页 > news >正文

昇思大模型——MindFormers的使用----从零开始安装配置环境

         

        MindSpore Transformers套件的目标是构建一个大模型训练、微调、评估、推理、部署的全流程开发套件,提供业内主流的Transformer类预训练模型和SOTA下游任务应用,涵盖丰富的并行特性。期望帮助用户轻松的实现大模型训练和创新研发。

MindSpore Transformers套件基于MindSpore内置的并行技术和组件化设计,具备如下特点:

  • 一行代码实现从单卡到大规模集群训练的无缝切换;
  • 提供灵活易用的个性化并行配置;
  • 能够自动进行拓扑感知,高效地融合数据并行和模型并行策略;
  • 一键启动任意任务的单卡/多卡训练、微调、评估、推理流程;
  • 支持用户进行组件化配置任意模块,如优化器、学习策略、网络组装等;
  • 提供Trainer、pipeline、AutoClass等高阶易用性接口;
  • 提供预置SOTA权重自动下载及加载功能;
  • 支持人工智能计算中心无缝迁移部署;

昇思大模型平台 (mindspore.cn)

mindformers: MindSpore Transformers套件的目标是构建一个大模型训练、推理、部署的全流程套件: 提供业内主流的Transformer类预训练模型, 涵盖丰富的并行特性。 期望帮助用户轻松的实现大模型训练。 文档:https://mindformers.readthedocs.io/zh-cn/latest/ (gitee.com)

1. 安装

在Linux Ubuntu环境下先安装git 

sudo apt install git

 获取mindformers

git clone -b r1.1.0 https://gitee.com/mindspore/mindformers.git

进入目录执行脚本

cd mindformers
bash build.sh

 这个脚本需要安装python的setuptools库,运行链接中的命令

No module named ‘distutils.cmd_no module named 'distutils.cmd-CSDN博客

sudo apt-get install python3.7-distutils   3.7

Python版本至少要3.7,我建议安装3.9

Ubuntu升级Python至3.7_apt-get 更新python3.7-CSDN博客

python3

键入“exit()”回到正常命令行模式

build.h可能会报错ERROR: Invalid requirement: 'mindformers*whl'

把脚本里面的python改成python3 

 按下Esc后键入":wq!"保存退出

再次运行

bash build.sh

成功运行,安装完毕。 

有时候需要Python不同版本,注意python3和python不一样。我记得也是可以配置的。

whereis python3
rm /usr/bin/python3
ln -s /usr/bin/python3.9 /usr/bin/python3

如果是3.9

sudo apt-get install python3.9-distutils   3.9

相关文章:

  • 北京网站建设多少钱?
  • 辽宁网页制作哪家好_网站建设
  • 高端品牌网站建设_汉中网站制作
  • 8627 数独
  • 深度学习调参基础
  • MySQL DDL
  • 使用Docker制作python项目镜像
  • DP(2) | Java | LeetCode 62, 63, 343, 96 做题总结(96 未完)
  • 7月11日学习打卡,数据结构栈
  • vue3项目打包的时候,怎么区别测试环境,和本地环境
  • 代码随想录算法训练营第9天
  • 142. 两个字符串的最小 ASCII 删除总和(卡码网周赛第二十五期(23年B站笔试真题))
  • java使用easypoi模版导出word详细步骤
  • 我被手机所伤,竟如此憔悴。
  • 假期笔记1:anaconda的安装与pycharm中的引用
  • Linux 程序卡死的特殊处理
  • 进度条提示-在python程序中使用避免我误以为挂掉了
  • 微服务的分布式事务解决方案
  • 《用数据讲故事》作者Cole N. Knaflic:消除一切无效的图表
  • canvas 高仿 Apple Watch 表盘
  • Cookie 在前端中的实践
  • CoolViewPager:即刻刷新,自定义边缘效果颜色,双向自动循环,内置垂直切换效果,想要的都在这里...
  • HashMap ConcurrentHashMap
  • JavaScript 无符号位移运算符 三个大于号 的使用方法
  • js递归,无限分级树形折叠菜单
  • js中的正则表达式入门
  • Python_OOP
  • SQLServer之索引简介
  • tweak 支持第三方库
  • 分类模型——Logistics Regression
  • 浮现式设计
  • 回顾 Swift 多平台移植进度 #2
  • 记一次删除Git记录中的大文件的过程
  • 来,膜拜下android roadmap,强大的执行力
  • 利用阿里云 OSS 搭建私有 Docker 仓库
  • 模型微调
  • 通过git安装npm私有模块
  • nb
  • “十年磨一剑”--有赞的HBase平台实践和应用之路 ...
  • C# - 为值类型重定义相等性
  • CMake 入门1/5:基于阿里云 ECS搭建体验环境
  • ​卜东波研究员:高观点下的少儿计算思维
  • ​总结MySQL 的一些知识点:MySQL 选择数据库​
  • #### golang中【堆】的使用及底层 ####
  • #[Composer学习笔记]Part1:安装composer并通过composer创建一个项目
  • #1014 : Trie树
  • #define、const、typedef的差别
  • $con= MySQL有关填空题_2015年计算机二级考试《MySQL》提高练习题(10)
  • (day18) leetcode 204.计数质数
  • (翻译)Entity Framework技巧系列之七 - Tip 26 – 28
  • (附源码)spring boot网络空间安全实验教学示范中心网站 毕业设计 111454
  • (附源码)ssm跨平台教学系统 毕业设计 280843
  • (亲测有效)解决windows11无法使用1500000波特率的问题
  • (入门自用)--C++--抽象类--多态原理--虚表--1020
  • (十七)Flink 容错机制
  • (详细文档!)javaswing图书管理系统+mysql数据库
  • (一)SvelteKit教程:hello world
  • (转)IIS6 ASP 0251超过响应缓冲区限制错误的解决方法