当前位置: 首页 > news >正文

在启智社区使用MindFormers本地部署大模型(未解决)

使用MindFormers本地部署大模型

在启智社区使用MindFormers本地部署大模型非常简单方便,因为启智社区已经提供了NPU算力环境,不需要自己再去配置和调试了。

在启智社区新建云脑(AI)任务:

选择你需要创建的任务类型,这里我们选择新建调试任务,

创建2.2调试任务

算力集群默认且只能选:

智算网络集群(Beta)

计算资源选:昇腾NPU

资源规格选:华为昇腾NPU算力 Ascend 910

镜像选:mindspore_2_2_cann7_cb2_caai

然后点新建任务,即可。

任务创建完成后,即可开始调试

2.2调试任务开始

进入jupyter环境后,可以开始AI任务。

首先安装MindFormers

!pip install mindformers==1.0

因为MindFormers对MindSpore有版本对应的限制,这里的MindSpore是2.2版本,所以这里需要安装MindFormers1.0版本。

选MindSpore2.3版本

如果条件允许,可以安装最新版本,对应的是MindSpore2.3版本

安装MindSpore2.3

!pip install https://ms-release.obs.cn-north-4.myhuaweicloud.com/2.3.1/MindSpore/unified/aarch64/mindspore-2.3.1-cp39-cp39-linux_aarch64.whl --trusted-host ms-release.obs.cn-north-4.myhuaweicloud.com -i https://pypi.tuna.tsinghua.edu.cn/simple
!pip install mindformers

后来发现启智社区提供mindspore2.3版本的环境,

2.3版本下安装mindformers

安装完成后,import mindformers报错,具体见后面调试部分。

问题未解决。

2.3版本下装python3.10再装mindspore+mindformers

基本确定问题,可能是python3.9的问题,于是在启智的mindspore2.3环境下,重新安装python3.10环境,并安装 mindspore+mindformers

去清华源下载python3.10并安装

wget https://mirrors.tuna.tsinghua.edu.cn/anaconda/miniconda/Miniconda3-py310_24.7.1-0-Linux-aarch64.sh
sh Miniconda3-py310_24.7.1-0-Linux-aarch64.sh

安装mindspore2.3版本

pip install https://ms-release.obs.cn-north-4.myhuaweicloud.com/2.3.1/MindSpore/unified/aarch64/mindspore-2.3.1-cp310-cp310-linux_aarch64.whl --trusted-host ms-release.obs.cn-north-4.myhuaweicloud.com -i https://pypi.tuna.tsinghua.edu.cn/simple

安装mindformers

pip install mindformers

调试

import mindformers报错:

ImportError: cannot import name 'swap_cache' from 'mindspore._c_expression' (/home/ma-user/anaconda3/envs/MindSpore/lib/python3.9/site-packages/mindspore/_c_expression.cpython-39-aarch64-linux-gnu.so)

相关文章:

  • 北京网站建设多少钱?
  • 辽宁网页制作哪家好_网站建设
  • 高端品牌网站建设_汉中网站制作
  • 海外云手机——跨国业务的高效工具
  • Day8 | Java框架 | Maven
  • 计算几何学习
  • python学习——对无人机影像有RGB转换到HSV
  • ecmascript和javascript的区别
  • leetcode hot100_part4_子串
  • 智能听诊器:打造宠物个性化健康生活
  • 云手机哪一款好用?手游专用云手机一览!VMOS云手机
  • Flask 第四课 -- 基本概念
  • 决策树模型的可解释性
  • 122.rk3399 uboot(2017.09) 源码分析2-initf_dm(2024-09-09)
  • 5--SpringBoot、Mybatis
  • 如何通过Python SDK获取Collection列表
  • 使用Python本地搭建http.server文件共享服务并实现公网环境远程访问——“cpolar内网穿透”
  • 大数据-132 - Flink SQL 基本介绍 与 HelloWorld案例
  • hexo+github搭建个人博客
  • [Vue CLI 3] 配置解析之 css.extract
  • 【347天】每日项目总结系列085(2018.01.18)
  • docker-consul
  • ESLint简单操作
  • isset在php5.6-和php7.0+的一些差异
  • MySQL几个简单SQL的优化
  • Quartz初级教程
  • rc-form之最单纯情况
  • webpack入门学习手记(二)
  • XML已死 ?
  • 阿里中间件开源组件:Sentinel 0.2.0正式发布
  • 程序员该如何有效的找工作?
  • 服务器从安装到部署全过程(二)
  • 看完九篇字体系列的文章,你还觉得我是在说字体?
  • 那些被忽略的 JavaScript 数组方法细节
  • 深度学习在携程攻略社区的应用
  • 微信端页面使用-webkit-box和绝对定位时,元素上移的问题
  • $.ajax()参数及用法
  • (1)STL算法之遍历容器
  • (5)STL算法之复制
  • (BAT向)Java岗常问高频面试汇总:MyBatis 微服务 Spring 分布式 MySQL等(1)
  • (Bean工厂的后处理器入门)学习Spring的第七天
  • (C语言)逆序输出字符串
  • (day18) leetcode 204.计数质数
  • (SERIES12)DM性能优化
  • (TipsTricks)用客户端模板精简JavaScript代码
  • (博弈 sg入门)kiki's game -- hdu -- 2147
  • (附源码)php投票系统 毕业设计 121500
  • (十六)串口UART
  • (算法设计与分析)第一章算法概述-习题
  • (五十)第 7 章 图(有向图的十字链表存储)
  • (转)shell调试方法
  • *_zh_CN.properties 国际化资源文件 struts 防乱码等
  • .mysql secret在哪_MYSQL基本操作(上)
  • .net core 的缓存方案
  • .NET MVC第三章、三种传值方式
  • .NET WebClient 类下载部分文件会错误?可能是解压缩的锅
  • .NET 表达式计算:Expression Evaluator
  • .NET程序员迈向卓越的必由之路