【元壤教育AIGC培训系列】复旦大学Moss大模型:一站式环境安装完全指南

原标题:【元壤教育AIGC培训系列】复旦大学Moss大模型:一站式环境安装完全指南Moss 安装环境准备环境准备* 一台GPU服务器* Github 账号* 安装 conda购买GPU服务器腾讯云秒杀d

可以在秒杀页面购买GPU服务器 GN7-T4,60元/15天

【元壤教育AIGC培训系列】复旦大学Moss大模型:一站式环境安装完全指南github 账号由于我们 git clone MOSS 代码的

【元壤教育AIGC培训系列】复旦大学Moss大模型:一站式环境安装完全指南按照提示内容,输入相应的信息

okens

【元壤教育AIGC培训系列】复旦大学Moss大模型:一站式环境安装完全指南

【元壤教育AIGC培训系列】复旦大学Moss大模型:一站式环境安装完全指南为你创建的token添加描述选择token有效期时间,可以选择永不过期为token赋予权限如果从命令行操作仓库,至少选中repo。

【元壤教育AIGC培训系列】复旦大学Moss大模型:一站式环境安装完全指南点击生成。生成之后先复制下来,后面会用到

【元壤教育AIGC培训系列】复旦大学Moss大模型:一站式环境安装完全指南克隆一个仓库,提示输入用户名和密码,此处就可以使用上面生成的token作为密码使用$ git clone https://g

Username: your_usernamePassword: your_token安装 condawget https://repo.ana

bash Anaconda3-2023.03-1-Linux-x86_64.sh

【元壤教育AIGC培训系列】复旦大学Moss大模型:一站式环境安装完全指南需要按下ENTER回车键,查看许可证,直到提示是否接受许可内容,然后输入yes

【元壤教育AIGC培训系列】复旦大学Moss大模型:一站式环境安装完全指南按下ENTER回车键 进行安装,输入 yes 来确认使用 conda init 来启动

【元壤教育AIGC培训系列】复旦大学Moss大模型:一站式环境安装完全指南为了使命令生效我们可以关不shell,重新连接

MLab/MOSS.git

cd MOSS创建conda环境conda create --name moss python=3.8conda activate moss安装依赖pip install -r requirements.txt

网页Demostreamlit run moss_web_demo_streamlit.py --server.port 8888

【元壤教育AIGC培训系列】复旦大学Moss大模型:一站式环境安装完全指南

【元壤教育AIGC培训系列】复旦大学Moss大模型:一站式环境安装完全指南

【元壤教育AIGC培训系列】复旦大学Moss大模型:一站式环境安装完全指南问题收集TypeError: < not supported between instances of tuple and float

修改 models/custom_autotune.py 的 run 方法def run(self, *args, **kwargs):self.nargs = dict(zip(self.arg_names, args))

if len(self.configs) > 1:key = tuple(args[i] for i in self.key_idx)# This reduces the amount of autotuning by rounding the keys to the nearest power of two

# In my testing this gives decent results, and greatly reduces the amount of tuning requiredif self.nearest_power_of_two:

key = tuple([2 ** int(math.log2(x) + 0.5) for x in key])if key not in self.cache:# prune configspruned_configs = self.prune_configs(kwargs)

bench_start = time.time()timings = {config: self._bench(*args, config=config, **kwargs)for config in pruned_configs}

temp = {} for config in pruned_configs: if isinstance(self._bench(*args, config=config, **kwargs),float):

continue temp[config] = {self._bench(*args, config=config, **kwargs)} bench_end = time.time()self.bench_time = bench_end - bench_start

self.cache[key] = builtins.min(temp, key=timings.get)self.hook(args)self.configs_timings = timingsconfig = self.cache[key]

else:config = self.configs[0]self.best_config = configif config.pre_hook is not None:config.pre_hook(self.nargs)

return self.fn.run(*args, num_warps=config.num_warps, num_stages=config.num_stages, **kwargs, **config.kwargs)

【元壤教育AIGC培训系列】复旦大学Moss大模型:一站式环境安装完全指南

主题测试文章,只做测试使用。发布者:北国之冬,转转请注明出处:http://www.301seo.cn/index.php?m=home&c=View&a=index&aid=8948

联系我们

在线咨询:点击这里给我发消息

邮件:209087445@qq.com