GPU 支持及使用说明
显卡要求
目前软件只支持Nvidia 的cuda加速, 不支持AMD系列显卡加速。最低要求1060以上, 4GB显存的显卡。显存方面, 如果想顺利使用大模型执行GPU加速计算, 需要至少6GB显存的显卡。 如果想完美使用, 建议配置8GB 3060以上的显卡,另外, 使用前建议将显卡驱动升级到最新。如果遇到显卡不支持问题, 请先升级驱动。
使用方法
如果驱动正常安装, 并打开 v2sub
-> 帮助菜单
-> 系统检测
, 确认GPU加速显示 已支持
。 使用时会自动开启GPU加速功能.
可能错误处理
- 显存不足导致模型加载错误 - 如果你选择的模型要求显存大于你的显卡显存, 比如使用大模型需要8G显存, 但你的显卡只要6G, 这时加载模型会报错, 无法使用GPU加速, 但此时如果你还是想用大模型, 可在
配置菜单
->模型配置
->计算设备
选择强制使用CPU
选项, 这样就会使用CPU来执行模型计算, 但速度会慢很多. - GPU加速没开启 - 请先检查显卡驱动是否安装最新(可搜索 "nvidia 驱动" ,官网下载最新驱动), 安装完成后重启电脑, 并打开
v2sub
->帮助菜单
->系统检测
, 确认GPU加速显示已支持
。