在人工智能快速发展的今天,搭建一个高效、灵活的学习与实验环境至关重要。本文分享基于虚拟化技术的AI学习环境配置方案,以做到最大化硬件资源利用率,在环境损坏故障时也能快速开启新环境。时间是宝贵的,环境好搞点,免于时间浪费在重复安装、解决兼容性疑难杂症等上面。
关键词 Proxmox VE、ubuntu、conda、python
基础架构
服务器平台:支持虚拟化的x86台式机、或者x99的机架服务器(二手便宜)
GPU:亮机卡/GTX 1070/Tesla V100
板U:b460+i5 10600kf
存储系统:nvmeSSD,HDD.nvme用于运行操作系统,HDD用于制作镜像和备份等
虚拟化层:Proxmox VE (PCIe直通技术)
其他
GPU不要使用太老旧的型号,cuda和pyhton有些包装不上
链接
pve安装
...
ubuntu安装与模板
...
硬件直通
...
存储规划
...
NVIDIA驱动安装
https://www.tang.show/ai/nvidia%e9%a9%b1%e5%8a%a8%e5%ae%89%e8%a3%85ubuntu-tesla-v100-sxm2-16gb/
conda安装用法
https://www.tang.show/ai/conda%e5%ae%89%e8%a3%85%e7%94%a8%e6%b3%95/
模型下载工具
https://www.tang.show/ai/%e6%a8%a1%e5%9e%8b%e4%b8%8b%e8%bd%bd%e5%b7%a5%e5%85%b7/
ollama安装
https://www.tang.show/ai/ollama%e5%ae%89%e8%a3%85/
ollama部署模型
https://www.tang.show/ai/ollama%e9%83%a8%e7%bd%b2%e6%a8%a1%e5%9e%8b/
源码部署-janus
https://www.tang.show/ai/%e6%ba%90%e7%a0%81%e9%83%a8%e7%bd%b2-janus/
webui页面 gradio
https://www.tang.show/ai/webui%e9%a1%b5%e9%9d%a2-gradio/