AI 训练服务器用户指南

AI 训练服务器简介

AI 训练服务器提供一站式转换和训练工作流，可作为离线 Acuity Toolkit 的替代方案。它提供基于 Web 的用户界面，用于数据集管理、模型训练、量化和部署。

有关 AI 训练服务器的安装和使用完整指南，包括硬件要求、安装步骤和完整训练工作流，请参考：

AI 训练服务器设置指南

AI 训练服务器运行指南

主要特性

基于 Web 的用户界面：通过浏览器界面管理数据集、配置训练和下载转换后的模型。
端到端工作流：从数据集导入到训练和量化模型（ .nb 文件）。
自动标注：自动为数据集生成标签。
量化对比：在部署前比较 FP32 和 INT8 模型的精度。
内置模拟器：在服务器环境中直接测试您的模型。

要求

备注

AI 训练服务器有以下要求：

需要搭载 NVIDIA GPU 的原生 Ubuntu 环境。（推荐使用 Ubuntu 24.04）

不支持 WSL。
由于仅有一个 NVIDIA GPU，同一时间只能运行一个训练任务。

更多详情，请参见 AI 训练服务器设置指南和 AI 训练服务器运行指南。

AI 训练服务器设置指南

备注

安装过程需要执行多个命令。该流程已打包到 Docker 中，您只需导入 Docker 映像即可开始使用。

S1. 硬件要求

搭载 NVIDIA GPU 的 Ubuntu 操作系统（推荐版本：Ubuntu 24.04）
32 GB 内存
NVIDIA 4060 8 GB VRAM（或更高版本）

备注

AI 训练服务器不支持在 WSL（适用于 Linux 的 Windows 子系统）上安装或运行。需要原生 Ubuntu 环境并配备 NVIDIA GPU 支持。

S2. 安装 NVIDIA 驱动

打开 Software & Updates （软件与更新）
导航至 Additional Drivers （附加驱动）选项卡
选择标记为 "proprietary, tested"（专有，已测试）的驱动程序（例如 nvidia-driver-560）
点击 Apply Changes （应用更改）并重启
重启后，运行 nvidia-smi 验证安装

../../../_images/ai_train_server_setup_2_1.png

S3. 安装 Docker

按照以下说明进行安装：https://docs.docker.com/engine/install/ubuntu/
将用户添加到 Docker 用户组并重启：
```
sudo usermod -aG docker $USER
```
使用 docker ps 验证安装。

S4. 创建工作目录

创建一个文件夹用于存放脚本和 .tar.gz 文件（例如 AI_train_server）。文件夹结构如下：

AI_train_server/
|-- docker_images/
|   |-- IMAGES.txt                               --> Docker 映像列表
|   |-- load_docker_images.sh                    --> 安装脚本
|   |-- acuity_converter_v1.1.tar.gz             --> Docker 映像文件
|   |-- training-server-train_latest.tar.gz      --> Docker 映像文件
|   |-- training-server-importer_latest.tar.gz   --> Docker 映像文件
|   |-- nvidia_cuda_12.1.1-cudnn8-runtime-ubuntu22.04.tar.gz  --> Docker 映像文件
|-- base
|-- base-20260109-165208.tar.gz
|-- workspaces_example
|-- workspaces-example-20251223-135111.tar.gz
|-- INSTALLATION.md

S5. 安装脚本

tar -xzf base-<timestamp>.tar.gz
tar -xzf workspaces-example-<timestamp>.tar.gz
cd docker_images && ./load_docker_images.sh
cd ../base
sudo ./install.sh
cd ../workspaces_example && ./install_workspaces_example.sh   (可选，生成默认示例)