前面讲了windows11安装NVIDIA Container Toolkit便于docker使用NVIDIA 显卡,接下来我们来部署FunASR ,使用gpu版本。
拉取镜像
使用 PowerShell 或 Windows Terminal执行如下命令:
docker pull registry.cn-hangzhou.aliyuncs.com/funasr_repo/funasr:funasr-runtime-sdk-gpu-0.1.1
在你的磁盘(例如 E 盘)创建一个目录,用于存放下载的模型文件,防止容器删除后模型丢失。
例如在 E 盘创建 “E:\FunASRmodel”
GPU 模式运行命令(添加 –gpus all):
启动容器
docker run -it --gpus all --privileged=true -p 10095:10095 -v E:/FunASRmodel:/workspace/models registry.cn-hangzhou.aliyuncs.com/funasr_repo/funasr:funasr-runtime-sdk-gpu-0.1.1
参数说明:
- -p 10095:10095:将容器的 10095 端口映射到本机,这是 WebSocket 服务端口。
- -v E:/FunASRmodel:/workspace/models:将本地 E:/FunASRmodel 目录挂载到容器内,用于存储模型(注意路径格式使用 / 而不是 \)。
- –privileged=true:赋予容器高权限,防止因权限不足导致运行失败。
执行结果如下:
PS C:\WINDOWS\system32> docker run -it --gpus all --privileged=true -p 10095:10095 -v E:/FunASRmodel:/workspace/models registry.cn-hangzhou.aliyuncs.com/funasr_repo/funasr:funasr-runtime-sdk-gpu-0.1.1
root@5a352002c738:/workspace#
启动 FunASR 服务
接着进入FunASR/runtime目录:
root@21983b15a785:/workspace# cd FunASR/runtime/
测试场景 :离线文件转写(推荐,准确率高)
nohup bash run_server.sh \
--download-model-dir /workspace/models \
--vad-dir damo/speech_fsmn_vad_zh-cn-16k-common-onnx \
--punc-dir damo/punc_ct-transformer_cn-en-common-vocab471067-large-onnx \
--lm-dir damo/speech_ngram_lm_zh-cn-ai-wesp-fst \
--itn-dir thuduj12/fst_itn_zh \
--certfile 0 > log.txt 2>&1 &
若需要关闭ssl,需要加“–certfile 0”,否则,去掉即可。
查看log.txt日志:
tail -f log.txt
出现如下则启动成功:
I20260107 02:39:38.031304 162 funasr-wss-server.cpp:505] asr model init finished. listen on port:10095
下载客户端测试工具目录samples
https://isv-data.oss-cn-hangzhou.aliyuncs.com/ics/MaaS/ASR/sample/funasr_samples.tar.gz
解压后,在浏览器中打开 html/static/index.html,支持麦克风输入与文件上传,直接进行体验。
复制文档和查看文档
接下来就可以玩玩咯,查看 FunASR 文档,可以先复制到本地:
docker cp 6b04bb44909e:/workspace/FunASR/runtime/docs E:\FunASRmodel\docs
6b04bb44909e是容器ID,换成对应的容器ID即可。
LoveCTO

