热爱技术,追求卓越
不断求索,精益求精

Docker部署FunASR,简单测试

前面讲了windows11安装NVIDIA Container Toolkit便于docker使用NVIDIA 显卡,接下来我们来部署FunASR ,使用gpu版本。

拉取镜像

使用 PowerShell 或 Windows Terminal执行如下命令:

docker pull registry.cn-hangzhou.aliyuncs.com/funasr_repo/funasr:funasr-runtime-sdk-gpu-0.1.1

在你的磁盘(例如 E 盘)创建一个目录,用于存放下载的模型文件,防止容器删除后模型丢失。
例如在 E 盘创建 “E:\FunASRmodel”

GPU 模式运行命令(添加 –gpus all):

启动容器

docker run -it --gpus all --privileged=true -p 10095:10095 -v E:/FunASRmodel:/workspace/models registry.cn-hangzhou.aliyuncs.com/funasr_repo/funasr:funasr-runtime-sdk-gpu-0.1.1

参数说明:

  • -p 10095:10095:将容器的 10095 端口映射到本机,这是 WebSocket 服务端口。
  • -v E:/FunASRmodel:/workspace/models:将本地 E:/FunASRmodel 目录挂载到容器内,用于存储模型(注意路径格式使用 / 而不是 \)。
  • –privileged=true:赋予容器高权限,防止因权限不足导致运行失败。

执行结果如下:

PS C:\WINDOWS\system32> docker run -it --gpus all --privileged=true -p 10095:10095 -v E:/FunASRmodel:/workspace/models registry.cn-hangzhou.aliyuncs.com/funasr_repo/funasr:funasr-runtime-sdk-gpu-0.1.1
root@5a352002c738:/workspace#

启动 FunASR 服务

接着进入FunASR/runtime目录:

root@21983b15a785:/workspace# cd FunASR/runtime/

测试场景 :离线文件转写(推荐,准确率高)

nohup bash run_server.sh \
  --download-model-dir /workspace/models \
  --vad-dir damo/speech_fsmn_vad_zh-cn-16k-common-onnx \
  --punc-dir damo/punc_ct-transformer_cn-en-common-vocab471067-large-onnx \
  --lm-dir damo/speech_ngram_lm_zh-cn-ai-wesp-fst \
  --itn-dir thuduj12/fst_itn_zh \
  --certfile 0 > log.txt 2>&1 &

若需要关闭ssl,需要加“–certfile 0”,否则,去掉即可。

查看log.txt日志:

tail -f log.txt

出现如下则启动成功:

I20260107 02:39:38.031304   162 funasr-wss-server.cpp:505] asr model init finished. listen on port:10095

下载客户端测试工具目录samples

https://isv-data.oss-cn-hangzhou.aliyuncs.com/ics/MaaS/ASR/sample/funasr_samples.tar.gz

解压后,在浏览器中打开 html/static/index.html,支持麦克风输入与文件上传,直接进行体验。

复制文档和查看文档

接下来就可以玩玩咯,查看 FunASR 文档,可以先复制到本地:

docker cp 6b04bb44909e:/workspace/FunASR/runtime/docs E:\FunASRmodel\docs

6b04bb44909e是容器ID,换成对应的容器ID即可。

赞(0)
未经允许不得转载:LoveCTO » Docker部署FunASR,简单测试

热爱技术 追求卓越 精益求精