LatentSync-1.5部署教程:影视级口播一键生成,体验直线升级!
LatentSync-1.5 是由字节跳动与北京交通大学联合开源的端到端唇形同步框架,基于音频条件的潜在扩散模型构建。相比旧版本,LatentSync-1.5 在以下几个方面都实现了提升:
- 硬件兼容性全面升级
LatentSync-1.5 最大的突破在于对英伟达50系显卡的适配支持,解决了旧版本(如1.0)在新型显卡上的兼容性问题。通过底层架构优化,进一步降低显存占用,甚至能在中端显卡上实现高效运行,扩大了开发者和创作者的硬件选择范围。
- 生成效率与质量双重提升
相比旧版本,LatentSync-1.5 在生成速度和画面稳定性上均有显著优化:
时间一致性增强:旧版本依赖的TREPA(时间表示对齐)技术进一步升级,结合更精细的噪声混合模型,减少了视频帧间的抖动问题,尤其在长视频生成中效果更明显。
端到端流程加速:通过改进潜空间扩散模型的推理流程,1.5版本的生成速度较旧版提升约30%,且支持批量任务处理,适合影视工业化场景。
多模态输入优化:新增对高分辨率视频(4K以上)和复杂音频格式(如多声道环绕声)的支持,解决了旧版在处理高码率素材时的卡顿问题。
接下来就为大家奉上详细的 LatentSync-1.5 一键使用和本地部署两种教程,手把手教你如何将模型部署到你的项目中,轻松享受高性能AI带来的便利。
一键使用
本镜像带开机自启动功能,直接开机开放端口,然后访问网址即可。
程序一键启动、停止、重启的方法以及手动启动 Web 页面的方法见文档最后。
基础环境配置推荐:
环境名称 | 版本信息 1 |
Ubuntu | 22.04.4 LTS |
Cuda | V12.4.105 |
Python | 3.12 |
NVIDIA Corporation | RTX 4090 |
(1)根据需求选择主机和镜像,一键创建实例
在租用实例页面,通过一键使用进入镜像社区

搜索并选择 LatentSync-1.5 大模型

选择 RTX 4090 GPU,进行创建实例

(2)获取端口号
第一次使用需要进行实名认证(通过实名认证可跳过此步骤)

实名认证之后进行开放对外端口

获取访问地址

(3) 进入 web 页面
将获取到的链接复制到本地浏览器:
# 比如当前获取的地址如下:
http://xn-a.suanjiayun.com:52289
(4) 程序一键启动、停止、重启的方法
在项目实例页面,点击 WebSSH

进入 WebSSH 页面,运行后续的功能代码

使用./sj-run.sh -h 可以查看程序的启动、停止和重启参数;(注意:代码块的右上角有一键复制代码的功能)
./sj-run.sh -h使用./sj-run.sh -s 可以启动程序,如果8080端口已有程序在运行,可以选择是否继续启动其他端口。(注意:代码块的右上角有一键复制代码的功能)
./sj-run.sh -s使用./sj-run.sh -t 可以停止程序;(注意:代码块的右上角有一键复制代码的功能)
./sj-run.sh -t使用./sj-run.sh -r 可以重启程序;(注意:代码块的右上角有一键复制代码的功能)
./sj-run.sh -r(5)手动启动 web 页面的方法(注意:代码块的右上角有一键复制代码的功能)
先使用./sj-run.sh -t 可以停止程序:(注意:代码块的右上角有一键复制代码的功能)
./sj-run.sh -t再使用命令启动 web 页面:(注意:代码块的右上角有一键复制代码的功能)
# 切换到项目工作目录
cd /LatentSync
# 激活虚拟环境
conda activate latentsync
# 运行 gradio_app.py 文件
python gradio_app.py
以上就是在算家云平台的一键使用教程,如果有小伙伴需要本地部署,那下面就是详细的本地部署教程,一起看看吧~
本地部署
基础环境配置推荐:
环境名称 | 版本信息 1 |
Ubuntu | 22.04.4 LTS |
Cuda | V12.1.105 |
Python | 3.12 |
NVIDIA Corporation | RTX 4090 |
(1)更新基础软件包
查看系统版本信息
# 查看系统版本信息,包括ID(如ubuntu、centos等)、版本号、名称、版本号ID等
cat /etc/os-release
配置 apt 国内源
# 更新软件包列表
apt-get update这个命令用于更新本地软件包索引。它会从所有配置的源中检索最新的软件包列表信息,但不会安装或升级任何软件包。这是安装新软件包或进行软件包升级之前的推荐步骤,因为它确保了您获取的是最新版本的软件包。
# 安装 Vim 编辑器
apt-get install -y vim这个命令用于安装 Vim 文本编辑器。-y 选项表示自动回答所有的提示为“是”,这样在安装过程中就不需要手动确认。Vim 是一个非常强大的文本编辑器,广泛用于编程和配置文件的编辑。
为了安全起见,先备份当前的 sources.list 文件之后,再进行修改:
# 备份现有的软件源列表
cp /etc/apt/sources.list /etc/apt/sources.list.bak这个命令将当前的 sources.list 文件复制为一个名为 sources.list.bak 的备份文件。这是一个好习惯,因为编辑 sources.list 文件时可能会出错,导致无法安装或更新软件包。有了备份,如果出现问题,您可以轻松地恢复原始的文件。
# 编辑软件源列表文件
vim /etc/apt/sources.list这个命令使用 Vim 编辑器打开 sources.list 文件,以便您可以编辑它。这个文件包含了 APT(Advanced Package Tool)用于安装和更新软件包的软件源列表。通过编辑这个文件,您可以添加新的软件源、更改现有软件源的优先级或禁用某些软件源。
在 Vim 中,您可以使用方向键来移动光标,i 键进入插入模式(可以开始编辑文本),Esc 键退出插入模式,:wq 命令保存更改并退出 Vim,或 :q! 命令不保存更改并退出 Vim。
编辑 sources.list 文件时,请确保您了解自己在做什么,特别是如果您正在添加新的软件源。错误的源可能会导致软件包安装失败或系统安全问题。如果您不确定,最好先搜索并找到可靠的源信息,或者咨询有经验的 Linux 用户。

使用 Vim 编辑器打开 sources.list 文件,复制以下代码替换 sources.list里面的全部代码,配置 apt 国内阿里源。
deb http://mirrors.aliyun.com/ubuntu/ jammy main restricted universe multiverse
deb-src http://mirrors.aliyun.com/ubuntu/ jammy main restricted universe multiverse
deb http://mirrors.aliyun.com/ubuntu/ jammy-security main restricted universe multiverse
deb-src http://mirrors.aliyun.com/ubuntu/ jammy-security main restricted universe multiverse
deb http://mirrors.aliyun.com/ubuntu/ jammy-updates main restricted universe multiverse
deb-src http://mirrors.aliyun.com/ubuntu/ jammy-updates main restricted universe multiverse
deb http://mirrors.aliyun.com/ubuntu/ jammy-backports main restricted universe multiverse
deb-src http://mirrors.aliyun.com/ubuntu/ jammy-backports main restricted universe multiverse
安装常用软件和工具
# 更新源列表,输入以下命令:
apt-get update
# 更新系统软件包,输入以下命令:
apt-get upgrade
# 安装常用软件和工具,输入以下命令:
apt-get -y install vim wget git git-lfs unzip lsof net-tools gcc cmake build-essential出现以下页面,说明国内apt源已替换成功,且能正常安装apt软件和工具

(2)安装 NVIDIA CUDA Toolkit 12.1
下载 CUDA Keyring :
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-keyring_1.0-1_all.deb这个命令用于下载 CUDA 的 GPG 密钥环,它用于验证 CUDA 软件包的签名。这是确保软件包安全性的一个重要步骤。
安装 CUDA Keyring :
dpkg -i cuda-keyring_1.0-1_all.deb使用 dpkg 安装下载的密钥环。这是必要的,以便 apt 能够验证从 NVIDIA 仓库下载的软件包的签名。

删除旧的 apt 密钥(如果必要) :
apt-key del 7fa2af80这一步可能不是必需的,除非您知道 7fa2af80 是与 CUDA 相关的旧密钥,并且您想从系统中删除它以避免混淆。通常情况下,如果您只是安装 CUDA 并使用 NVIDIA 提供的最新密钥环,这一步可以跳过。
更新 apt 包列表 :
apt-get update更新 apt 的软件包列表,以便包括刚刚通过 cuda-keyring 添加的 NVIDIA 仓库中的软件包。
安装 CUDA Toolkit :
apt-get -y install cuda-toolkit-12-1
出现以下页面,说明 NVIDIA CUDA Toolkit 12.1 安装成功

注意:这里可能有一个问题。NVIDIA 官方 Ubuntu 仓库中可能不包含直接名为 cuda-toolkit-12-1 的包。通常,您会安装一个名为 cuda 或 cuda-12-1 的元包,它会作为依赖项拉入 CUDA Toolkit 的所有组件。请检查 NVIDIA 的官方文档或仓库,以确认正确的包名。
如果您正在寻找安装特定版本的 CUDA Toolkit,您可能需要安装类似 cuda-12-1 的包(如果可用),或者从 NVIDIA 的官方网站下载 CUDA Toolkit 的 .run 安装程序进行手动安装。
请确保您查看 NVIDIA 的官方文档或 Ubuntu 的 NVIDIA CUDA 仓库以获取最准确的包名和安装指令。

出现以上情况,需要配置 NVIDIA CUDA Toolkit 12.1 系统环境变量
编辑 ~/.bashrc 文件
# 编辑 ~/.bashrc 文件
vim ~/.bashrc插入以下环境变量
# 插入以下环境变量
export PATH=/usr/local/cuda/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH
激活 ~/.bashrc 文件
# 激活 ~/.bashrc 文件
source ~/.bashrc查看cuda系统环境变量
which nvcc
nvcc -V
(3)安装 Miniconda
- 下载 Miniconda 安装脚本 :
使用 wget 命令从 Anaconda 的官方仓库下载 Miniconda 的安装脚本。Miniconda 是一个更小的 Anaconda 发行版,包含了 Anaconda 的核心组件,用于安装和管理 Python 包。
- 运行 Miniconda 安装脚本 :
使用 bash 命令运行下载的 Miniconda 安装脚本。这将启动 Miniconda 的安装过程。
# 下载 Miniconda 安装脚本
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh
# 运行 Miniconda 安装脚本
bash Miniconda3-latest-Linux-x86_64.sh
# 初次安装需要激活 base 环境
source ~/.bashrc
输入yes

输入yes

安装成功如下图所示

pip配置清华源加速
# 编辑 /etc/pip.conf 文件
vim /etc/pip.conf加入以下代码
[global]
index-url = https://pypi.tuna.tsinghua.edu.cn/simple注意事项:
- 请确保您的系统是 Linux x86_64 架构,因为下载的 Miniconda 版本是为该架构设计的。
- 在运行安装脚本之前,您可能需要使用 chmod +x Miniconda3-latest-Linux-x86_64.sh 命令给予脚本执行权限。
- 安装过程中,您将被提示是否同意许可协议,以及是否将 Miniconda 初始化。通常选择 "yes" 以完成安装和初始化。
- 安装完成后,您可以使用 conda 命令来管理 Python 环境和包。
- 如果链接无法访问或解析失败,可能是因为网络问题或链接本身的问题。请检查网络连接,并确保链接是最新的和有效的。如果问题依旧,请访问 Anaconda 的官方网站获取最新的下载链接。
(4)从 github 仓库 克隆项目
克隆存储库:
git clone https://github.com/bytedance/LatentSync.git
cd /LatentSync(5)创建虚拟环境
conda create -y -n latentsync python=3.10.13
conda activate latentsync(6)安装模型依赖库
切换到项目目录、激活虚拟环境、安装依赖
cd /LatentSync
conda activate latentsync
# Install ffmpeg
conda install -y -c conda-forge ffmpeg
# Python dependencies
pip install -r requirements.txt
# OpenCV dependencies
sudo apt -y install libgl1(7)下载预训练模型
cd /LatentSync
conda activate latentsync
# Download all the checkpoints from HuggingFace
huggingface-cli download ByteDance/LatentSync-1.5 --local-dir checkpoints --exclude "*.git*" "README.md"
# Soft links for the auxiliary models
mkdir -p ~/.cache/torch/hub/checkpoints
ln -s $(pwd)/checkpoints/auxiliary/2DFAN4-cd938726ad.zip ~/.cache/torch/hub/checkpoints/2DFAN4-cd938726ad.zip
ln -s $(pwd)/checkpoints/auxiliary/s3fd-619a316812.pth ~/.cache/torch/hub/checkpoints/s3fd-619a316812.pth
ln -s $(pwd)/checkpoints/auxiliary/vgg16-397923af.pth ~/.cache/torch/hub/checkpoints/vgg16-397923af.pth(8)运行测试文件
# 切换到项目工作目录
cd /LatentSync
# 激活虚拟环境
conda activate latentsync
# 运行 gradio_app.py 文件
python gradio_app.py(9)网页演示
出现以下 Gradio 页面,即是模型已搭建完成

以上就是 LatentSync-1.5 的两种使用教程。希望能够帮助到大家,欢迎在评论区交流提问哦~
点击LatentSync-1.5(开机自启动v1.0.0)-镜像社区 算家云,立即使用模型~