LTX-2.3:开源AI视频生成的新标杆,一个模型同时生成视频和音频

LTX-2.3:开源AI视频生成的新标杆,一个模型同时生成视频和音频

当 AI 视频生成不再是闭源巨头的专利

在 AI 视频生成领域,我们见证了太多令人惊艳的 demo,但它们大多藏在闭源的高墙之后。而今天,Lightricks 发布的 LTX-2.3 正在改写这个故事——这是一个完全开源、可本地运行、能同时生成高质量视频和同步音频的基础模型。更重要的是,它不只是一个实验室产物,而是一个真正为生产环境设计的创作引擎。

开源vs闭源模型对比学术图表

什么是 LTX-2.3?

LTX-2.3 是 Lightricks 推出的最新一代音视频生成基础模型,它基于 Diffusion Transformer(DiT)架构构建,拥有约 190 亿参数,其中 140 亿用于视频处理,50 亿用于音频生成。这是业界首批能够在单一统一架构中同时生成同步音频和视频的开源模型之一。

与前代 LTX-2 相比,2.3 版本带来了全面的质量提升。它重建了 VAE(变分自编码器),使用更高质量的数据进行训练,显著提升了细节保留能力;升级了 HiFi-GAN 声码器,让音频输出更加清晰自然;增强了图生视频的一致性;改进了提示词理解能力,尤其是在处理包含多个主体、空间关系或特定风格指令的复杂提示词时表现更出色。citation

核心能力:不只是生成视频

LTX-2.3 的能力远超传统的文生视频模型,它支持三种主要的生成模式,每一种都为创作者打开了新的可能性。

LTX-2.3三种生成模式学术示意图

文生视频(Text-to-Video)是最基础也是最直接的能力。你只需要用自然语言描述想要的画面,模型就能生成对应的视频片段,并自动配上与场景匹配的环境音效或背景音乐。这不是简单的“根据文字生成画面”,而是对场景的深度理解——它懂得空间关系、物理规律、运动逻辑,生成的视频在时间维度上保持高度一致性。

图生视频(Image-to-Video)让静态图片动起来。上传一张图片,模型会基于图片内容生成连贯的运动视频,同时配上合适的音效。2.3 版本在这个能力上有显著提升,图片到视频的一致性更强,生成的运动更自然,细节保留更完整。这对于需要将产品图、概念图、角色设计图转化为动态展示的创作者来说是巨大的福音。

音频驱动视频(Audio-to-Video)是 LTX-2.3 最独特的能力之一。你可以提供一段音频,模型会生成与音频节奏、情绪、内容完全同步的视频画面。这意味着声音不再是视频的附属品,而是可以成为创作的起点——音乐的节拍定义了画面的运动,语音的语调影响了场景的氛围,音效的变化驱动了视觉的转换。这为播客配图、音乐 MV 制作、有声读物可视化等场景提供了全新的创作路径。

技术突破:细节中见真章

LTX-2.3 的提升不是表面的,而是深入到架构层面的优化。

模型重建了 VAE 潜在空间,这个改进直接提升了画面的清晰度和细节保留能力。在之前的版本中,面部特征、头发纹理、文字渲染、边缘细节往往会在生成过程中丢失或模糊,而新的 VAE 能够在整个画面中保持这些精细元素的完整性。这意味着生成的视频不再是“看起来还不错”的程度,而是真正达到了可用于专业制作的质量标准。

文本连接器的容量和架构也得到了增强。这个连接器负责将提示词编码与生成模型连接起来,它的改进让模型能够更准确地理解复杂的提示词,尤其是那些包含多个主体、空间关系或特定风格指令的描述。生成结果与提示词的偏离大幅减少,创作者的意图能够更精确地传达到最终输出中。

音频质量的提升同样显著。升级后的 HiFi-GAN 声码器让生成的音频更加清晰,减少了之前版本中存在的金属感和失真问题。虽然在生成不包含语音的纯音效时质量仍有提升空间,但整体的音频表现已经达到了实用级别。

模型原生支持竖屏视频生成,分辨率可达 1080×1920,这对于短视频平台的内容创作者来说是重要的功能。横屏和竖屏在相同分辨率下的定价和生成质量完全一致,创作者可以根据平台需求灵活选择。

开源与本地化:真正属于创作者的工具

LTX-2.3 最令人兴奋的地方在于它的开放性。模型权重在 HuggingFace 上完全开放,采用 Apache 2.0 许可协议,允许商业使用。发布包包含基础开发检查点、量化的 fp8 变体,以及用于快速推理的蒸馏模型。这意味着无论你是个人开发者、小型工作室还是企业用户,都可以自由使用、修改和部署这个模型。

开源生态系统架构学术图

模型支持 LoRA 微调,这让定制化成为可能。你可以针对特定风格、角色或使用场景训练自己的 LoRA,让模型更符合你的创作需求。官方提供的训练工具让这个过程变得相对简单,即使是没有深厚机器学习背景的创作者也能在社区的帮助下完成微调。

更重要的是,LTX-2.3 可以完全在本地运行。Lightricks 同步发布了 LTX Desktop,这是一个基于 LTX-2.3 引擎构建的完整视频编辑器,完全开源,完全本地运行,没有云依赖。这不是一个简化的 demo 应用,而是 Lightricks 团队内部实际使用的生产工具。它将非线性视频编辑与设备端 AI 生成结合在一起,你可以在时间线上直接生成多个版本的片段并无损切换,可以使用上下文感知的间隙填充自动生成与周围片段匹配的内容,可以在不离开时间线的情况下重新生成特定片段。

对于习惯使用 ComfyUI 的用户,LTX-2.3 提供了完整的自定义节点支持,包含文生视频、图生视频和多阶段生成的参考工作流。你可以通过 ComfyUI Manager 直接安装内置的 LTXVideo 节点,快速搭建自己的生成流程。

性能与可用性:为生产环境优化

LTX-2.3 提供了两个模型变体以适应不同的使用场景。ltx-2-3-fast 专注于快速迭代,适合需要大量尝试和调整的创意探索阶段;ltx-2-3-pro 则追求生产级质量,适合最终输出和交付。两个变体都支持 720p 和 1080p 分辨率,最长可生成 20 秒的视频片段,并且支持高达 4K 的输出。

模型的推理速度经过了大量优化。通过使用 xFormers 或 Flash Attention 3 等注意力优化技术,配合梯度估计方法,可以将推理步数从 40 步降低到 20-30 步,同时保持质量。对于不需要超高分辨率的场景,单阶段生成流程能够进一步提升速度。如果你有足够的显存,禁用自动内存清理可以让处理速度更快。

社区的反响证明了模型的实用性。自 1 月发布以来,LTX-2 系列已经被下载了近 500 万次。社区贡献了大量的优化和扩展,包括实现 2.3 倍推理加速的 EasyCache、针对各种硬件的量化版本,以及大量针对特定风格、运动和使用场景的 LoRA。这个活跃的生态系统让 LTX-2.3 不仅仅是一个模型,而是一个不断进化的创作平台。

实际应用:从创意到生产

LTX-2.3 的应用场景非常广泛。内容创作者可以用它快速生成短视频素材,大幅缩短从创意到成品的时间;教育工作者可以将抽象概念可视化,生成带有准确视觉演示的讲解视频;营销团队可以批量生成产品展示视频,在保持电影级质量的同时将制作效率提升 10 倍;独立开发者可以为游戏、应用或网站生成动态背景和过场动画。

AI视频创作工作流学术图

对于需要精确控制的专业场景,LTX-2.3 的图生视频和音频驱动能力提供了更多可能性。你可以先用其他工具生成或绘制关键帧,然后用 LTX-2.3 生成中间的运动;你可以先录制或合成音频,然后让视频完美匹配音频的节奏和情绪;你可以将现有视频的元素重新生成,实现外科手术般精确的编辑。

OpenCSG 与 LTX-2.3:开源生态的完美结合

作为全球领先的开源 AI 社区,OpenCSG 一直致力于降低 AI 技术的使用门槛,让更多创作者和开发者能够接触和使用最前沿的 AI 能力。LTX-2.3 这样的开源模型正是 OpenCSG 生态所倡导的——开放、可本地部署、社区驱动、可定制化。

在 OpenCSG 平台上,我们为 LTX-2.3 提供了完整的支持。你可以在我们的模型库中找到 LTX-2.3 及其各种变体,可以使用我们提供的部署工具快速在本地或云端搭建推理环境,可以在社区中找到大量的使用教程、工作流分享和 LoRA 资源。对于需要算力支持的用户,OpenCSG 也提供了灵活的算力资源对接方案,让你无需担心硬件限制就能体验这个强大的模型。

更重要的是,OpenCSG 社区汇聚了大量 AI 视频生成的爱好者和专业用户。在这里,你可以分享你的创作、交流技术细节、获得问题解答、发现新的应用场景。开源的力量不仅在于代码的开放,更在于知识的共享和社区的协作。LTX-2.3 在 OpenCSG 生态中不是一个孤立的工具,而是与其他开源模型、工具链、应用场景紧密结合的创作引擎。

未来展望:AI 视频生成的民主化

LTX-2.3 的发布标志着 AI 视频生成进入了一个新阶段。它证明了开源模型可以在质量上与闭源方案竞争,证明了本地运行的可行性,证明了社区驱动的创新潜力。当视频生成的能力不再被少数公司垄断,当每个创作者都能在自己的设备上运行生产级的 AI 模型,当定制化和微调变得触手可及,我们看到的是 AI 视频创作的真正民主化。

这不是终点,而是起点。随着社区的贡献、硬件的进步、算法的优化,LTX-2.3 及其后续版本将变得更快、更好、更易用。而 OpenCSG 将持续为这个生态提供支持,让每一个有创意的个体都能将想法转化为动态的、有声的、引人入胜的视频内容。

在 AI 重构内容创作的时代,工具不应该是壁垒,而应该是桥梁。LTX-2.3 和 OpenCSG,正在共同搭建这座桥梁。


社区地址

OpenCSG社区:https://opencsg.com/models/AIWizards/LTX-2.3

hf社区:https://huggingface.co/Lightricks/LTX-2.3

关于 OpenCSG

OpenCSG 是全球领先的开源大模型社区平台,致力于打造开放、协同、可持续生态,AgenticOps人工智能领域的一种AI原生方法论,由OpenCSG(开放传神)提出。AgenticOps是Agentic AI的最佳落地实践也是方法论。核心产品 CSGHub 提供模型、数据集、代码与 AI 应用的 一站式托管、协作与共享服务,具备业界领先的模型资产管理能力,支持多角色协同和高效复用。

Read more

verl + SGLang 实战应用:打造智能多轮对话机器人

verl + SGLang 实战应用:打造智能多轮对话机器人 【免费下载链接】verl verl: Volcano Engine Reinforcement Learning for LLMs 项目地址: https://gitcode.com/GitHub_Trending/ve/verl/?utm_source=gitcode_aigc_v1_t0&index=top&type=card 你是否遇到过这样的问题:训练一个能真正理解上下文、记得用户偏好、在多轮中自然切换话题的对话机器人,比想象中难得多?不是答非所问,就是忘了前一句说了什么,更别说主动追问或调整语气了。这背后,不是模型不够大,而是缺乏一套能持续“教”它怎么对话的机制——而 verl + SGLang 的组合,

轻小说机翻机器人:5分钟打造你的日语小说翻译神器

轻小说机翻机器人:5分钟打造你的日语小说翻译神器 【免费下载链接】auto-novel轻小说机翻网站,支持网络小说/文库小说/本地小说 项目地址: https://gitcode.com/GitHub_Trending/au/auto-novel 轻小说机翻机器人是一款开源的日语小说翻译工具,支持网络小说、文库小说和本地小说的全自动翻译处理。作为专业的轻小说翻译解决方案,它能自动抓取日本主流平台内容,提供多引擎翻译服务,并构建完整的阅读生态,让日语阅读不再受语言障碍困扰。 🚀 核心价值:为什么选择轻小说机翻机器人? 全自动小说采集系统 内置对Kakuyomu、小説家になろう等6大日本小说平台的支持,只需输入小说名称或URL,系统即可智能抓取内容并完成翻译。通过crawler/src/lib/domain/目录下的平台适配代码(如kakuyomu.ts、syosetu.ts),实现对不同网站结构的精准解析。 多引擎翻译切换 集成百度翻译、有道翻译、OpenAI类API、Sakura等多种翻译器,满足从快速浏览到深度阅读的不同需求。翻译引擎实现代码位于web/src/do

硬件-电源-VR多相电源深入解析

1. 引言 一块高性能服务器主板的CPU插槽周围,总是簇拥着一排排整齐的、覆盖着金属散热片的“小方块”。它们就属于VR多相电源的一部分,VR多相电源如同CPU的“专用心脏”,负责将来自电源的“粗犷”能量,转化为CPU所能接受的“精细”养分。本文主要介绍Buck多相电源。 2. VRM是什么?为什么需要“多相”? 2.1 VRM的核心使命:精准的“能量转换师” VRM,全称 Voltage Regulator Module(电压调节模块),其核心任务只有一个:将来自一次电源的电压(如+12V),高效、精准地转换为CPU、GPU等核心芯片所需的低电压(如0.8V~1.3V)和大电流(可达数百A)。 如果让数百安培的电流直接以1V电压从机箱电源传输到CPU,线路损耗将是灾难性的。因此,必须在CPU边上就近进行高效电压转换,这就是VRM存在的根本原因。 2.

【论文笔记】MultiResUNet: Rethinking the U-Net Architecture for Multimodal Biomedical Image Segmentation

【论文笔记】MultiResUNet: Rethinking the U-Net Architecture for Multimodal Biomedical Image Segmentation

论文地址 目录 * 一、前言 * 二、U-Net模型的分析 * 1.为什么两次3×3的卷积近似于一次5×5的卷积呢? * 2.为什么后一种轻量级的结构可以近似于之前的结构? * 三、融合策略的分析 * 四、 整体架构 * 参考文献 一、前言 近年来,深度学习在医学图像分割领域取得了很大的突破,其中基于全卷积网络的U-Net已经成为最流行、最引人瞩目的架构[1]。尽管如此,U-Net仍存在着一些不足之处,本文对经典U-Net做出了进一步改进,并经实验证明了其更好的性能。 二、U-Net模型的分析 在医学图像分割任务中,我们感兴趣的点在于分割原始图像的细胞核、器官、肿瘤等等,这些图像可能来自各种模态。然而在大多数情况下,这些感兴趣的对象是不规则的,而且规模也不同。例如,我们已经证明皮肤病变的规模在皮肤镜图像中可以有很大的变化。这些情况也经常发生在不同类型的医学图像分割任务中。 因此,对于分析这些不同规模的对象,所用的网络应该具有一定的鲁棒性。例如Inception block并行使用不同大小的卷积核来检测不同规模大小的目标。在U-Net架构