index-tts-lora

中文版本 | English Version

本项目基于Bilibili的index-tts，提供LoRA微调方案，适用于单说话人和多说话人设置。旨在提升高质量说话人音频合成中的韵律和自然度。

训练与推理

#### 1. 音频令牌和说话人条件提取

# Extract tokens and speaker conditions
python tools/extract_codec.py --audio_list ${audio_list} --extract_condition
audio_list format: audio_path + transcript, separated by \t
/path/to/audio.wav 小朋友们，大家好，我是凯叔，今天我们讲一个龟兔赛跑的故事。

[
    {
        "speaker": "kaishu_30min",
        "avg_duration": 6.6729,
        "sample_num": 270,
        "total_duration_in_seconds": 1801.696,
        "total_duration_in_minutes": 30.028,
        "total_duration_in_hours": 0.500,
        "train_jsonl": "/path/to/kaishu_30min/metadata_train.jsonl",
        "valid_jsonl": "/path/to/kaishu_30min/metadata_valid.jsonl",
        "medoid_condition": "/path/to/kaishu_30min/medoid_condition.npy"
    }
]

#### 2. 训练

python train.py

#### 3. 推理

python indextts/infer.py

微调结果

本次实验使用了来自开书讲故事的中文音频数据，总时长约30分钟，包含270个音频片段。 数据集分为244个训练样本和26个验证样本。 注意：转录文本通过ASR和标点模型自动生成，未经过人工校正，因此可能存在一些错误。

训练样本示例，他上了马车，来到了皇宫之中。：kaishu_train_01.wav

#### 1. 语音合成示例

| 文本 | 音频 | | ------------------------------------------------------------ | ------------------------------------------------------------ | | 老宅的钟表停在午夜三点，灰尘中浮现一串陌生脚印。侦探蹲下身，发现地板缝隙里藏着一枚带血的戒指。 | kaishu_cn_1.wav | | 月光下，南瓜突然长出笑脸，藤蔓扭动着推开花园栅栏。小女孩踮起脚，听见蘑菇在哼唱古老的摇篮曲。 | kaishu_cn_2.wav | | 那么Java里面中级还要学，M以及到外部前端的应用系统开发，要学到Java Script的数据库，要学做动态的网站。 | kaishu_cn_en_mix_1.wav | | 这份 financial report 详细分析了公司在过去一个季度的 revenue performance 和 expenditure trends。 | kaishu_cn_en_mix_2.wav | | 上山下山上一山，下一山，跑了三里三米三，登了一座大高山，山高海拔三百三。上了山，大声喊：我比山高三尺三。 | kaishu_raokouling.wav | | 一个瘦弱的男子靠在街边，衬衫和一只鞋脱落，身边放着几个包。 | kaishu_en_1.wav | | 随着研究的继续，氟化物对防止牙齿蛀牙的保护作用得到了证明。 | kaishu_en_2.wav |

#### 2. 模型评估 有关评估集的详细信息，请参见：2025主流TTS模型基准：谁是最佳语音合成方案？

致谢

index-tts

finetune-index-tts

--- Tranlated By Open Ai Tx | Last indexed: 2025-12-04 ---