Irodori-TTS サーバ:インストール、常駐、アクセス、CLI

最終更新: 2026-10-12

目的と構成

usrv18(AlmaLinux 9.8、RTX PRO 6000 Blackwell 96 GB)で Irodori-TTS を使用する。低頻度の音声合成向けに、モデルを GPU に常駐させない構成を採用している。

Windows CLI
    │ HTTP (port 8002)
    ▼
Flask + Waitress(常駐、GPUは使用しない)
    │ リクエストごとに子プロセスを起動
    ▼
Irodori-TTS infer.py(GPUにモデルをロード → WAV生成 → 終了)

Flask プロセス自身は torch と Irodori-TTS を import しない。合成を担当する infer.py プロセスが終了すると CUDA コンテキストも終了するので、待機中の Irodori-TTS は GPU メモリを消費しない。

項目

設定

サーバ

usrv18 (192.168.27.18)

API

http://192.168.27.18:8002

モデル

Aratako/Irodori-TTS-v4.1-Small

API 形式

POST /v1/audio/speech

常駐サービス

Flask + Waitress (irodori-tts.service)

GPU の使い方

合成要求ごとにロードし、終了後に解放

出力

WAV

Windows 統合クライアント

tktts_irodori_api.py / tktts.py / speak.py / make_voice_jp.bat

サーバ側ファイル

パス

内容

/opt/irodori-tts

公式 Irodori-TTS リポジトリ

/opt/irodori-tts/.venv

Irodori-TTS の Python 環境

/opt/irodori-tts/irodori_tts_flask.py

常駐 API。GPU 推論処理は持たない

/opt/irodori-tts/irodori_tts_once.py

1 回だけ infer.py を実行して終了する runner

/opt/irodori-tts/voices/

参照音声の配置場所

/opt/irodori-tts/hf-cache/

Hugging Face のモデル・codec キャッシュ

/etc/systemd/system/irodori-tts.service

systemd のサービス定義

初回インストール

Irodori-TTS は Qwen ASR とは別環境に置く。

sudo mkdir -p /opt/irodori-tts
sudo chown tkamiya:tkamiya /opt/irodori-tts
git clone https://github.com/Aratako/Irodori-TTS.git /opt/irodori-tts

cd /opt/irodori-tts
uv sync --extra cu128
uv pip install --python .venv/bin/python Flask waitress
mkdir -p voices hf-cache

irodori_tts_flask.py、irodori_tts_once.py、irodori-tts-flask.service をサーバへ配置する。

cp irodori_tts_flask.py irodori_tts_once.py /opt/irodori-tts/
sudo cp irodori-tts-flask.service /etc/systemd/system/irodori-tts.service

CLI 単体の事前確認

サービス化の前に、公式 CLI が GPU で WAV を生成できることを確認する。初回は checkpoint と codec が /opt/irodori-tts/hf-cache に取得される。

cd /opt/irodori-tts
HF_HOME=/opt/irodori-tts/hf-cache \
IRODORI_ATTENTION_BACKEND=sdpa \
.venv/bin/python infer.py \
  --hf-checkpoint Aratako/Irodori-TTS-v4.1-Small \
  --text 'これは Irodori-TTS の GPU テストです。' \
  --no-ref \
  --model-device cuda --codec-device cuda \
  --model-precision bf16 --codec-precision bf16 \
  --output-wav test.wav

Blackwell で optional な FlashAttention カーネルへの依存を避けるため、サービスでは IRODORI_ATTENTION_BACKEND=sdpa を指定している。安定性を優先した設定である。

常駐サービス

/etc/systemd/system/irodori-tts.service:

[Unit]
Description=Irodori-TTS Flask API (load GPU model per request)
After=network-online.target
Wants=network-online.target

[Service]
Type=simple
User=tkamiya
Group=tkamiya
WorkingDirectory=/opt/irodori-tts
Environment=HOME=/home/tkamiya
Environment=HF_HOME=/opt/irodori-tts/hf-cache
Environment=CUDA_VISIBLE_DEVICES=0
Environment=IRODORI_MODEL=Aratako/Irodori-TTS-v4.1-Small
Environment=IRODORI_RUNNER=/opt/irodori-tts/irodori_tts_once.py
Environment=IRODORI_INFER=/opt/irodori-tts/infer.py
Environment=IRODORI_VOICES_DIR=/opt/irodori-tts/voices
Environment=IRODORI_OUTPUT_DIR=/var/tmp/irodori-tts-output
Environment=IRODORI_DEVICE=cuda
Environment=IRODORI_PRECISION=bf16
Environment=IRODORI_ATTENTION_BACKEND=sdpa
ExecStart=/opt/irodori-tts/.venv/bin/waitress-serve --host=0.0.0.0 --port=8002 --threads=1 --call irodori_tts_flask:create_app
Restart=on-failure
RestartSec=5
TimeoutStopSec=60

[Install]
WantedBy=multi-user.target

起動・停止・ログ確認:

sudo systemctl daemon-reload
sudo systemctl enable --now irodori-tts

sudo systemctl status irodori-tts
sudo systemctl restart irodori-tts
sudo systemctl stop irodori-tts
sudo systemctl start irodori-tts
journalctl -u irodori-tts -f

起動直後の確認と障害対応

sudo systemctl status irodori-tts --no-pager
curl http://127.0.0.1:8002/health
ss -ltnp | grep 8002

/health が {"status":"ok", "gpu_resident":false, ...} を返せばサーバは正常である。

status=203/EXEC で起動しない場合は、ExecStart の実行ファイルがないか、その先頭行(shebang)が指す Python が存在しない。まず Waitress を Irodori の仮想環境へ入れ直す。

cd /opt/irodori-tts
ls -l .venv/bin/python .venv/bin/waitress-serve
uv pip install --python .venv/bin/python Flask waitress
sudo systemctl daemon-reload
sudo systemctl restart irodori-tts

それでも失敗する場合は次を確認する。

head -n 1 /opt/irodori-tts/.venv/bin/waitress-serve
journalctl -u irodori-tts -n 100 --no-pager

LAN 上のクライアントから接続するには、ポート 8002 を許可する。

sudo firewall-cmd --permanent --add-port=8002/tcp
sudo firewall-cmd --reload

待機中に VRAM を消費していないことは、次で確認できる。

nvidia-smi
watch -n 1 nvidia-smi

合成中だけ infer.py が GPU メモリを使用し、応答が返った後はプロセスと GPU メモリが消える。

API アクセス

動作確認

curl http://127.0.0.1:8002/health
curl http://127.0.0.1:8002/v1/models
curl http://127.0.0.1:8002/v1/audio/voices
  • GET /health: gpu_resident: false を含む状態を返す。

  • GET /v1/models: API に指定できるモデル ID irodori-tts を返す。

  • GET /v1/audio/voices: サーバに登録済みの参照音声 ID を返す。

音声合成 API

POST /v1/audio/speech に JSON を送ると、WAV バイト列が返る。

curl -sS http://127.0.0.1:8002/v1/audio/speech \
  -H 'Content-Type: application/json' \
  -d '{
    "model": "irodori-tts",
    "input": "こんにちは。これは API 経由の音声合成です。",
    "voice": "none",
    "response_format": "wav",
    "irodori": {
      "caption": "落ち着いた、明瞭な日本語の講義調。"
    }
  }' \
  --output sample.wav

voice は参照音声の ID、または参照音声を使わない none を指定する。irodori には必要に応じて以下を加えられる。

項目

意味

caption

声質・話し方を指定する Voice Design テキスト

num_steps

サンプリング step 数

duration_scale

発話長の倍率

t_schedule_mode

linear または sway

sway_coeff

sway 使用時の係数

このサーバは GPU に同時に複数のモデルをロードしないよう、リクエストを直列に実行する。

参照音声の登録

参照音声はクライアントからアップロードせず、サーバの voices/ に置く。ファイル名の拡張子を除いた部分が voice ID になる。WAV を推奨するが、.flac、.mp3、.m4a、.ogg、.opus、.aac、.webm も登録できる。

参照音声は、BGM・長い無音・複数話者を含まない、短く明瞭な単独話者音声が望ましい。

Windows から teacher を登録する例

Windows で参照音声をサーバの一時領域へコピーする。

scp "C:\path\to\teacher.wav" tkamiya@192.168.27.18:/tmp/teacher.wav

次にサーバ上で配置する。

mkdir -p /opt/irodori-tts/voices
cp /tmp/teacher.wav /opt/irodori-tts/voices/teacher.wav
chmod 644 /opt/irodori-tts/voices/teacher.wav
curl http://127.0.0.1:8002/v1/audio/voices

結果に teacher が表示されれば登録完了である。voice 一覧はリクエストごとにディレクトリを読むため、サービス再起動は不要である。クライアント側からは音声パスではなく teacher を指定する。

Windows 用簡易 CLI

irodori_tts_api.py を Windows の任意のフォルダに置く。標準の接続先は http://192.168.27.18:8002 であり、環境変数 IRODORI_TTS_API または --server で変更できる。

接続・voice の確認

python irodori_tts_api.py --health
python irodori_tts_api.py --list-voices

基本的な合成

python irodori_tts_api.py ^
  --text "統計力学の講義を始めます。" ^
  --voice none ^
  --caption "落ち着いた、明瞭な講義調の日本語。" ^
  --output lecture.wav

登録済み参照音声を使う合成

python irodori_tts_api.py ^
  --text "本日の内容を確認します。" ^
  --voice teacher ^
  --caption "落ち着いて自然な話し方。" ^
  --output lecture_teacher.wav

長い原稿をファイルから渡す

python irodori_tts_api.py ^
  --text-file narration.txt ^
  --voice teacher ^
  --caption "親しみやすく、明瞭な講義調。" ^
  --output narration.wav

速度を優先する設定

品質を確認したうえで、低頻度利用時に待ち時間を短くしたい場合は sway sampling と少ない step 数を試せる。

python irodori_tts_api.py ^
  --text "短い確認用の文章です。" ^
  --voice none ^
  --caption "自然な日本語。" ^
  --sway --num-steps 6 ^
  --output quick.wav

主な CLI オプション:

オプション

内容

--text / --text-file

合成する文字列 / UTF-8 テキストファイル

--output

出力 WAV ファイル

--server

API の URL

--voice

none または登録済み voice ID

--caption

Voice Design テキスト

--num-steps

サンプリング step 数

--duration-scale

発話長の倍率

--sway, --sway-coeff

sway sampling の指定

--timeout

HTTP 待機時間。既定値は 1800 秒

--health, --list-voices

接続状態 / 登録 voice の確認

Windows の tktts と make_voice_jp.bat

必要なクライアント側ファイル

tktts を API モードで使う場合、Windows 側の ai ディレクトリに次のファイルを置く。

ファイル

役割

tktts_irodori_api.py

Irodori API バックエンド。HTTP 通信のみで、Torch や Irodori-TTS は不要

tktts.py

TTS エンジンの振り分けと、分割 WAV の連結処理

speak.py

統合 TTS CLI。--tts=irodori_api を受け付ける

make_voice_jp.bat

講義原稿 TXT から MP3 を作るバッチ

API モードでは Windows PC に Irodori-TTS の Python 環境や GPU VRAM は不要である。音声合成時だけサーバ GPU を使う。

make_voice_jp.bat の設定

バッチ冒頭の設定を次のようにする。

rem pyttsx3, voicevox, irodori_api, irodori, qwen3 から選ぶ
set "tts=irodori_api"

rem API サーバと待機時間
set "irodori_api_server=http://192.168.27.18:8002"
set "irodori_api_timeout=1800"

rem 声質・生成条件
set "irodori_caption=落ち着いた自然な声で、明瞭に読み上げる。"
set "irodori_num_steps=40"
set "irodori_duration_scale=1.0"

rem 参照音声なし: none、参照音声あり: サーバに登録した voice ID
set "voices_irodori_api=none"
rem set "voices_irodori_api=teacher"

登録済み参照音声を使う場合は、最後の設定を teacher に変更する。対話形式で複数の話者を使う場合は、検出順に teacher;student のように ; 区切りで指定できる。

API モードでは irodori_ref_wav は使用しない。ローカル Irodori モード(tts=irodori)だけが Windows 側の参照 WAV パスを使う。

Windows からの疎通確認

バッチを実行する前に、Windows の PowerShell から確認できる。

Test-NetConnection 192.168.27.18 -Port 8002

または、簡易 CLI で次を実行する。

python irodori_tts_api.py --server http://192.168.27.18:8002 --health
python irodori_tts_api.py --server http://192.168.27.18:8002 --list-voices

WinError 10061 は、Windows が到達したアドレスのポート 8002 で待ち受けていないことを示す。サーバでサービス状態・curl http://127.0.0.1:8002/health・firewalld の 8002/TCP 許可を順に確認する。

原稿の区切り行

tktts.py は、---、===、…… など、英数字・日本語などの発音可能な文字を含まない行を無音の区切りとして読み飛ばす。--- を合成 API に送らないため、サーバ側 CLI のオプション解釈エラーも回避できる。

運用上の注意

  • 常駐するのは HTTP 受付プロセスだけで、モデル本体は常駐しない。そのため、最初のロード時間は発生するが、GPU メモリを他用途に空けておける。

  • モデルと codec は hf-cache に残るため、2 回目以降にモデルをネットワークから再取得することはない。

  • 現在の API は WAV 出力と、サーバ側に登録した単一の参照音声を基本にしている。

  • 直接 InferenceRuntime を使う Windows 側の従来構成は、モデルを再利用して高速化する代わりに RTX 5070 の VRAM を常駐使用する。本構成では用途をサーバへ移し、その VRAM 使用を避ける。