tkasr_llm.py ダウンロード/コピー

tkasr_llm.py をダウンロード

tkasr_llm.py
tkasr_llm.py
  1"""tkai_lib_litellmラッパーを介した文字起こし校正機能を提供します。
  2
  3このモジュールは、音声認識の文字起こし結果をLLM(大規模言語モデル)
  4を使用して校正するための機能を提供します。
  5具体的には、フィラー、どもり、明らかな誤変換、同音異義語、句読点、表記ゆれなどの修正を行います。
  6[[ASR_CHUNK...]] や [[ASR_BOUNDARY...]] といったマーカー行は保持されます。
  7
  8.. seealso:: :doc:`tkasr_llm_usage`
  9
 10"""
 11from __future__ import annotations
 12import re
 13from tkasr_common import OptionalDependencyError
 14
 15MARKER = re.compile(r"^\[\[/?ASR_(?:CHUNK|BOUNDARY)\b[^\]]*\]\]\s*$")
 16SYSTEM = """以下は音声認識の文字起こしです。日本語の本文だけを校正してください。
 17規則:
 18- 要約、削除、追加、言い換え、解説はしない。
 19- フィラー、どもり、明らかな誤変換、同音異義語、句読点、表記ゆれだけを修正する。
 20- [[ASR_CHUNK...]] と [[ASR_BOUNDARY...]] の管理行は変更せず残す。境界前後で重複する文だけを統合・削除する。
 21- 話題が変わる自然な箇所で段落を分ける。一文ごとに改行しない。
 22- 判断できない箇所は推測で補わない。校正済み本文だけを出力する。"""
 23
 24def _lib():
 25    """`tkai_lib_litellm`モジュールを動的にインポートします。
 26
 27    LLM校正に必要な`tkai_lib_litellm`ライブラリが利用可能であることを確認し、
 28    そのモジュールを返します。このライブラリは、同じフォルダに配置されているか、
 29    またはPythonのパスが通っている必要があります。
 30
 31    :returns: `tkai_lib_litellm`モジュール。
 32    :rtype: module
 33    :raises OptionalDependencyError: `tkai_lib_litellm`が見つからない場合、
 34                                     または必要な依存ライブラリがインストールされていない場合。
 35    """
 36    try:
 37        import tkai_lib_litellm as ai
 38    except ImportError as exc:
 39        raise OptionalDependencyError("LLM校正には、同じフォルダの tkai_lib_litellm.py と依存ライブラリが必要です。例: pip install litellm python-dotenv") from exc
 40    return ai
 41
 42def _split(text: str, maximum: int) -> list[str]:
 43    """テキストを指定された最大文字数で複数のチャンクに分割します。
 44
 45    テキストが指定された最大文字数を超える場合、改行や句読点(。、!、?)といった
 46    自然な区切りを優先して分割します。これにより、LLMへの入力が適切な長さに保たれ、
 47    文脈が失われにくい形で処理されます。
 48
 49    :param text: 分割する元のテキスト。
 50    :type text: str
 51    :param maximum: 各チャンクの最大文字数。
 52    :type maximum: int
 53    :returns: 分割されたテキストチャンクのリスト。
 54    :rtype: list[str]
 55    """
 56    result = []
 57    while text.strip():
 58        text = text.strip()
 59        if len(text) <= maximum: result.append(text); break
 60        cut = max(text.rfind(x, maximum // 2, maximum) for x in ("\n", "。", "!", "?"))
 61        cut = maximum if cut < 0 else cut + (0 if text[cut] == "\n" else 1)
 62        result.append(text[:cut].strip()); text = text[cut:]
 63    return result
 64
 65def correct(text: str, *, config: str, provider: str, model: str, context: str, max_tokens: int, maximum_chars: int) -> str:
 66    """音声認識の文字起こしテキストをLLM(大規模言語モデル)で校正します。
 67
 68    与えられた音声認識テキストを、指定されたLLMプロバイダーとモデルを使用して校正します。
 69    この関数は、フィラー、どもり、明らかな誤変換、同音異義語、句読点、表記ゆれなどを修正し、
 70    自然な日本語の文章を生成することを目的としています。
 71    入力テキストは`maximum_chars`に基づいて小さなチャンクに分割され、
 72    各チャンクが個別にLLMに送られて処理されます。
 73    最終結果からは、[[ASR_CHUNK...]] や [[ASR_BOUNDARY...]] のような
 74    内部管理用のマーカー行 (本モジュールで定義されている `MARKER` パターンに一致する行) は削除されます。
 75
 76    LLMに送信されるシステムプロンプトは、このモジュール内で定義されている
 77    `SYSTEM`定数を基にして構築され、必要に応じて`context`が追加されます。
 78
 79    :param text: 校正する元の音声認識テキスト。
 80    :type text: str
 81    :param config: `tkai_lib_litellm`の設定ファイルパス。
 82                   このファイルには、APIキーなどの認証情報が含まれます。
 83    :type config: str
 84    :param provider: 使用するLLMプロバイダーの名称(例: "openai", "lmstudio", "azure")。
 85    :type provider: str
 86    :param model: 使用するLLMのモデル名(例: "gpt-4o", "llama3")。
 87                  LM Studioなどローカル環境では`openai/`プレフィックスが自動で処理されます。
 88    :type model: str
 89    :param context: LLMに与える追加の補助情報や専門用語の候補など。
 90                    校正の精度向上に役立ちます。
 91    :type context: str
 92    :param max_tokens: LLMからの応答として許容される最大トークン数。
 93                       応答の長さを制限するために使用されます。
 94    :type max_tokens: int
 95    :param maximum_chars: LLMへの入力としてテキストを分割する際の、各チャンクの最大文字数。
 96                          大きなテキストを効率的に処理するために使用されます。
 97    :type maximum_chars: int
 98    :returns: LLMによって校正された、整形済みのテキスト。
 99    :rtype: str
100    :raises RuntimeError: LLMの呼び出しに失敗した場合や、LLMが有効な校正本文を返さなかった場合。
101    """
102    ai = _lib()
103    ai.read_ai_config(config)
104    # tkai_lib_litellm adds ``openai/`` for LM Studio itself.  Accept the
105    # familiar LiteLLM spelling too, without creating ``openai/openai/...``.
106    selected_model = model[7:] if provider.lower() in {"lmstudio", "lm_studio", "local"} and model.startswith("openai/") else model
107    role = SYSTEM + (f"\n\n認識時の補助情報(専門用語候補):\n{context}" if context else "")
108    results = []
109    for number, part in enumerate(_split(text, maximum_chars), 1):
110        print(f"校正 [{number}] 実行中...", flush=True)
111        try:
112            response = ai.query_ai(part, model=selected_model, role=role, provider=provider, temperature=0, max_tokens=max_tokens)
113            corrected = ai.extract_text(response)
114        except Exception as exc:
115            raise RuntimeError(f"LLM校正に失敗しました ({provider}/{selected_model}): {exc}") from exc
116        if not corrected or not corrected.strip(): raise RuntimeError("LLMが校正本文を返しませんでした。")
117        results.append(corrected.strip())
118    return "\n".join(line for line in "\n".join(results).splitlines() if not MARKER.match(line)).strip()