tkasr_llm.py ダウンロード/コピー
tkasr_llm.py
tkasr_llm.py
1"""tkai_lib_litellmラッパーを介した文字起こし校正機能を提供します。
2
3このモジュールは、音声認識の文字起こし結果をLLM(大規模言語モデル)
4を使用して校正するための機能を提供します。
5具体的には、フィラー、どもり、明らかな誤変換、同音異義語、句読点、表記ゆれなどの修正を行います。
6[[ASR_CHUNK...]] や [[ASR_BOUNDARY...]] といったマーカー行は保持されます。
7
8.. seealso:: :doc:`tkasr_llm_usage`
9
10"""
11from __future__ import annotations
12import re
13from tkasr_common import OptionalDependencyError
14
15MARKER = re.compile(r"^\[\[/?ASR_(?:CHUNK|BOUNDARY)\b[^\]]*\]\]\s*$")
16SYSTEM = """以下は音声認識の文字起こしです。日本語の本文だけを校正してください。
17規則:
18- 要約、削除、追加、言い換え、解説はしない。
19- フィラー、どもり、明らかな誤変換、同音異義語、句読点、表記ゆれだけを修正する。
20- [[ASR_CHUNK...]] と [[ASR_BOUNDARY...]] の管理行は変更せず残す。境界前後で重複する文だけを統合・削除する。
21- 話題が変わる自然な箇所で段落を分ける。一文ごとに改行しない。
22- 判断できない箇所は推測で補わない。校正済み本文だけを出力する。"""
23
24def _lib():
25 """`tkai_lib_litellm`モジュールを動的にインポートします。
26
27 LLM校正に必要な`tkai_lib_litellm`ライブラリが利用可能であることを確認し、
28 そのモジュールを返します。このライブラリは、同じフォルダに配置されているか、
29 またはPythonのパスが通っている必要があります。
30
31 :returns: `tkai_lib_litellm`モジュール。
32 :rtype: module
33 :raises OptionalDependencyError: `tkai_lib_litellm`が見つからない場合、
34 または必要な依存ライブラリがインストールされていない場合。
35 """
36 try:
37 import tkai_lib_litellm as ai
38 except ImportError as exc:
39 raise OptionalDependencyError("LLM校正には、同じフォルダの tkai_lib_litellm.py と依存ライブラリが必要です。例: pip install litellm python-dotenv") from exc
40 return ai
41
42def _split(text: str, maximum: int) -> list[str]:
43 """テキストを指定された最大文字数で複数のチャンクに分割します。
44
45 テキストが指定された最大文字数を超える場合、改行や句読点(。、!、?)といった
46 自然な区切りを優先して分割します。これにより、LLMへの入力が適切な長さに保たれ、
47 文脈が失われにくい形で処理されます。
48
49 :param text: 分割する元のテキスト。
50 :type text: str
51 :param maximum: 各チャンクの最大文字数。
52 :type maximum: int
53 :returns: 分割されたテキストチャンクのリスト。
54 :rtype: list[str]
55 """
56 result = []
57 while text.strip():
58 text = text.strip()
59 if len(text) <= maximum: result.append(text); break
60 cut = max(text.rfind(x, maximum // 2, maximum) for x in ("\n", "。", "!", "?"))
61 cut = maximum if cut < 0 else cut + (0 if text[cut] == "\n" else 1)
62 result.append(text[:cut].strip()); text = text[cut:]
63 return result
64
65def correct(text: str, *, config: str, provider: str, model: str, context: str, max_tokens: int, maximum_chars: int) -> str:
66 """音声認識の文字起こしテキストをLLM(大規模言語モデル)で校正します。
67
68 与えられた音声認識テキストを、指定されたLLMプロバイダーとモデルを使用して校正します。
69 この関数は、フィラー、どもり、明らかな誤変換、同音異義語、句読点、表記ゆれなどを修正し、
70 自然な日本語の文章を生成することを目的としています。
71 入力テキストは`maximum_chars`に基づいて小さなチャンクに分割され、
72 各チャンクが個別にLLMに送られて処理されます。
73 最終結果からは、[[ASR_CHUNK...]] や [[ASR_BOUNDARY...]] のような
74 内部管理用のマーカー行 (本モジュールで定義されている `MARKER` パターンに一致する行) は削除されます。
75
76 LLMに送信されるシステムプロンプトは、このモジュール内で定義されている
77 `SYSTEM`定数を基にして構築され、必要に応じて`context`が追加されます。
78
79 :param text: 校正する元の音声認識テキスト。
80 :type text: str
81 :param config: `tkai_lib_litellm`の設定ファイルパス。
82 このファイルには、APIキーなどの認証情報が含まれます。
83 :type config: str
84 :param provider: 使用するLLMプロバイダーの名称(例: "openai", "lmstudio", "azure")。
85 :type provider: str
86 :param model: 使用するLLMのモデル名(例: "gpt-4o", "llama3")。
87 LM Studioなどローカル環境では`openai/`プレフィックスが自動で処理されます。
88 :type model: str
89 :param context: LLMに与える追加の補助情報や専門用語の候補など。
90 校正の精度向上に役立ちます。
91 :type context: str
92 :param max_tokens: LLMからの応答として許容される最大トークン数。
93 応答の長さを制限するために使用されます。
94 :type max_tokens: int
95 :param maximum_chars: LLMへの入力としてテキストを分割する際の、各チャンクの最大文字数。
96 大きなテキストを効率的に処理するために使用されます。
97 :type maximum_chars: int
98 :returns: LLMによって校正された、整形済みのテキスト。
99 :rtype: str
100 :raises RuntimeError: LLMの呼び出しに失敗した場合や、LLMが有効な校正本文を返さなかった場合。
101 """
102 ai = _lib()
103 ai.read_ai_config(config)
104 # tkai_lib_litellm adds ``openai/`` for LM Studio itself. Accept the
105 # familiar LiteLLM spelling too, without creating ``openai/openai/...``.
106 selected_model = model[7:] if provider.lower() in {"lmstudio", "lm_studio", "local"} and model.startswith("openai/") else model
107 role = SYSTEM + (f"\n\n認識時の補助情報(専門用語候補):\n{context}" if context else "")
108 results = []
109 for number, part in enumerate(_split(text, maximum_chars), 1):
110 print(f"校正 [{number}] 実行中...", flush=True)
111 try:
112 response = ai.query_ai(part, model=selected_model, role=role, provider=provider, temperature=0, max_tokens=max_tokens)
113 corrected = ai.extract_text(response)
114 except Exception as exc:
115 raise RuntimeError(f"LLM校正に失敗しました ({provider}/{selected_model}): {exc}") from exc
116 if not corrected or not corrected.strip(): raise RuntimeError("LLMが校正本文を返しませんでした。")
117 results.append(corrected.strip())
118 return "\n".join(line for line in "\n".join(results).splitlines() if not MARKER.match(line)).strip()