# spaCy / Stanza 日本語ローカル文章解析の実測

対象: `spacy-stanza-local-hikaku` / 依頼 `req-20261022-065`。測定日: 2026-11-12（Asia/Tokyo）。
このMacのCPUで両者を実行でき、「単語の区切り・解析結果・処理時間」の比較軸は成立した。
本書の数値・観察の出典は隣の `spacy-stanza-local-2026-11-12-req065-a1-raw.json` の cases / outputs / comparisons / trials。
他者のベンチマークやインターネットの転載を実測証拠にはしていない。
鍵・秘密鍵ファイル・ログイン・有料API・購入は使っていない。GPU、Metal、音声入出力、say、Bluetoothも使っていない。
公開・X投稿・git commitは実施していない。public配下はローカルの保存先である。

## 環境とCPU指定

macOS 27.2.1 / arm64 / 論理CPU 12 / 各ワーカー CPython 3.12.16。
制御用Pythonは3.14.10。2つの独立した一時venvのワーカーを直列に呼び出した。
OMP_NUM_THREADS、OPENBLAS_NUM_THREADS、VECLIB_MAXIMUM_THREADS、MKL_NUM_THREADSを1に設定。

- spaCy 3.8.11 / ja_core_news_sm 3.8.0 / SudachiPy 0.7.0 / sudachidict-core 20261015。
  venvにtorchを入れず、import前にtorch不在をassertし、`spacy.require_cpu()`で明示指定した。
  これによりThincがtorch経由で行うimport時のMPS利用可否問い合わせも避けた。
  `spacy.load('ja_core_news_sm', exclude=['ner'])`。実際の構成はtok2vec / morphologizer / parser / attribute_ruler。
- Stanza 1.11.0 / torch 2.9.1 / resources 1.11.0 / ja default_fast。
  tokenize / pos / lemma / depparseはいずれもcombined_nocharlmで、pretrainはconll17。NERは使用しない。
  `use_gpu=False, device='cpu'`、`torch.set_default_device('cpu')`を指定し、torchの計算・interopスレッド数も1。
  torch import後にMPS利用可否・初期化・同期等の呼び出しを例外にするガードを置いたまま完走した。
  各processorの全モデルparameterのdeviceがcpuであることもassertした。モデル解析は`torch.inference_mode()`内。

全依存パッケージの実際の版、モデルファイルのbytesとSHA256、Stanzaのモデルmanifest選択はrawのtoolsに保存した。
manifestのdefault_fast欄にはNERの既定名もあるが、実際に読み込んだpipelineは上の4種類だけである。
spaCy側は辞書ベースの区切り・原形と学習モデル、Stanza側は選んだ学習モデルによる解析であり、同一モデルや同一アルゴリズムの比較ではない。
比較するタスクの範囲を揃えた、この構成同士の結果として読む。

## 固定入力

権利や個人情報のない自作の固定日本語文字列。同じ文字列をUTF-8経由で両ワーカーに渡した。
全文・文字数（Python len）・UTF-8 bytes・入力SHA256はrawのcasesに保存している。
入力生成コードはreplay TXTにあり、外部の記事・コーパスは使わない。

- news: 図書館と翻訳ソフトに関する短文2文。`東京都内の図書館で、新しい翻訳ソフトを試した。担当者は「来週の月曜日に結果を発表します」と話した。`
- ambiguous: 区切りが難しい表現、同音語、日付、英数字混在の3文。`すもももももももものうち。橋の端で箸を持つ。2026年11月12日、AIツールspaCyとStanzaをCPUで比較した。`
- news10: newsを10個、改行で結合したもの（末尾改行なし）。

原稿はあるが、人手の正解単語区切り・品詞・原形・係り受け注釈は用意していない。
同音語の意味理解や曖昧性解消の正解率を評価する入力ではない。

## 手順と生データ

各入力・ツールで3文書分のwarmupを1バッチ行い、計時値を破棄。その後、3文書/バッチを7回ずつ計測した。
3入力×2ツール×7回=42計時バッチ、計126文書分の処理。
奇数回はspaCy→Stanza、偶数回はStanza→spaCyとし、同時には解析しない。
モデルは読み込み済みで、1つずつ`nlp(text)`を呼び、返った文書オブジェクトを解放するまでを壁時計`perf_counter_ns()`で測った。
各バッチ前にgc.collect()し、計時中は循環GCを止めた。遅延循環GCの回収時間は含まない。
warmup後の同じ入力の繰り返しなので、辞書・OS等のキャッシュがある温まった条件である。
導入・モデル取得・モデル読込・IPC・ファイルI/O・明示的GC・出力JSON化・検算は計時外。

各バッチ後、計時外の別の解析から全文字オフセット・品詞・原形・形態素情報・係り受け等を取り出し、warmup後の保存出力と完全一致することをassertした。
各計時呼出しの途中出力を個別保存・比較したわけではない。
rawのtrialsには全42回の整数ns、回数、順番、バッチ内文書数をそのまま保存。
outputsには文章単位の区切りとトークン全件の無加工のtext / start_char / end_char / lemma / upos / xpos / morph / deprelを保存。
トークンオフセットが元の入力文字列を指すことを両者でassertした。
トークンIDは文書内1起算に揃え、head_global_idは根を0とした（spaCyの根の自己参照を0に変換）。
Stanzaは今回の各tokenが1wordであることをassertして保存。MWTが生じる別言語一般を扱うコードではない。
spaCyの空白トークンは残し、非空白トークン数・比較も別途保存した。
outputsのSHA256は出力のsentencesとtokensのdictを`json.dumps(ensure_ascii=False, sort_keys=True)`したUTF-8 bytesに対する値。

comparisonsの一致件数は、空白を除いたトークンのstart/end文字位置が一致するものに対して計算した。
単語境界、UPOS、原形の一致は両ツール間の記述的一致であり、精度ではない。
係り受けのラベル体系・学習条件の違いを消して点数化することはしていない。

## 今回の観察

表のnsは各7バッチの中央値。ms/文書は`中央値ns ÷ 3 ÷ 1,000,000`を小数6桁に丸めて表示。
中央値の元になる全試行値はrawのtrialsにあり、台帳はidentity / tolerance 0で各値を参照する。

| 入力 | 文字数 | 非空白トークン数 spaCy / Stanza | spaCy 中央値ns/バッチ | Stanza 中央値ns/バッチ | spaCy ms/文書 | Stanza ms/文書 |
|---|---:|---:|---:|---:|---:|---:|
| news | 49 | 33 / 33 | 5873292 | 61602625 | 1.957764 | 20.534208 |
| ambiguous | 61 | 35 / 35 | 4834917 | 71303792 | 1.611639 | 23.767931 |
| news10 | 499 | 330 / 330 | 30140791 | 212728459 | 10.046930 | 70.909486 |

この3入力ではspaCyの処理時間の中央値が小さかった。モデルサイズ、内部処理、バッチ処理方針も違うため、製品全般の速度優劣へ一般化しない。
newsとnews10は非空白トークンの位置とUPOSが全件一致した。newsの原形には「し」をspaCyが「する」、Stanzaが「為る」とする違いがあった。
ambiguousは両者とも非空白35トークンだが、位置が共通するものは28個だけで、同じ件数でも区切りは同じではなかった。
例えば先頭をspaCyは`すもも | も | もも | も | もも | の | うち`、Stanzaは`す | も | も | も | も | もも | ももの | うち`と区切った。
この違いから、どちらが正しいか、文章解析の一般品質が高いかは判定していない。

## 範囲と限界

外部推論は実行・測定していない。一般的な解析品質・正解率も測っていない。
測ったのは固定した合成日本語の区切り・解析出力と、このMacのCPUでの温まった処理時間だけ。
他言語、実務コーパス、NER、感情分析、意味理解、翻訳、長大文書、GPU、並列処理は未評価。
メモリ、電力、導入時間、モデル読込時間、プロセス起動、I/Oを含む業務全体の時間も測っていない。
他プロセスの負荷、CPU温度、電源モードは固定しておらず、時間には変動がある。
特にnews10は同じ文章の反復なので、自然な長文の代表性や未知語への強さを示さない。

## 再実行と保存

隣の `spacy-stanza-local-2026-11-12-req065-a1-replay.txt` はPythonソース。uvとPython 3.12が必要で、初回の依存・モデル取得だけインターネットを使う。

```sh
python3 measurements/spacy-stanza-local-2026-11-12-req065-a1-replay.txt --output /private/tmp/spacy-stanza-NEW-result
```

既にある出力先は拒否する。新しい、コピーした作業場所の外の出力先を指定する。
本実行で実際に入った全パッケージ版を保存コードに固定した。モデルは公式公開wheelとStanza公開モデルを取得する。
将来公開先のモデルが差し替わる可能性があるため、再実行時はraw.tools.model_filesのSHA256も本結果と比較する。
venv・モデル・キャッシュは`TemporaryDirectory(dir='/private/tmp')`内に置き、正常時・例外時とも終了時に削除する。
初回実測も作業コピーの外の一時領域に置き、証拠を移した後にその一時領域を削除した。
入力文字列はコード内から生成し、入力用のファイル・画像・WAVは不要。
再実行コードは新しいraw JSONのみ出力し、台帳の変更・公開は行わない。経過時間や取得時刻は毎回変わる。

初回導入ではspaCyのimportでClick不足、Stanzaの係り受け初期化でTransformers不足を検出し、公開パッケージを追加して解消した。
Transformers 4.57.1はStanzaのscheduler初期化に必要だったもので、Transformerモデルによる外部推論を行ったものではない。
保存版のコードはこれらを含めた同じ依存版を最初から導入するが、削除後のゼロからの再導入経路は未実行。
実際のCPUワーカー・全入力の解析・全42バッチ・出力整合assertは実行済み。リポジトリの検査とcommitは親担当。

保存物は新規のraw JSON / README MD / replay TXTの3本をmeasurementsとpublic/measurementsに同じバイトで配置。
台帳はtopics.spacy-stanza-local-hikakuだけ追加。blocked控え、記事、topics.json、検査コード・条件は変更していない。

## 公式参照先（数値の実測証拠ではなく、CPU設定と取得先の確認用）

- 対象spaCy: https://github.com/explosion/spaCy
- CPU指定: https://spacy.io/api/top-level#spacy.require_cpu
- Thincのtorch/MPS import処理: https://raw.githubusercontent.com/explosion/thinc/master/thinc/compat.py
- spaCy日本語モデル: https://github.com/explosion/spacy-models/releases/tag/ja_core_news_sm-3.8.0
- 対象Stanza: https://github.com/stanfordnlp/stanza
- Stanza CPU設定: https://stanfordnlp.github.io/stanza/pipeline.html
- resources 1.11.0: https://raw.githubusercontent.com/stanfordnlp/stanza-resources/main/resources_1.11.0.json
- Stanzaモデル取得: https://stanfordnlp.github.io/stanza/download_models.html
