AI ファーストの本当のコスト

企業が最初にリリースする AI 機能は、たいてい安く済みます。API キー、プロトタイプ、経営会議で好評だったデモ。お金がかかるのは 2 年目です——しかも、それは誰かが計画していたお金であることはほとんどありません。

請求書は推論の請求ではない

モデル呼び出しは最も目に見えやすいコストであり、同時にますます重要度が低くなっています。同じ能力水準の価格は、過去 3 年間、毎年およそ一桁下がっており、競争圧力がそれを押し下げ続けています。一方で、モデル呼び出しを取り巻くコストは横ばいか、上昇しています。

• 評価とデータの配管。 すべてのやり取りを結果ラベル付きで記録し、ゴールデンセットを維持し、リグレッションのゲートを構築します。これがなければ、改善とノイズを区別できません——その代償は、リリースされたリグレッションとして支払うことになります。
• 人間によるレビューとエスカレーション。 誤った回答の代償が大きい場面では、必ず誰かが出力を確認しなければなりません。その労力は無料ではなく、モデルが良くなったからといって減るわけでもありません。ただ移動するだけです。
• モデルの入れ替わりに伴う保守。 プロバイダーはモデルのバージョンを終了し、デフォルトを変更し、パラメータを非推奨にします。そのたびに再テスト、プロンプトの調整、時には機能全体の再検証が必要になります。
• コンプライアンスとセキュリティの審査。 データの保管場所、保持期間、再委託先の一覧、DPA、そして今では顧客やアプリストアから寄せられる AI 固有の質問。この作業は機能ごとに一度きりですが、ベンダーごと、法域ごとに繰り返し発生します。
• 確率的なソフトウェアのサポート。 毎回答えが変わるため、ユーザーからの報告は再現が困難です。サポートのツールと手順書は、その現実に合わせて書き直す必要があります。
• 失敗のコスト。 存在しない価格の生成、契約レビューにおける誤った要約、顧客に見せてしまった不適切な出力。これらはコストモデルに表れないかもしれませんが、いくつかの AI 機能が静かに取り下げられた理由です。

これらの費目は、「100 万トークンあたりのコスト」の比較には現れません。だからこそ見落としやすいのです。

見返りについて証拠が示すこと

見返りの分布は均一ではありません。同じ市場に、二種類の証拠が共存しています。

一方では、対照を置いた測定が、限定的で大量処理の業務における実際の効果を示しています。2023 年の GitHub のランダム化実験では、AI アシスタントを使った開発者が課題を 55.8% 速く完了しました（arXiv:2302.06590）。カスタマーサポートツールに関する研究では、1 時間あたりの解決件数が平均で約 14%、経験の浅い担当者ではおよそ 34% 増えました（Brynjolfsson, Li & Raymond、NBER working paper 31161）。

他方で、ポートフォリオ全体の結果は芳しくありません。2025 年の MIT による企業の生成 AI 実証実験に関する研究は、その大多数が損益に測定可能な影響を生まなかったと報告しています。また 2024 年の S&P Global の調査では、多くの企業が AI の取り組みの大半を断念したことが分かりました。どちらの結果も、精密な測定というより、混沌とした現実の近似値として読むべきですが——指し示す方向は同じです。

この二つを整合させるのは難しくありません。効果が現れるのは、ワークフローに測定可能な指標があり、意味のあるほどの量があり、人間が素早く確認できる出力がある場合です。損失が集まるのは、指標が一度も定義されず、量が少なく、あるいは結果に責任を持つ人がいるからではなく、実現可能だからという理由で機能がつくられた場合です。

判断を下す計算

つくる前に、三つの数字を書き出します。

1. モデルを使った場合のタスクあたりコスト。 再試行、レビューの労力、償却した保守費用を含みます。
2. 現状のタスクあたりコスト。 人件費、ツール費用、誤りの修正を含めた総額です。
3. 誤った場合のコスト。 そして、人間によるレビューの工程がそれを抑え込めるかどうか。

AI 機能が正当化できるのは、レビュー費用を含めたうえで第一の数字が第二の数字を意味のある形で下回り、第三の数字が実際に運用しているプロセスによって抑えられ、差分が複利で効くほどの量がある場合です。第三の数字が無制限である場合——誰かを傷つけ、規制に違反し、あるいは関係を壊しうる判断である場合——レビューの工程は選択肢ではなく、最初から価格に織り込まなければなりません。

そこから二つの帰結が導かれます。第一に、最良の AI プロジェクトのいくつかは小規模です。限定的で反復的、かつ大量の業務を置き換えるものです。第二に、断るべき機能もあります。それは反 AI の立場ではありません。予算とはそういうものです。

AI が単純に適していない場面

• 決定論的なロジック。 税額計算、適用条件の判定、在庫の計算。ルールのほうが安く、速く、検証可能で、安定しています。モデルを足すと品質は下がります。モダンになるわけではありません。
• 少量の業務。 月に 50 回しか実行されない業務では、評価セット、レビュープロセス、保守担当者の固定費は回収できません。
• 悪い入力。 元になるデータが不完全だったり、プロセスが定義されていなかったりすると、モデルは自信たっぷりの無意味な出力を大量に生み出します。まずデータを直します。モデルには扱う材料がないのです。
• レビューなしでは抑えられない誤りのコスト。 どのみち人間がすべての出力を承認しなければならないのであれば、モデルが何かを節約したのか、それとも仕事を移動させただけなのかを、正直に問うべきです。

正直に予算を組む

価値を得るチームと、請求書を得るチームを分ける三つの習慣があります。

つくる前に上限を決めます。 成功したタスク 1 件あたりのコストの上限と、量の前提です。その量で上限を下回れないなら、デモがどれほど良くてもリリースしません。

呼び出しあたりではなく、成功した結果あたりのコストを追います。 3 回に 1 回失敗する安いモデルは、高くつきます。難しい 20% のケースにだけ高性能モデルを使い、残りを小型モデルに任せる構成が、たいてい手に入るなかで最も安いアーキテクチャです。

撤退の条件をあらかじめ書いておきます。 「日付 Y までに評価セットで品質が X に届かなければ、中止する」。恒久的なコストセンターになった AI の取り組みは、ほぼすべて、誰も終わらせる権限を持たない実証実験として始まっています。

価格は下がり続けますし、それは助けになります——しかし、推論が安くなっても、レビューの労力、保守、誤った回答のコストは減りません。AI ファーストは、あらゆる場所で AI を使うという決定ではありません。数字が本当に成り立つ場所を見つけ、成り立たないときにはそう言える胆力を持つという規律です。

関連記事：AI ファーストは規律であり、スローガンではない。