2026年10月16日(金) 12:00〜12:45講演45分/アーカイブあり
増え続けるLLMコストの削減、計測の設計から打ち手まで
削れる場所を出す測り方と、単価を下げる打ち手・使用量を減らす打ち手を、45分でお話しします。
無料で申し込む講演スライドと録画は、お申し込みいただいた方全員にお送りします。当日ご都合が合わなくても構いません。営業のお電話はいたしません。
聞き終わったとき、自社のLLMコストがどこで増えているかを数字で指せて、最初に試す打ち手を一つ決められる状態を目指します。
持ち帰れるもの
SaaSの粗利は、ユーザーが増えるほど1人あたりのコストが薄まる前提で成り立ってきました。LLMを組み込んだプロダクトでは、この前提が働きません。推論費用は使った分だけかかるので、規模が大きくなっても1ユーザーあたりの原価が下がりにくい。
売上が伸びれば、推論費用も一緒に伸びます。コストの話がそのまま粗利率とプライシングの話になるのに、コスト最適化の題材としては、あまり出てきません。
クラウドのコスト診断は200社以上(2026年9月時点)。DELTAは、クラウドのインフラコスト最適化を成果報酬型で提供しています(CTO Booster)。同じ見方をLLMの推論費用に当てるとどうなるかを、45分で話します。
扱うのは、プロダクトに組み込んだLLMのコストだけです。社内で使うChatGPTの契約や、開発チームに配ったコーディングエージェントのクレジットには触れません。技術レベルの想定は、下のよくある質問に書いています。
実例です。ある人材紹介会社では、削れる場所が見えないまま、コストだけが積み上がっていました。
Google Meetとの同期処理が30分間隔で走り、過去48時間をルックバックする設計だった
要約の呼び出しが、重複を判定する前に無条件で実行される順番になっていた
同じ入力を理論上96回、実測でも94回、繰り返し要約。ログは毎回「skipped_already_imported」で正常に見えていた
要約を遅延実行してメモ化し、呼び出しを1回にまとめた。モデルもプロンプトも変えていない
自社のLLMコストを、機能・モデル・ユーザーの単位で分けて見る計測の設計ができています。感覚ではなく数字で、増えている場所を言えます。
単価を下げる打ち手と使用量を減らす打ち手を分けて並べられ、自社で最初に試す一つを決められます。
品質が落ちていないことを何の数字で見るかが決まっています。「これ以上は削れない」という判断も、材料をもとに確かめられます。
打ち手を並べた記事は増えましたが、どうやって測るかを比べた資料はあまり見かけません。削れる場所は測らないと出てこないので、当日はここに時間を使います。
ユーザーが増えても1人あたりの原価が下がりにくいのはなぜか。粗利率とプライシングの側から見ます。
レートと量、そして頻度に分けます。失敗した出力にも課金されるので、成功した成果あたりでいくらかかっているかで測ります。
オブザーバビリティSaaS、汎用APM、OSS、AIゲートウェイの4つを、データの置き場所と実装にかかる手間で比べます。Langfuse、Datadog、各社の標準機能などを取り上げる予定です。
単価を下げるもの(モデルの使い分け、prompt caching、バッチ推論、コミットメント)と、使用量を減らすもの(コンテキストの削減、思考長の調整、決定論的な処理への切り戻し、不要なリトライの削減)を並べます。
LLM-as-a-Judgeやグラウンディングを含め、何をどう確かめるかを一枚で見せます。エンジニアがこれ以上は削れないと言うとき、その判断を何の数字で確かめるかにも触れます。
アプリの改修、モデルの選定、評価、データの置き場所。単一の職種では見きれない範囲を、誰が何を持つかで切り分けます。
2026年10月16日(金) 12:00〜12:45 / オンライン / 参加無料
無料で申し込む
株式会社DELTA 代表取締役CTO
東京大学教養学部卒業後、ワークスアプリケーションズ社に入社。より顧客と近い距離感でフェアで手触り感のある価値提供をしたいと考え、「目の前の人を幸せにする」というバリューに共感しSEVENRICH GROUPに2019年入社、株式会社DELTAの前身となるエンジニアチームを発足、2022年に株式会社DELTAを設立。
完全成果報酬のクラウドコスト削減代行「CTO Booster」を立ち上げ、コスト削減を事業として手がけてきた。クラウドコスト診断は200社以上(2026年9月時点)。並行して、グループ内でのLLMプロダクトの開発や、顧客のLLMプロダクトの開発支援にも携わってきた。LLMに関する講演も有償・無償を問わず多数。
| 日時 | 2026年10月16日(金) 12:00〜12:45 |
|---|---|
| 構成 | 講演45分。終了後にQ&Aを15分(13:00まで、参加は任意です) |
| 形式 | オンライン(詳細はお申し込み後にご案内します) |
| 参加費 | 無料 |
| アーカイブ | お申し込みいただいた方全員に、後日お送りします |
| 登壇 | 丹 哲郎(株式会社DELTA 代表取締役CTO) |
| 主催 | 株式会社DELTA |
ご参加の有無にかかわらず、お申し込みいただいた方全員にお送りします。アンケートへの回答は条件にしません。
当日使用するスライドを、そのままお送りします。
講演の録画を後日ご案内します。当日ご都合が合わない方も、お申し込みいただければご覧いただけます。
社内やチームの方への共有も歓迎します。
はい。お申し込みいただいた方全員に、資料とアーカイブをお送りします。当日のご参加は必須ではありません。
LLMをプロダクトに組み込んだ経験がある方を想定していますが、実装の細部までは前提にしません。
当てはまります。特定のプロバイダに依存しない考え方が中心です。AWSやGoogle Cloudの制約に触れる場面はありますが、論点は共通しています。
講演45分で内容は完結します。その後のQ&A15分は任意で、途中退出も可能です。
当日ご都合が合わない方にも、お申し込みいただければアーカイブをお送りします。
機能ごとにいくらかかっているかが出ていないと、打ち手を並べても選べません。10月16日、その順番どおりに45分で話します。
無料で申し込む2026年10月16日(金) 12:00〜12:45(講演45分) / オンライン / 参加費無料 / 営業のお電話はいたしません