プロダクトのAIコスト、どうやって削る？

45分で、測るところから打ち手まで

打ち手を並べた記事は増えましたが、どうやって測るかを比べた資料はあまり見かけません。削れる場所は測らないと出てこないので、当日はここに時間を使います。

• AI時代のプロダクトエコノミクス

  ユーザーが増えても1人あたりの原価が下がりにくいのはなぜか。粗利率とプライシングの側から見ます。

• コスト構造の分解

  レートと量、そして頻度に分けます。失敗した出力にも課金されるので、成功した成果あたりでいくらかかっているかで測ります。

• 計測をどう実現するか45分のうち20分

  オブザーバビリティSaaS、汎用APM、OSS、AIゲートウェイの4つを、データの置き場所と実装にかかる手間で比べます。Langfuse、Datadog、各社の標準機能などを取り上げる予定です。

• 打ち手の一覧

  単価を下げるもの（モデルの使い分け、prompt caching、バッチ推論、コミットメント）と、使用量を減らすもの（コンテキストの削減、思考長の調整、決定論的な処理への切り戻し、不要なリトライの削減）を並べます。

• 削ったあとの品質担保

  LLM-as-a-Judgeやグラウンディングを含め、何をどう確かめるかを一枚で見せます。エンジニアがこれ以上は削れないと言うとき、その判断を何の数字で確かめるかにも触れます。

• で、誰がやるのか

  アプリの改修、モデルの選定、評価、データの置き場所。単一の職種では見きれない範囲を、誰が何を持つかで切り分けます。

登壇者

丹 哲郎

株式会社DELTA 代表取締役CTO

東京大学教養学部卒業後、ワークスアプリケーションズ社に入社。より顧客と近い距離感でフェアで手触り感のある価値提供をしたいと考え、「目の前の人を幸せにする」というバリューに共感しSEVENRICH GROUPに2019年入社、株式会社DELTAの前身となるエンジニアチームを発足、2022年に株式会社DELTAを設立。完全成果報酬のクラウドコスト削減代行をはじめとして、リファクタリングや速度改善など非機能に特に強みを持つ技術支援事業「CTO Booster」シリーズを通して、ベンチャー・スタートアップのCTOを日々支えている。

当日お配りするもの

ご参加の有無にかかわらず、お申し込みいただいた方全員にお送りします。アンケートへの回答は条件にしません。

• 講演資料

  当日使用するスライドを、そのままお送りします。

• アーカイブ動画

  講演の録画を後日ご案内します。当日ご都合が合わない方も、お申し込みいただければご覧いただけます。

社内やチームの方への共有も歓迎します。