開発者向けAPI「FastRouter.ai」の30秒紹介動画
LLMへのリクエストを1つのAPIから振り分けるゲートウェイ「FastRouter.ai」の30秒の紹介動画です。1つのプロバイダが止まって赤いエラーが出る場面から、base_urlを1行変えて別の経路へ通るまでを青焼きの設計図の上で見せています。
FablessBridgeによる自主制作の紹介動画
概要
LLMへのリクエストを1つのAPIから振り分けるゲートウェイ「FastRouter.ai」の30秒の紹介動画です。1つのプロバイダが止まって赤いエラーが出る場面から、base_urlを1行変えて別の経路へ通るまでを青焼きの設計図の上で見せています。
動画の要点
- 1本の線の先のプロバイダが503で止まる困りごとに対して、OpenAI SDKのbase_urlを1行変えるだけで切り替わる流れを見せました。
- どのモデルに送るか迷う場面には、公式のSmart Routingの図でCost・Latency・Qualityを順に囲んで振り分けの基準を示しました。
- プロバイダの時間切れで処理が止まる不安には、公式の図で赤いTimeoutから緑のSuccessへ回る様子を囲んで見せました。
動画の流れ
- 00:00アプリから1本の線でつながったプロバイダが落ち、端末に赤いエラーが出ます。
- 00:03OpenAI SDKのコマンドが1行出て、base_urlがFastRouterに書き換わります。
- 00:08公式のSmart Routingの図に寄り、Cost・Latency・Qualityを順に囲みます。
- 00:13公式のAlways-On Reliabilityの図で、赤いTimeoutから緑のSuccessへ回る経路を囲みます。
- 00:17緑のログが流れ、公式のModel Catalogに寄ります。
- 00:20ヒーローのロゴに作図の円と十字線が描かれ、製品名が記号から確定します。
- 00:23帯が2本伸びて、モデルを使うときの安心材料を大きな文字で示します。
- 00:26base_urlの1行とfastrouter.aiを並べて締めます。