リトライとタイムアウトの設計|カスケード障害を防ぐ
再試行とタイムアウトは、誤ると過負荷を広げる側に回ります。下流の分位で決めるタイムアウト、デッドラインの伝播、層の掛け算とリトライ予算、再試行してよいエラーと冪等性を一次資料で確かめます。
SRE再試行とタイムアウトは、誤ると過負荷を広げる側に回ります。下流の分位で決めるタイムアウト、デッドラインの伝播、層の掛け算とリトライ予算、再試行してよいエラーと冪等性を一次資料で確かめます。
AIClaudeのモデルは、Opus 5.5のmediumから始めるのが公式の勧めです。Haiku 5.5・Sonnet 5.5・Fable 5.2へ上げ下げする目安と、effortとの順番、乗り換え前に確かめるAPIの違いを解説します。
CloudAWS Lambda の実行環境の使い回し、同時実行、同期と非同期の呼び出しを公式ドキュメントで確かめ、15 分の上限やコールドスタート、二重の実行が起きる理由と、GCP・Azure との違いをまとめました。
AIClaudeのeffortは、返答にかける手間をlowからmaxの5段階で決める設定です。既定値とthinkingとの違い、Claude Codeの/effort・ultrathink・サブエージェントでの指定方法が分かります。
AIClaude APIのmessage threadsは、2回目以降の要求を新しいメッセージと前の応答のIDだけにして最初の応答を速くする機能です。トークン消費と単価が変わらない理由と、5分の失効、使えない条件が分かります。
AILLMゲートウェイは、複数のAIのAPIを1つの口にまとめ、鍵・上限・ログ・費用・フォールバックを受け持つ中継層です。仕組みと代表的な製品、鍵が集まる場所としての注意点をLiteLLMの件とあわせて解説します。
AIバッチAPIは、急がない大量の依頼をまとめて預け、非同期に処理してもらう代わりに料金が半額になる仕組みです。流れ、Anthropic・OpenAI・Googleの上限の違い、キャッシュとの併用と落とし穴を公式ドキュメントで整理しました。
AIAIのAPIで使うモデルには退役があります。Active・Legacy・Deprecated・Retiredの段階、Anthropic・OpenAI・Googleの予告期間の違い、モデルIDの選び方と備え方を公式ドキュメントで整理しました。
AIA2A(Agent2Agent)は、別々に作られたAIエージェント同士が仕事を頼み合うためのオープンなプロトコルです。Agent Cardとタスクの仕組み、MCPとの使い分けが分かります。
AI言い換えただけの質問に毎回LLMを呼ぶのは無駄です。埋め込みと類似度で「同じ意図」を判定するセマンティックキャッシュの仕組み、閾値の決め方、プロンプトキャッシュとの違い、外したときの事故を整理しました。