データ基盤と生成AI|CortexのRAGで用意するもの
Snowflake Cortex で RAG を組むとき、文書の文字化と分割・検索サービス・セマンティックビュー・権限・推論のリージョンはデータ基盤の側で決めます。Bedrock Knowledge Bases との違いも整理しました。
CloudSnowflake Cortex で RAG を組むとき、文書の文字化と分割・検索サービス・セマンティックビュー・権限・推論のリージョンはデータ基盤の側で決めます。Bedrock Knowledge Bases との違いも整理しました。
AI音声エージェントは、音声認識・言語モデル・音声合成をつないで声で会話するAIです。カスケード型とspeech-to-speech型の違い、話し終わりの検出や割り込み、電話での落とし穴を、公式ドキュメントと自治体の実証例から読み解きます。
AICloudflareのWorkers AIで他の顧客の応答が混ざった事故を例に、KVキャッシュの分離が崩れる2つの道筋と、運用する側・使う側が確かめることを一次情報から解説します。
AI推論エンジンは、LLMの重みを動かして依頼に答えを返すソフトです。連続バッチング・PagedAttention・プレフィルとデコードの分離などの仕組みと、vLLM・SGLang・Ollamaなどの選び方を論文と公式資料で整理しました。
AIEvals(評価)は、AIアプリの出力を評価データと採点のルールで繰り返し測る仕組みです。公開ベンチマークとの違い、評価セットの作り方、3種類の採点、回帰テストとしての回し方と落とし穴を公式資料で整理しました。
AIバッチAPIは、急がない大量の依頼をまとめて預け、非同期に処理してもらう代わりに料金が半額になる仕組みです。流れ、Anthropic・OpenAI・Googleの上限の違い、キャッシュとの併用と落とし穴を公式ドキュメントで整理しました。
AI10月19日〜25日の生成AIの動き。Claudeアプリのauto mode既定化の告知、Claude Duet、Claude APIの新しい版、LiteLLMとOpenCodeの侵害まで出典つきで振り返ります。
AI時系列基盤モデルの仕組みを、従来の予測との違い、Chronos-2・TimesFM・Timestralの入力と出力、P10・P50・P90の読み方、評価とライセンスの落とし穴まで一次情報をもとに解説します。
AILLMオブザーバビリティの基本を、OpenTelemetryのトレースとスパン、GenAIセマンティック規約の属性名、プロンプトを残すかの判断、トークン集計の落とし穴まで公式ドキュメントをもとに解説します。
AIAIのAPIで使うモデルには退役があります。Active・Legacy・Deprecated・Retiredの段階、Anthropic・OpenAI・Googleの予告期間の違い、モデルIDの選び方と備え方を公式ドキュメントで整理しました。