Inferenceに関するブログ記事

Inferenceに関するブログ記事(7)

セッションは固定、コンテキストは密着:推論が会話を維持するために使う裏技
業界動向 | 04/21/2026

セッションは固定、コンテキストは密着:推論が会話を維持するために使う裏技

「ステートレス」な推論は、実際には完全なステートレスではありません。リクエストのたびに、会話の状態がトークンとして引き継がれるためです。コンテキストが増えるにつれて、この再送によって帯域幅、コンピューティングリソース、レイテンシーが増大します。

著者:Lori Mac Vittie
大規模環境で卓越性を実現:F5とMinIOによるセキュアなデータ配信でAIインフラストラクチャを変革
F5エコシステム | 07/17/2025

大規模環境で卓越性を実現:F5とMinIOによるセキュアなデータ配信でAIインフラストラクチャを変革

F5とMinIOが、パフォーマンス、拡張性、セキュリティを強化する革新的なソリューションによって、データストレージをどのように変革しているかをご紹介します。

著者:Ahmed Dessouki
F5がAI推論を内側からスケール
F5エコシステム | 06/18/2024

F5がAI推論を内側からスケール

GPUリソースを遊休状態にせず、推論処理を効率よく実行できる適切なハードウェアを活用して、スケーラブルでセキュアなAIコンピューティング基盤を構築しましょう。

著者:Lori Mac Vittie
AI推論がデータセンターアーキテクチャに与える影響
F5エコシステム | 06/13/2024

AI推論がデータセンターアーキテクチャに与える影響

AIのライフサイクル全体を支えるには、組織はアーキテクチャ、特にネットワークを大幅に更新する必要があります。更新しなければ、拡張性が確保できず、運用の信頼性が低下する可能性があります。

著者:Lori Mac Vittie
AI推論パターン
F5エコシステム | 06/11/2024

AI推論パターン

AI推論サービスにより、開発者はAIを利用できるようになります。利用形態は多岐にわたり、主なパターンとしてSaaS、クラウドマネージド、セルフマネージドがあります。それぞれ、スケーラビリティ、コスト、データ管理の面で異なるトレードオフがあります。

著者:Chris Hain
F5、Intel、DellでAI推論のシンプル化、セキュリティ、パフォーマンスを実現
F5エコシステム | 05/21/2024

F5、Intel、DellでAI推論のシンプル化、セキュリティ、パフォーマンスを実現

F5、Intel、Dellが、セキュリティの強化、導入の簡素化、パフォーマンスの向上により、データセンター、クラウド、エッジ全体でAI推論をどのように改善するかをご紹介します。

著者:Kunal Anand
F5とIntelでAIモデルを展開、保護、最適化し、インテリジェントアプリを実現
F5エコシステム | 05/06/2024

F5とIntelでAIモデルを展開、保護、最適化し、インテリジェントアプリを実現

NGINX PlusとOpenVINOを組み合わせることで、場所を問わず、セキュアかつ一貫した方法でアプリにAIを導入しやすくなります。

著者:Sanjay Shitole
全7件中1~7件を表示