ブログ

スマートでも安全とは限らない: 私のサンゴ礁水槽がAIと自動化、回路ブレーカーについて教えてくれたこと

ロリ・マクヴィッティ サムネイル
ロリ・マクヴィッティ
2025年8月5日 発表

AI と自動化の時代において、アプリケーション デリバリは欠かせません。 自律システムが誤動作したとき、ロードバランサー、API ゲートウェイ、サービス メッシュが最後の防衛線として機能するため、絶対に必要です。

今週の初めにコントローラーを紛失してしまいました。

正確には、セカンダリシステム用のApexコントローラーを失いました。 これは換水時にメインシステムへ新鮮な海水を送る2台のポンプを含むリーフタンクのインフラストラクチャの一部を管理する自動化の頭脳です。

これらのポンプは、システムが沈黙した際に備え、フォールバック値をONに設定して安全確保しています。 コントローラーが故障すると、ポンプは自動的に作動し続けました。 制御されず。 連携せず。 監視もされずに。

結果は? メインタンクがほとんど溢れそうになり、ロリは必死にそれを抑えようとしました。 境界のない自動化は決して賢明ではないという教訓です。 それはリスクを伴います。

この注意点は、特にAIが主導権を握り始める現代のITアーキテクチャの構築方法に深く関係しています。

自動化の安全性は、故障時の挙動次第です

タンクで起きたことはバグやハードウェアの故障が原因ではありませんでした。 ポンプは指示どおりに正確に動きました。 問題は、コントローラーが故障してもポンプが止まらなかったことです。 サーキットブレーカーが装備されていませんでした。 外部の監視装置もありませんでした。 賢いフォールバック戦略も用意されていませんでした。

まさにこうした問題が、AIが導くITシステムで起こりうるのです。

AI生成のポリシー更新がライブのインフラストラクチャに即座に適用される様子を想像してみてください。 たとえば、静かに故障しつつあるモデルに基づくリアルタイムのトラフィックスティアリングの判断もあります。 あるいは、コントローラーが明確に「停止」を指示しないために、変更を押し続ける導入パイプラインも存在します。

そんな時、沈黙は同意を示すわけではありません。 むしろ、それは危険を示しています。

サーキットブレーカーとして機能するロードバランサの役割

多くの企業のアーキテクチャでは、ロードバランサーやAPIゲートウェイ、サービスメッシュをサーキットブレーカーとして活用しています。 これらはシステムの状態を監視し、遅延を検出し、再試行のロジックを適用し、不調なシステムを切り離して、他のすべてに影響を与えるのを防ぎます。

それは単なる運用上の基本ではなく、障害を抑え込んで自律システムへの信頼を守る方法です。

コントロール プレーンがダウンした場合、ロード バランサの役割はトラフィックを停止することであり、すべてが正常であると想定することではありません。

フェイルオン」が適切な場合もあります

もちろん、障害時にすべてのシステムが停止すべきではありません。 私のリーフタンクでは、ディスプレイタンクの循環ポンプも自動化していますが、意図的に「動作し続ける」よう構成しています。

流れが止まると酸素が不足し、魚は死んでしまいます。

重要なのはこのニュアンスです。 DNSやID、基本的なテレメトリなど、一部のシステムは常に稼働し続ける必要があります。 では、ポリシー生成や段階的な展開といったプロセスの自動化はどうでしょうか? コントローラーが消えた場合は、それらを必ず停止させる必要があります。

AIエージェントが本当の問題を起こすのは、間違っていることに気づけない点です。 だからこそ、それらを支えるアーキテクチャが確実でなければなりません。

AIの活用が広がるとともに、境界線の設定がますます重要になっています

2025 F5 Application 戦略レポートの結果は、多くの現場で既に見られていることを改めて示しています: AIはもはや提案段階を超え、実際の行動へと進んでいます。

  • 回答者の77%が、ポリシーや構成の調整に役立つAIによる提案の生成を求めています。
  • 45%の方が、SLOを達成するためにAIがポリシーをリアルタイムで自動的に調整してくれることを求めています。
  • 55% がAIにスクリプトを実行して新しい構成やポリシーを展開し、既存のものを調整することを求めています。

私たちに重要なことを示しています。自律型デジタルエージェントの時代に入り、組織は引き下がるどころか前進しています。 組織は加速させています。

人間のチェックなしで構成を作成や修正できるAIですか? それは、管理せずにポンプを動かし続けるようなものです。 いずれ必ず、浸水や故障が起きてしまいます。

結論: 適切なタイミングで停止できるシステムを設計しましょう

AIは必須です。 サーキットブレーカーも必要です。

より多くのインテリジェント エージェントをトラフィック フローや構成エンジン、ポリシー決定に導入する際は、基盤となるネットワーク インフラストラクチャに自動で明確な制限を設定しておく必要があります。

ロードバランサー。 ゲートウェイ。 ヘルスチェック。 リトライロジック。 これらは単なるパターンではなく、安全な自律運用のための安全装置です。 それが、Application Delivery Top 10の開発を推進した大きな理由の一つであり、デジタル資産の運用とセキュリティにおけるアプリケーション配信の重要性に注目を集めています。 なぜなら、自動化が手動操作を超えてデジタルビジネスの制御役割を担うにつれ、ますます重要になるからです。 

規律なき自動化は強靭さにはなりません。

cron ジョブは予測できない混乱をもたらします。