悪意のあるコードから360°保護

F5 ADSP | 2024年3月13日

大規模言語モデル（LLM）は、すでに企業に多くのメリットや効率化、生産性向上をもたらしていますが、どの組織も、その導入に伴う固有の脅威を見過ごすことはできません。組織の攻撃対象領域は、システム上のツール数が増えるほど脆弱性が高まります。

隠された悪意のあるコード（レスポンスに埋め込まれ、ユーザーのデバイス、データ、ネットワークに損害を与える可能性のあるコード）は、深刻な脅威の1つであり、その深刻度は時間の経過とともに増しています。このようなコードは、機密情報の窃取、マルウェアのインストール、ユーザーのデバイスやアイデンティティの乗っ取り、サービス拒否（DoS）攻撃などを仕掛けるための第一歩として使用される可能性があります。正規のコンテンツに偽装できるため、危険性はさらに高まります。悪意のあるコードに関連するLLMの攻撃ベクトルには、次のものがあります。

モデルの脆弱性を悪用し、応答に悪意のあるコードを注入する。
正規のものに見せかけながら、悪意のあるコードを拡散するWebサイトやファイルへのリンクを含む、巧妙に作成された応答をユーザーに送信するソーシャルエンジニアリング攻撃を仕掛ける。
侵害されたAPIや、レスポンスに悪意のあるコードを挿入するサードパーティサービスを利用する。

これらのいずれのシナリオでも、組織のセキュリティ意識向上プログラムの手順を熟知している従業員でさえ、LLMとの通常の日常的なやり取りによって、組織のシステムへのマルウェアの侵入を許してしまったことを知るすべはありません。しかし、悪意のあるコードは、ネットワークやその他の非公開システムにいったん侵入すると、次のようなさまざまな形で深刻な被害をもたらす可能性があります。

データの窃取または改ざん：コードは、個人の財務情報、顧客情報、知的財産（IP）などの機密データを窃取または改ざんするよう設計される可能性があります。データが外部に持ち出されると、攻撃者は次のような行為が可能になります：
- 盗んだデータを悪用して、なりすましや金融詐欺を行ったり、市場を混乱させたりする。
- データや知的財産をダークウェブで販売する。
- インターネット上で公開し、世界中の人々が閲覧できるようにする。
- 上記のすべて。
サービスの中断：悪意のあるコードによって企業システム内で不具合が発生し、サービスが中断する可能性があります。その結果、顧客やベンダーとのやり取りの処理に遅延が生じ、意思決定の遅れ、効率の低下、ビジネス機会の損失につながり、組織に多大な経済的損失をもたらすおそれがあります。
評判の低下：LLMを介した悪意のあるコードによる攻撃が成功すると、企業の評判が損なわれ、顧客、株主、規制当局、パートナー、その他のステークホルダーからの信頼を失い、長期的な財務上の影響につながる可能性があります。

AIとサイバーセキュリティの専門家は、デジタル侵入に対する第一の防御策が、堅牢で適切に維持管理された境界防御であり、第二の防御策が、充実した従業員教育プログラムであることを理解しています。企業全体に導入することで、F5 AI Guardrailsの軽量かつモデルに依存しないトラストレイヤープラットフォームは、インストールやトレーニングに伴うダウンタイムを必要とせず、生成AI（GenAI）ソリューションを安全に利用できるようにすることで、これらの防御策の間にあるギャップを埋めます。包括的な可観測性により、セキュリティチームは複数のモデルで何が起きているかをリアルタイムで把握し、内部および外部からの攻撃を回避、防止できます。ポリシーベースのアクセス制御により、管理者はグループ単位および個人単位でモデルへのアクセスと利用を制限でき、コストの監視と管理が可能になります。レート制限により、モデルに対するDoS攻撃から保護できます。

F5 AI Guardrailsは、以下を検査するカスタマイズ可能な包括的スキャナー群により、きめ細かなレベルでも保護を提供します。