ニューヨーク — オブザーバビリティとセキュリティの統合プラットフォームを提供するDatadog(
https://www.datadoghq.com/ja/
),Inc. (NASDAQ: DDOG)は本日、AIアプリケーション開発者や機械学習（ML）エンジニアが大規模言語モデル（LLM）アプリケーションを効率的に監視、改善、保護できるLLM Observabilityの一般提供を発表しました。LLM Observabilityを利用することで、企業は生成AIアプリケーションの本番環境への展開を加速し、確実に拡張することができます。
あらゆる業界の組織が、費用対効果の高い方法で生成AI機能をリリースしようと競い合っていますが、実際に実装し本番稼動させるには、LLMチェーンの複雑さ、予測不可能性、セキュリティリスクなどいくつかの課題があります。
Datadog LLM Observabilityは、お客様がこれらの課題を克服し、自信を持って生成AIアプリケーションを展開・監視できるよう支援します。この新製品は、LLMチェーンの各ステップを可視化し、エラーや予期せぬレスポンスの根本原因を容易に特定します。また、ユーザーは、遅延やトークン使用量などの運用指標を監視して、パフォーマンスとコストを最適化します。さらに、トピックの関連性や有害性など、AIアプリケーションの品質を評価し、すぐに利用可能な品質と安全性の評価により、セキュリティとプライバシーのリスクを軽減するためのインサイトを得ることができます。
従来のツールやポイントソリューションとは異なり、Datadog LLM Observabilityは、プロンプトとレスポンスのクラスタリング、Datadogアプリケーションパフォーマンスモニタリング（APM）とのシームレスな統合、すぐに利用可能な評価と機密データのスキャン機能を提供し、生成AIアプリケーションのパフォーマンス、精度、セキュリティを強化すると同時に、データのプライベート性と安全性の維持を支援します。
Datadogの製品担当バイスプレジデントであるYrieix Garnierは次のように述べています。「LLMベースの新技術の採用が急がれていますが、あらゆる規模や業種の組織が、費用対効果が高く、エンドユーザーエクスペリエンスに悪影響を与えない方法で採用するのは難しいと感じています。Datadog LLM Observabilityは、チームのパフォーマンスの管理や理解、ドリフトやバイアスを検出し、ビジネスまたはエンドユーザーエクスペリエンスに重大な影響を与える前に問題を解決するための必要な優れた可視化機能を提供します。」
LLM Observabilityは以下の機能により組織を支援します。
-
推測品質の評価：
LLMアプリケーションの会話の品質と有効性（回答の失敗など）を可視化し、アプリのドリフトとエンドユーザーの全体的なエクスペリエンスを監視します。 -
根本原因の特定：
各ユーザーリクエストのエンドツーエンドのトレースを完全に可視化することで、LLMチェーンにおけるエラーや障害の根本原因を迅速に突き止めます。 -
コストとパフォーマンスの改善：
OpenAI、Azure OpenAI、Amazon Bedrock、Vertex AIなど、すべての主要プラットフォームにわたるアプリケーションの主な運用メトリクスを統一ダッシュボードで効率的に監視し、パフォーマンスとコストの最適化を実現します。 -
セキュリティ脅威からの保護：
Datadog Sensitive Data Scanner (
https://www.datadoghq.com/ja/product/sensitive-data-scanner/
) による内蔵のセキュリティおよびプライバシー・スキャナを使用して、アプリケーションを迅速なハッキングから保護し、個人情報、電子メール、IPアドレスなどの機密データの漏えいを防止します。
Datadog LLM Observabilityは一般提供が開始されています。
詳細については、こちらをご覧ください:
http://datadoghq.com/product/llm-observability
Datadogについて
Datadogは、クラウドアプリケーション向けのオブザーバビリティおよびセキュリティの統合プラットフォームを提供しています。Datadogの SaaSプラットフォームは、インフラストラクチャーのモニタリング、アプリケーションパフォーマンスモニタリング、ログ管理、リアルユーザーモニタリング、その他多くの機能を統合および自動化し、お客様のテクノロジースタック全体に統合されたリアルタイムのオブザーバビリティとセキュリティを提供します。Datadogは、あらゆる規模の企業、幅広い業界で使用され、デジタルトランスフォーメーションとクラウド移行を可能にし、開発、運用、セキュリティ、ビジネスチーム間のコラボレーションを促進し、アプリケーションの市場投入までの時間と問題解決までの時間を短縮し、ユーザーの行動を理解し、主要なビジネス指標をトラッキングします。
将来の見通しに関する記述
本プレスリリースには、新製品および新機能の利点に関する記述を含め、米国1933年証券法（Securities Act of 1933）第27A条および米国1934年証券取引所法（Securities Exchange Act of 1934）第21E条に規定される「将来予想に関する記述」が含まれています。これらの将来予想に関する記述は、当社の製品および機能の強化、またそれらによってもたらされる利益に関する記述が含まれますが、これらに限定するものではありません。実際の結果は、将来見通しに関する記述とは大きく異なる可能性があり、「リスクファクター」の見出しの下に詳述されているリスクをはじめ、2024年3月31日に米国証券取引委員会に提出したForm 10-Qの四半期報告書を含む米国証券取引委員会への提出書類および報告書、ならびに当社による今後の提出書類および報告書に記載されている、当社が制御できない様々な仮定、不確実性、リスクおよび要因の影響を受けます。法律で義務付けられている場合を除き、当社は、新しい情報、将来の事象、期待の変化などに応じて、本リリースに含まれる将来の見通しに関する記述を更新する義務または責務を負いません。