Langfuse - オープンソースLLMOpsプラットフォーム - 日本語概要
注：Langfuseは、日本のユーザーとお客様に感謝し、母国語でLangfuseをわかりやすく紹介したいと考えています。 その他のLangfuse のウェブサイトリソースはすべて英語のみで提供されていますが、Google Chromeの内蔵トランスレーターなどのツールを使用することで、他の言語でもご利用いただけます。
🇯🇵 🤝 🪢
Langfuse ユーザーのコミュニティが日本で大きく成長していることを嬉しく思います。皆様のサポートとフィードバックは私たちにとってかけがえのないものです。皆様からのご連絡をお待ちしております。いつでもお気軽にご連絡ください。
Langfuseをご利用いただき、私たちの製品とコミュニティをご支援いただき、ありがとうございます。
Langfuse とは？
Langfuseは、大規模言語モデル（LLM）を利用したアプリケーションのために特別に設計された、オープンソースの観測・分析プラットフォームです。私たちは、開発者や組織がLLMアプリケーションの構築や改善を支援することを目的としており、高度なトレース＆分析モジュールを通じて、モデルのコスト、品質、レイテンシに関する深い洞察を提供します。
公開デモのトレース例を見る
Langfuseを選ぶ理由
Langfuseは、市場で最も人気のあるオープンソースのLLMOpsツールであり、最新のフレームワークとの統合を構築・維持する大規模なコミュニティを持っています。
Langfuseはセルフホストが簡単で、数分でセットアップが完了します。これは、規制業界の企業顧客にとっても特に興味深いものです。
Langfuseはクラス最高のトレースを提供し、お客様の製品開発と改良を支援します。
注：Langfuseを選ぶべき理由については、こちらをお読みください。
主な特徴
Langfuse は、生成AIプロダクトの全サイクルをサポートする一連の機能を提供します：開発からテスト、大規模なモニタリングやデバッグまで、お客様の生成AIプロダクトの全サイクルをサポートします。
モニタリング
- トレース：外部APIやツールの呼び出し、コンテキスト、プロンプトなど、製品の完全なコンテキストをキャプチャします。
- リアルタイム・メトリクス：応答時間、エラー率、スループットなどの主要なパフォーマンス指標を監視します。
- フィードバック：アプリケーションのパフォーマンスとユーザーエクスペリエンスを向上させるために、ユーザーからのフィードバックを収集します。
アナリティクス
- 評価：LLM-as-a-judgeによる評価、または人的なアノテーションワークフローを設定することにより、異なるモデル、プロンプト、構成のパフォーマンスを比較を可能にします。
- テスト：テストとプロンプト管理を通じて、最も効果的なソリューションを決定するために、アプリの異なるバージョン（A/B）で実験します。
- ユーザーの行動：ユーザーフィードバックにより、AIアプリケーションをどのように操作するかを理解します。
デバッグ
- 詳細なデバッグログ：トラブルシューティングのために、すべてのアプリケーション・アクティビティの包括的なログにアクセスできます。
- エラートラッキング：アプリケーション内のエラーや異常を検出し、追跡します。
統合
- フレームワークのサポート：LangChain、LlamaIndex、AWS Bedrockなど の一般的なLLMフレームワークと統合。
- ツールのサポート：DifyやLangflowのようなノーコードビルダーと統合できます。
- API：カスタム統合やワークフロー自動化のためのオープンで強力なAPIをご利用ください。
Langfuseを使い始める
Langfuseのご利用は簡単です：
サインアップ
Langfuse Cloud にアクセスして無料アカウントを作成するか、数分でLangfuseをセルフホストしてください。新しいプロジェクトを作成し、Langfuse APIキーを取得してデータの取り込みを開始します。
ドキュメンテーションを調べる
OpenAIやLangchainなどのネイティブインテグレーションとLangfuseのセットアップガイド、またはAPIやローレベルSDKを使用して任意のモデルをトレースするためのガイドについては、当社のドキュメントにアクセスしてください。
アプリケーションと統合する：
LangfuseはインテグレーションやSDKを通して統合できます。LangfuseはDifyやLangflowのようなノーコードLLMビルダーとも統合できます。
モニタリングを開始する：
データの収集、パフォーマンスの監視を開始し、貴重な洞察を得ましょう。Langfuseはアプリケーションの動作をトレースとして表示します。Langfuseのダッシュボードでは、モデルコスト、評価スコア、ユーザフィードバックなどの概要を見ることができます。
日本語の外部リソース：
- 書籍:俺たちと探究するLLMアプリケーションのオブザーバビリティ
- Blog記事: 生成AIアプリの出力をRagasで評価して、LangfuseでGUI監視しよう！
- Blog記事: Google CloudでLLMアプリ監視ツールLangfuseをセルフホスティングする方法
リソースを追加したい場合は、プルリクエストを上げてください。
カスタマーサポート
私たちは、お客様のご希望の言語でサポートを提供することの重要性を理解しています。しかしながら、私たちは小さなチームですので、英語でのサポートしか提供することができません。
- ウェブサイトチャット： ウェブサイト上でチャットができます。
- GitHub : github.com/langfuse/discussions - GitHubの公開ディスカッションボード（英語）で質問してください。
- Eメール : support@langfuse.com までご連絡ください。
- 企業向けサポート： ガオ株式会社(GAO,inc.)を通じて、Langfuse Enterpriseプランを日本円で購入し、日本語でサポートを受けることが可能です。ご興味のある方は contact@gao-ai.com までご連絡ください。
Langfuseコミュニティに参加
成長し続けるグローバル・コミュニティの一員になりませんか：