Dify 三昧:【ベータリリース速報】Dify 2.0.0-beta.1 リリース:Knowledge PipelineとQueue-based Graph Engineを導入

はじめに

こんにちは、ディーネットのよろず請負人、深見です。

先週末、AIアプリケーション開発プラットフォーム「Dify」の大型のアップデートとなる 2.0.0-beta.1 がリリースされました。まだベータ版のリリースですので、2.0.0 の正式リリースまでには時間がかかると思われますが、今回のベータ版では非常に興味深い新機能が数多く導入されています。

本記事では、Dify 2.0.0-beta.1 で新たに追加された主要機能について、リリースノートの内容を基に詳しくご紹介します。

Dify 2.0.0-beta.1 リリース概要

Dify 2.0.0-beta.1 は、AIアプリケーション開発における二つの根本的な課題を解決するため、「Knowledge Pipeline(知識パイプライン)」と「Queue-based Graph Engine(キューベースのグラフエンジン)」という画期的な新機能を導入したプレリリース版です。

これらの機能は、従来のDifyでは困難だった複雑なドキュメント処理とワークフロー管理を大幅に改善し、AIアプリケーションの構築とデバッグをより直感的で効率的に行えるよう設計されています。

dify-015-001

Introduction(導入背景)

Dify 2.0.0 では、企業レベルのAIアプリケーション開発において重要な二つの領域に焦点を当てています。

一つ目は、知識の取り込みと処理です。新しい「Knowledge Pipeline」により、モジュール化され拡張可能なワークフローを通じて、多様なデータソースから効率的に知識を抽出・処理できるようになります。

二つ目は、ワークフロー実行の信頼性と制御性です。「Queue-based Graph Engine」の導入により、特に並列処理を含む複雑なワークフローでも、より堅牢で予測可能な実行が可能になります。

このベータリリースは、ユーザーからのフィードバックを積極的に収集し、正式版に向けて継続的な改善を図ることを目的とされています。

Knowledge Pipeline(知識パイプライン)

概要

Knowledge Pipelineは、従来のドキュメント処理方法を根本から見直し、新たに設計されたオーケストレーションインターフェースです。この革新的な機能により、ユーザーはドキュメント処理のあらゆる段階を細かく制御できるようになり、以下のような従来の課題を解決します:

  • データ統合時の制限
  • 情報処理過程での情報損失
  • 不正確な知識検索結果

マーケットプレイスで提供される豊富なプラグインエコシステムにより、多様なデータソースや処理ツールを柔軟に組み合わせることが可能となります。これにより、企業の高度な要求に応える、カスタマイズ性・拡張性・精度を兼ね備えたドメイン特化型RAGソリューションの構築が実現します。

主な機能

視覚的なオーケストレーション

ノードベースの直感的なインターフェースにより、複雑なドキュメント処理フローを視覚的に構築・管理できます。各処理ステップは個別のノードとして表現され、処理の流れを一目で把握し、必要に応じて調整することが可能です。

テンプレートとパイプラインDSL

  • 公式テンプレート: よく使われる処理パターンを基にした既製テンプレートから、素早くパイプラインの構築を開始
  • DSL(ドメイン固有言語)サポート: カスタムパイプラインをコードとして定義し、チーム間での共有や再利用が容易に

カスタマイズ可能なデータソースとツール

プラグインベースのアーキテクチャにより、以下のような多様なデータソースに対応:

  • ローカルファイル
  • オンラインドキュメント
  • クラウドドライブサービス
  • Webクローラー
  • 数式処理、スプレッドシート解析、画像解析などの特殊用途

新しいチャンキング戦略

従来の「General(一般的)」「Parent-Child(親子関係)」モードに加え、新たにQ&Aプロセッサープラグインを導入。Q&A構造に特化した処理により、検索精度と文脈の完全性のバランスを保ちながら、より幅広いユースケースに対応します。

画像抽出と検索

ドキュメントから画像を自動抽出し、知識ベースにURL形式で保存する機能を追加。これにより、LLMが生成する回答において、テキストと画像を組み合わせたリッチな出力が可能となり、回答の質と理解しやすさが大幅に向上します。

テスト実行とデバッグサポート

パイプラインの本格運用前に、安全な環境でテストとデバッグが可能:

  • 単一ステップの個別実行
  • 中間変数の詳細検査
  • Markdown形式でのリアルタイムプレビュー
  • 処理結果の段階的確認

既存知識ベースからのワンクリック移行

既存のDifyプロジェクトで構築された知識ベースを、新しいKnowledge Pipelineアーキテクチャへシームレスに移行する機能を提供。データを失うことなく、新機能の恩恵を受けることができます。

Queue-based Graph Engine(キューベースのグラフエンジン)

概要

従来のワークフローエンジンが抱えていた以下の課題を解決するため、完全に再設計されたエンジンです:

  • 並列ブランチを持つワークフローの管理の複雑さ
  • デバッグ時の情報不足
  • 柔軟性に欠ける実行ロジック

キューベースのタスクスケジューリングを核とした新しいアーキテクチャにより、並列タスクの管理と制御を大幅に改善しています。

主な機能

キュー・スケジューリング・モデル

すべてのワークフロータスクが統一されたキューシステムで管理されます。スケジューラーが各タスクの依存関係と実行順序を自動的に管理することで:

  • 並列実行時のエラーやデッドロックを大幅に削減
  • ワークフロートポロジーの理解と管理がより直感的に
  • リソース効率の向上

柔軟な実行開始点

ワークフローのどのノードからでも実行を開始できる柔軟性を提供:

  • 部分的な実行によるテストとデバッグの効率化
  • 実行中断からの再開
  • サブグラフの独立した呼び出し
  • 開発とデバッグの生産性向上

ストリーム処理コンポーネント

新しいResponseCoordinatorにより、リアルタイムのストリーミング出力を効率的に処理:

  • LLMのトークンごとのリアルタイム生成
  • 長時間実行タスクの中間結果の逐次配信
  • 複数ノードからの並列ストリーミング出力の統合管理

コマンドメカニズム

CommandProcessorの導入により、実行中のワークフローを動的に制御:

  • ワークフローの一時停止と再開(将来のバージョンで対応予定)
  • 緊急時の実行終了
  • 外部システムからのリアルタイム制御
  • プログラマティックなワークフロー管理

GraphEngineLayer

プラグインアーキテクチャの新しいレイヤーとしてGraphEngineLayerを導入:

  • コアエンジンを変更せずに機能拡張が可能
  • カスタム状態監視機能の追加
  • 独自コマンドの実装
  • サードパーティツールとの統合強化

その他の改善点と今後の計画

Future Plans(今後の開発予定)

今回のベータリリースは、Dify 2.0の最終形態に向けた重要なマイルストーンです。正式版リリースに向けて、以下の機能追加と改善が予定されています:

デバッグツールの強化

  • 実行状態のリアルタイム可視化インターフェース
  • 変数値の動的監視機能
  • インタラクティブなデバッグ環境

インテリジェントなスケジューリング

  • 過去の実行履歴データを活用した最適化
  • 機械学習による実行パフォーマンスの予測と改善
  • 動的リソース配分

より完全なコマンドサポート

  • ブレークポイントを使用したステップ実行
  • 条件付き一時停止機能
  • 詳細な実行ログとトレース機能

ヒューマン・イン・ザ・ループ

  • 実行途中での人間による判断と介入
  • 承認フローの組み込み
  • インタラクティブな意思決定ポイント

サブグラフ機能

  • ワークフローのモジュール化促進
  • 再利用可能なコンポーネントライブラリ
  • 複雑なワークフローの階層化管理

マルチモーダルな埋め込み

  • テキスト以外のリッチコンテンツタイプへの対応拡大
  • 音声、動画、3Dモデルなどの処理サポート
  • 統合的なマルチメディア検索機能

Upgrade Guide(アップグレードガイド)

Dify 2.0.0-beta.1へのアップグレードには、データベースの互換性確保のため、マイグレーション(データ移行)処理が必要です。

既存のデータソース資格情報や設定を新しいアーキテクチャに適合させるため、以下のデプロイメント方法それぞれに対応したマイグレーション手順が公式から提供されています:

  • Docker Composeを使用したデプロイメント
  • ソースコードからのデプロイメント

詳細な手順については、公式リリースノートのアップグレードガイドセクションをご確認ください。

Quickstart(クイックスタート)

前提条件

Dify バージョン 2.0.0-beta.1 以上が必要です。

有効化方法

新機能はデフォルトで有効化されており、追加の設定作業は不要です。

デバッグ設定

開発・デバッグ時には、環境変数 DEBUG=true を設定することでDebugLoggingLayerが有効になり、詳細なログ出力を確認できます。

実行制限設定

ワークフローの安全な実行のため、以下のデフォルト制限が設定されています:

  • WORKFLOW_MAX_EXECUTION_STEPS=500 (最大実行ステップ数)
  • WORKFLOW_MAX_EXECUTION_TIME=1200 (最大実行時間:秒)
  • WORKFLOW_CALL_MAX_DEPTH=10 (最大呼び出し深度)

ワーカー設定(オプション)

パフォーマンス調整が必要な場合は、以下の設定をカスタマイズできます:

  • WORKFLOW_MIN_WORKERS=1 (最小ワーカー数)
  • WORKFLOW_MAX_WORKERS=10 (最大ワーカー数)
  • WORKFLOW_SCALE_UP_THRESHOLD=3 (スケールアップ閾値)
  • WORKFLOW_SCALE_DOWN_IDLE_TIME=30 (スケールダウン待機時間:秒)

これらの設定はシステム内のすべてのワークフローに適用されます。

参考リンク: GitHub リリースページ

おわりに

Dify 2.0.0-beta.1は、AIアプリケーション開発プラットフォームとしてのDifyを大きく進歩させる重要なリリースです。Knowledge PipelineとQueue-based Graph Engineの導入により、従来では困難だった複雑なドキュメント処理と並列ワークフロー管理が格段に改善されました。

特に企業レベルでのRAGアプリケーション開発においては、これらの新機能により開発効率と運用信頼性の両面で大きなメリットを享受できるでしょう。ベータ版ということで、まだ改善の余地はありますが、正式版リリースに向けてさらなる機能追加と安定化が期待されます。

AIアプリケーション開発にDifyを活用されている方は、ぜひこのベータ版をテスト環境で試してみて、新機能の可能性を体感していただければと思います。

※本記事の内容は、Dify 2.0.0-beta.1 のリリース情報によるものです。正式版のリリース時には変更が入る可能性があります。

※Dify 2.0.0-beta.1 とのことですので、ご利用されっる場合は、個別に環境を設けるようにして、既存バージョンの環境とは別にするようにしてください。

返信を残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です

CAPTCHA