AI モデレーション（ノードエディター）
AI モデレーションとは
Section titled “AI モデレーションとは”AI モデレーション（ノードエディター版）は、メッセージの自動判定パイプラインをビジュアルなノードエディターで構築できる次世代機能です。
ノードと呼ばれる処理ブロックをつなぎ合わせることで、「まず機械的なチェックを行い、疑わしければ AI で判定し、違反なら削除する」といった複雑なフローを、コードなしで設計できます。
ダッシュボードの「AI モデレーション」を開き、モードで次世代を選択するとエディターにアクセスできます。
パイプラインの基本
Section titled “パイプラインの基本”パイプラインは上から下へ流れる縦型フローです。MessageReceived ノードから始まり、各ノードが次のノードへメッセージを渡します。
- bool 分岐 — 条件が一致したかどうかで
一致 / 不一致の 2 方向に分かれます。 - str 分岐 — AI の判定結果（
safe / gray / violation / elseなど）に応じて複数の方向に分かれます。 - 線形（linear） — 分岐なしで次のノードへそのまま進みます。
ParallelStart と ParallelEnd を組み合わせると、複数のチェックを同時に走らせることができます。並列ブランチはすべて完了してから ParallelEnd 以降の処理に進みます。
ノードの種類
Section titled “ノードの種類”ノードはカテゴリ別に色分けされています。
| ノード | CC | 説明 |
|---|---|---|
| MessageReceived | 0 | パイプラインの開始点。メッセージが届くたびにここから処理が始まります。 |
ユーティリティ（紫）
Section titled “ユーティリティ（紫）”| ノード | CC | 説明 |
|---|---|---|
| Rule | 0 | モデレーションルールを定義するブロック。ルールのグループ化に使用します。 |
| Condition | 0 | チャンネル・カテゴリ・ユーザー・ロール・アカウント作成日などの条件で分岐します（bool 分岐）。 |
| TimeWindowCondition | 0 | 指定した時間帯かどうかで分岐します（bool 分岐）。夜間モードなどに利用できます。 |
| ParallelStart | 0 | 並列処理を開始します。複数のブランチを同時に実行します。 |
| ParallelEnd | 0 | 並列処理を終了し、すべてのブランチが完了するまで待機します。 |
| SummaryReport | 1 | AI がパイプラインの判定結果を要約してログチャンネルに報告します。レポート形式は Normal / Minimum / Debug から選択できます。 |
| HistorySummarizer | 0 | 対象ユーザーの過去のメッセージ履歴を要約し、後続の AI ノードに文脈情報として渡します。 |
| ReviewQueue | 0 | メッセージをレビューキューに送り、管理者が手動で判断できるようにします。 |
メカニカル（緑）
Section titled “メカニカル（緑）”AI を使わない高速・無料のチェックです。処理コストが低いため、AI ノードの前段に配置するのが効果的です。
| ノード | CC | 説明 |
|---|---|---|
| AntiRaid | 0 | 短時間に多数のメッセージが届いた際にレイド（荒らし）として検知します（bool 分岐）。検知速度の閾値やボット検知の有無を設定できます。 |
| RegexBlock | 0 | 招待リンク・詐欺リンク・カスタム正規表現パターンへのマッチで分岐します（bool 分岐）。 |
| TextFilter | 0 | メンション数の上限など、テキストの構造的な問題を検知します（bool 分岐）。 |
| ThreatDb | 0 | 既知の脅威データベースと照合し、不審なコンテンツを検知します（bool 分岐）。 |
AI によるコンテンツ判定ノードです。使用するとクレジットを消費します。
| ノード | CC | 分岐 | 説明 |
|---|---|---|---|
| Screen | 1 | safe / gray / violation / else | 軽量な AI スクリーニング。感度を low / medium / high から選択できます。 |
| LiteLlm | 2 | safe / gray / violation / else | 標準的な LLM によるコンテンツ判定。Screen より精度が高いです。 |
| DetailLlm | 5 | 一致 / 不一致 | 詳細な文脈分析を行う高精度 LLM（bool 分岐）。 |
| Confidence | 2 | 一致 / 不一致 | 直前の AI 判定の確信度がしきい値（0〜1）を超えているかで分岐します（bool 分岐）。 |
| AdvancedLlm | 5 | 一致 / 不一致 | 最高精度の AI 判定。複雑なケースや曖昧な表現の解析に使用します（bool 分岐）。 |
アクション（赤）
Section titled “アクション（赤）”メッセージや対象ユーザーに対して実際に処置を行うノードです。クレジットを消費しません。
| ノード | CC | 説明 |
|---|---|---|
| ActionPolicy | 0 | 禁止するアクション（例: 24時間タイムアウト、メッセージ削除など）をポリシーとして定義します。ExecuteAction が参照します。 |
| ExecuteAction | 0 | ActionPolicy で定義したアクションを実行します。 |
| MessageDelete | 0 | 対象メッセージを削除します。 |
| Timeout | 0 | 対象ユーザーをタイムアウトします。期間を 1h などのフォーマットで指定します。 |
| Kick | 0 | 対象ユーザーをサーバーからキックします。 |
| Ban | 0 | 対象ユーザーをサーバーから BAN します。期間・メッセージ削除範囲を設定できます。 |
| Warn | 0 | 対象ユーザーに警告を送ります。 |
| MessageSend | 0 | 指定した内容のメッセージをチャンネルに送信します。 |
クレジットについて
Section titled “クレジットについて”パイプラインが実行されると、通過したノードの CC（クレジットコスト）が合算されて消費されます。
| CC | 種別 | 該当ノード |
|---|---|---|
| 0 CC | 無料 | メカニカル系、アクション系、ユーティリティ系（SummaryReport 除く） |
| 1 CC | 軽量 AI | Screen、SummaryReport |
| 2 CC | 標準 AI | LiteLlm、Confidence |
| 5 CC | 高精度 AI | DetailLlm、AdvancedLlm |
基本的な使い方
Section titled “基本的な使い方”1. エディターを開く
Section titled “1. エディターを開く”ダッシュボードの「AI モデレーション」を開き、モードで次世代を選択します。
2. テンプレートまたはゼロから開始
Section titled “2. テンプレートまたはゼロから開始”「テンプレートから開始」を選ぶと、一般的なパイプライン構成があらかじめ配置された状態から始められます。ゼロから構築する場合は空のキャンバスからスタートします。
3. ノードを追加する
Section titled “3. ノードを追加する”エディター左側のパレットからノードをキャンバスへドラッグ、またはクリックして追加します。
4. ノードを接続する
Section titled “4. ノードを接続する”ノードの下部にある出力ハンドルから別のノードの入力ハンドルへドラッグして接続します。分岐ノードの場合は 一致 / 不一致 や safe / violation など、ルートごとに接続先を設定します。
5. パラメーターを設定する
Section titled “5. パラメーターを設定する”ノードをクリックすると右側にパラメーターパネルが開きます。各ノードに応じた設定（感度・しきい値・対象ユーザーなど）を入力します。
6. テスト実行
Section titled “6. テスト実行”エディター上部の「テスト」ボタンからサンプルメッセージを使って動作を確認できます。各ノードの通過状況と判定結果が視覚的に表示されます。
「保存」ボタンをクリックしてパイプラインを確定します。保存後は新着メッセージに対してリアルタイムで動作します。