AI モデレーション（レガシー版）
AI モデレーションとは
Section titled “AI モデレーションとは”AI モデレーションは、メッセージの内容そのものを AI が読み取り、性的・暴力的・差別的といった不適切な投稿を自動で見つけ出す機能です。
AutoMod が「短時間に連投した」「招待リンクを貼った」といった 行動 をもとに判断するのに対し、AI モデレーションは 書かれている内容の意味 をもとに判断します。両方を同時に使うこともできます。
3 つのモード
Section titled “3 つのモード”ダッシュボードの「AI モデレーション」ページから、次の 3 つのモードを選択できます。
- なし — AI による監視を行いません。
- レガシー版 — AI が内容を判定し、自動で通知・削除します。無料でご利用いただけます。
- 次世代 — 文脈まで理解する高度な AI モデレーション（現在準備中）。
このページでは、現在ご利用いただける レガシー版 について説明します。
何を検知できる？
Section titled “何を検知できる？”メッセージやスレッド名に含まれる、以下のような内容を検知します。画像（添付ファイル）も判定の対象です。
- 性的な内容 / 未成年に関する性的な内容
- 嫌がらせ・脅迫
- 憎悪・差別的な発言
- 暴力的・グロテスクな内容
- 自傷行為に関する内容
- 不正・違法な行為
検知の対象になるのは、新しいメッセージ・編集されたメッセージ・新しく作成されたスレッドです。
2 つのしきい値
Section titled “2 つのしきい値”レガシー版では、検知の感度を「しきい値」で調整します。値が低いほど敏感に反応します。
- 通知しきい値 — この値を超えた疑わしいメッセージを、ログチャンネルに報告します。
- 削除しきい値 — この値を超えたメッセージを、自動的に削除します（通知しきい値以上に設定することを推奨します）。
「まずは通知だけして様子を見たい」という場合は、削除しきい値を高め（または最大）に設定しておくと、自動削除されずに報告だけが届きます。
ログと手動対応
Section titled “ログと手動対応”不適切な内容が検知されると、指定したログチャンネルへ報告が送信されます。報告には次のボタンが付いており、モデレーターがその場で対応できます。
- メッセージ削除 — 対象のメッセージを削除します（自動削除済みの場合は無効）。
- 警告を送信 — 理由を入力して、対象ユーザーへ警告の DM を送ります。
除外設定（バイパス）
Section titled “除外設定（バイパス）”特定の相手や場所を監視の対象から外せます。
- チャンネル — 指定したチャンネルでは検知を行いません。
- ロール — 指定したロールを持つメンバーは対象外になります。
- キーワード — 指定した文字列を含むメッセージは対象外になります。
このほか、モデレーション全体で設定した 信頼ロール（Trusted） や免除対象のメンバーも、自動的に対象外となります。
- ダッシュボードの AI モデレーション を開きます。
- モードで レガシー版 を選択します。
- ログチャンネル・通知しきい値・削除しきい値・バイパス（チャンネル / ロール / キーワード）を設定します。
- 保存します。