Censorfy for Web Apps

良いもの

本当に感動したのは、1 回のリクエストでテキストと画像の両方を処理する速度です。ユーザーのコメントやプロフィールのプロフィールでテストしていたところ、中傷やヘイトシンボル、さらには人間の目をすり抜けてしまうコード化されたたわごとなども検出できました。分類機能も充実しており、何かが「ヘイトスピーチ」、「攻撃的な言葉」、または「画像の不正使用」としてフラグが付けられているかどうかを応答内で確認できます。これにより、手動でログを選別する必要がなくなりました。そしてカスタムガイドラインの部分は？私は、私たちのコミュニティ特有の雰囲気に合わせて、政治的な暴言や自己宣伝を禁止するというルールを設定しました。そして、実際にそれが尊重されました。以前使用していた汎用フィルターよりもはるかに優れています。

あまり良くないこと

完璧ではありません。時々過剰に反応することがあります。短くてぶっきらぼうなため、「攻撃的な口調」として「誰も気にしていない」とフラグを立てたこともあります。間違いではありませんが、迷惑です。また、Webhook はまだありません。つまり、リアルタイムのアラートを受け取る代わりに、数時間ごとに結果を手動で確認する必要があります。ライブサイトを運営している場合はちょっと面倒です。また、サブスクリプションベースであり、価格は公開されていないため、トラフィックが急増した場合にどのように拡張するかはわかりません。さらに、開発者が不明であるため、特に機密データを信頼している場合には、立ち止まってしまいます。

結論

独自のシステムを構築せずにテキストや画像に対する AI モデレーションを迅速に行う必要がある場合は、Censorfy for Web Apps を試してみる価値があります。信頼性が高く、既存のアプリに簡単にドロップできます。ただし、自動化やリアルタイムのアラートが必要な場合、または価格設定に関する透明性が必要な場合はスキップしてください。付加機能を必要としない小規模なプロジェクトの場合、これは適切な一時しのぎです。奇跡を期待しないでください。これは魔法ではなく、スマートなコードが機能しているだけです。