2022年1月に4万アカウント以上を悪質なコミュニケーションで停止処分、VALORANTの公式記事で明かす

VALORANTの公式サイトで不定期で連載される「システムの健全性」の「悪質なチャット（テキスト＆ボイス）」編が公開されています。

今回の記事では、悪質な発言やAFK、意図的な試合放棄など「悪質なコミュニケーション」に焦点を当てた記事となっており、その対策と結果について記載されています。以下、記事より重要箇所を箇条書きで抜粋。原文は公式記事よりご確認ください。

• 「悪質なコミュニケーション」とは、ゲーム内でのテキスト＆ボイスチャットにおける「コミュニティー行動規範」に反した好ましくないと考えられる行為。開発陣は悪質な行為に対して断固たる措置を取り開発を進めている。
• VALORANTのテキスト＆ボイスチャットを改善する特効薬は存在しないが、その取り組みと結果について、今回の記事で明記している。

これまでの取り組み

• 不適切なコミュニケーションは主に2つの方法で検出。
• 1つ目は報告システムによるプレイヤーの皆さんからのフィードバック。悪質な行為 (悪質な発言やAFK、意図的な試合放棄など) を繰り返し行っているアカウントを特定し、最初は警告し、それでも改善されなかった場合はより厳しい罰則を科し、最終的にアカウントの永久停止処分を行う。
• 開発陣が報告してもらうよう強くお願いしている理由は、「このような情報を積極的に記録し活用して、罰則を管理している」から。
• AFKについては、プレイヤーごとに「コミュニケーションレーティング」を内部的に設定し、不適切な行為を繰り返す人物に対する迅速な対応が可能に。
• ゲーム内での発言の中については、テキストであれ音声であれ、開発陣が問答無用で対処すべきと考える違反内容もある。そのような発言は、直ちに非常に厳しい対応を行う。
• 2つ目は単語のミュート機能。不適切なワードの自動検出は完璧ではなく、さん自身で不適切な言葉をフィルタリングしてもらえるようにするため。そして、動検出システムを今後開発していく際、皆さんがリストに追加してくれた言葉をシステムに取り込むため。よって、プレイヤーが「ミュートした単語」を使用していただくことは、自動検出システムの将来的な改善に繋がる。

取り組みの結果

• 2022年1月だけで、40万件以上のテキスト＆ボイスチャットをミュート。これは、悪質な言葉を検出した際に自動的にミュートされる場合と、長期間にわたって十分な数の報告が寄せられ、そのプレイヤーが悪質な行動をしていることが確認された段階でミュートされる場合がある。

• 2022年1月に4万アカウント以上を悪質なコミュニケーションで停止処分。これは、再三にわたり繰り返したアカウントに対して科せられる、アカウントの利用停止処分で、停止期間はその内容により数日から1年まで幅がある。永久停止処分は、悪質性や常習性が極めて著しいと思われる行為に対して科せられる。
• しかし、以上の数字は私たちが把握し、処分を科した違反者を示す指標であり、結果としてVALORANTでの悪質なコミュニケーションが減少したことを意味するわけでは必ずしもない。実際、アンケートを取ったところ、ハラスメントに遭遇する頻度は目に見えて減ってはいない。
• よって、これまでの取り組みは基本的なものに過ぎず、2022年からはそこへ積み上げていく作業が山ほど残っている。

今後の取り組み

• 現在のシステムにおける罰則を全体的により厳しく。これまでは誤検出を避けるために比較的穏やかなレベルで運用しつつ、データの収集を行ってきたが、検出システムの信頼性は以前より大幅に上がっているため、今後は罰則を徐々に強化。
• より迅速なリアルタイムのテキストモデレーション。現在、「断固許容できない」と考える言葉をチャットに入力すると自動的にそれを検出できるようになっているが、それに対する罰則は対戦が終了するまで科せられていない。しかし、即時に罰則を科すことが可能となる方法について模索を続けている。
• ボイスモデレーションの改善。悪質なボイスチャットの検出は、テキストチャットに比べて非常に難しく、基本的には人力による評価プロセスが必要になる。しかし、改善すべく、様々な手段をいくつも講じており、最新情報は今年の中頃にお届け。
• トルコでのテストパイロットプログラム (関連記事)。十分なポテンシャルが認められた場合、他地域でもリリースする可能性有り。

ボイスチャットに関する追加情報

• 昨年に導入した悪質な行為が報告された際にボイスチャットを記録し、検証することが可能になったシステム。現時点で地域は北米、対象言語は英語のみだが、音声の評価・分析システムのベータ版を年内にリリース予定。
• 他の地域でも運用できそうな見込みが立ち次第、グローバルに展開を検討。