Mới đây, Activision đã công bố tận dụng hệ thống ToxMod trong Call of Duty, công nghệ kiểm duyệt đàm thoại áp dụng AI từ Modulate để chống các hành vi độc hại của người chơi trong các kênh đàm thoại.

Hệ thống này sẽ được áp dụng trong Modern Warfare 2, Warzone 2 và phiên bản Modern Warfare 3 sắp ra mắt.

Activision cho biết ToxMod đã bắt đầu được đưa vào thử nghiệm trên các máy chủ Bắc Mỹ, có thể “xác định trong thời gian thực và chống lại những phát ngôn độc hại, bao gồm lời nói mang tính căm thù, ngôn ngữ phân biệt đối xử, quấy rối,…”

Tuy nhiên, công cụ này sẽ không trực tiếp cấm người chơi mà thay vào đó chỉ thực hiện quan sát và báo cáo hành vi, sau đó, phía Activision sẽ là bên quyết định hình phạt.

Modulate cũng cho biết, mô hình của họ đã được đưa vào thử nghiệm trong thời gian dài, các hoàn cảnh khác nhau để có thể phân biệt được giữa các phát ngôn độc hại hoặc không có ác ý.

Tuy nhiên, công cụ này này sẽ không phân biệt cuộc đàm thoại đó có độc hại hay dựa vào vùng miền hay sắc tộc của người nói, thay vào đó thì sẽ dựa theo phản ứng, các “tín hiệu” trong cuộc hội thoại của những người chơi khác.

Sắp tới, ToxMod sẽ được áp dụng trên toàn cầu trong phần game Call of Duty: Modern Warfare 3 ra mắt vào 10/11/2023.