«Данный инструмент анализирует поведение пользователя и характеристики его учётной записи, а потом сравнивает полученные данные с ранее заблокированными на канале стримера аккаунтами», — заявили разработчики Twitch.
В случае, если система определит пользователя в ряды троллей, его сообщение не будет отображаться в общем чате, но сам стример и модераторы его канала смогут кликнуть по специальной иконке и просмотреть сообщение. На этом этапе создатель контента или модератор принимают решение о дальнейшей блокировки на канале — если пользователя всё же определили в ряды нарушителей ошибочно, его можно «разблокировать» и тогда все последующие сообщения будут сразу отображаться в общем чате. Это реализовано по той причине, что ИИ работает не идеально, так что система вполне может допустить ошибку, но у стримера должна быть возможность вынести окончательный вердикт.
Анимация доступна по нажатию
Именно из-за возможных ошибок, допущенных автоматикой, в Twitch будут отмечать потенциальных троллей с новыми аккаунтами, а не блокировать их. Разработчики новой системы заявили, что создать ИИ на основе технологии машинного обучения, который бы на 100% точно определял действия нарушителей в контексте общения в чате, просто невозможно. Именно по этой причине окончательное решение оставляют за стримером и его модераторами, но в компании заявили, что постепенно система будет обучаться на действиях создателей контента, и в будущем технология будет работать более точно.
Материалы по теме:
- Не подписывайтесь, пока не прочитаете. Какие подводные камни у Netflix и других стриминговых сервисов
Источник: