Безопасность нашего сообщества: отчет Twitch о доступности сервисов и данных за 2020 год

Сегодня мы сделали важный шаг на пути к большей открытости в отношении предоставления сведений о наших мерах по обеспечению безопасности, опубликовав наш первый глобальный отчет о доступности сервисов и данных, охватывающий период с января по декабрь 2020 года. Мы считаем, что дополнительная информация о нашем подходе к обеспечению безопасности, действиях, осуществляемых нами для обеспечения соблюдения Правил сообщества и Условий обслуживания, и наших ответах на требования правительства о предоставлении сведений играет ключевую роль в формировании доверия к нашей работе по улучшению безопасности платформы.

Для того чтобы платформа Twitch и впредь оставалась местом, где люди могут объединяться и творить вместе, авторы и их сообщества должны чувствовать себя в безопасности при пользовании нашим сервисом.   Безопасность нашего сообщества очень важна для нас, и мы твердо намерены сделать все возможное, чтобы гарантировать ее нашим пользователям. Для этого мы за последние несколько лет значительно увеличили инвестиции в развитие продукта, политик и операционной безопасности. Отчет о доступности сервисов и данных — важный инструмент для обеспечения прозрачности наших действий: в нем мы честно рассказываем вам о проблемах, с которыми мы сталкиваемся, и вариантах их решения, которые позволяют повысить безопасность на Twitch. В будущем мы будем публиковать по два отчета о доступности сервисов и данных в год, чтобы все сообщество могло следить за нашим прогрессом. Мы также обязаны рассказывать вам о работе, которую мы проводим, чтобы сделать Twitch безопасным и инклюзивным местом для нашего разнообразного глобального сообщества.

Платформа Twitch существенно расширилась в 2020 году — одно только общее количество активных каналов во втором полугодии увеличилось на 40% по сравнению с первым полугодием. Рост количества каналов сопровождался ростом числа зрителей и вовлеченности — например, количество сообщений в чатах увеличилось на 33%. Учитывая такой рост, неудивительно, что мы столкнулись с увеличением общего числа жалоб и принимаемых мер по всем категориям жалоб. 

Но рост — лишь один из факторов. Увеличение количества принятых мер также связано с улучшениями в области производственных мощностей, необходимыми для удовлетворения запросов нашего растущего сообщества. Только за последний год мы в четыре раза увеличили количество сотрудников команд модерации, занимающихся рассмотрением жалоб пользователей и принятием соответствующих мер. Это позволило нам снизить медианное время ответа на жалобу на 96%. Кроме того, количество принятых мер также увеличилось в связи с тем, что на протяжении всего 2020 года отдельные каналы стали ответственнее подходить к модерации. Владельцы каналов приняли решительные меры для поддержания стандартов нашего сообщества, стали активнее пользоваться предоставляемыми нами инструментами, такими как AutoMod и режим модератора, и увеличили количество активных модераторов. 

Действия, предпринятые для более эффективной организации процесса рассмотрения жалоб пользователей и принятия соответствующих мер, являются результатом работы авторов и модераторов Twitch, нашей внутренней команды безопасности и наших инвестиций в разработку вспомогательных продуктов и функций. В 2020 году мы внесли следующие улучшения в наши инструменты и решения безопасности. 

Модерация

• Внедрен режим модератора — персонализируемый дом для всех инструментов, которые модераторы используют на своих каналах. Это привело к значительному всплеску активности модераторов на Twitch.
• В режим модератора добавлена функция обработки запросов на снятие блокировки, которая должна упростить модераторам рассмотрение запросов на разблокировку на канале.

Машинное обучение

• В этом году наша модель обнаружения оскорбительных имен пользователей заблокировала в 3 раза больше оскорбительных имен по сравнению с прошлым годом. 
• Упреждающее обнаружение также помогло нам в борьбе со спамом через личные сообщения и привело к снижению жалоб на подобный спам на 70% во втором полугодии по сравнению с первым.
• Приняты жесткие меры в отношении фишинговых трансляций и увеличено время блокировки учетных записей, с которых осуществлялась подобная деятельность. 

Открытость для сообщества

• Введена система обратной связи для отправителей жалоб: теперь они получают подтверждение получения жалобы командой модерации и уведомление о принятых мерах. 
• Обновлена система уведомлений о принятых мерах. Теперь она включает дополнительные сведения о нарушающем правила контенте, чтобы пользователи понимали, какие ошибки они допустили и как их можно избежать в будущем.  
• Создан Консультативный совет по безопасности Twitch — совещательный орган из восьми участников, куда вошли онлайн-эксперты по безопасности и авторы Twitch. С момента создания совета его участники предоставили неоценимые сведения, которые оказали влияние на нашу политику и разработку продукта.
• Обновлены Правила сообщества — теперь они стали понятнее и четче. Мы прояснили нашу позицию в отношении уклонения от блокировок и фарма Drops, а также значительно переработали наши политики в отношении наготы и откровенной одежды, разжигания ненависти, сексуальных домогательств и притеснений.

Работа над обеспечением безопасности продолжается, и нам, несмотря на все наши достижения, предстоит еще очень много работы. В ближайшие несколько месяцев мы планируем внедрить ряд изменений в области безопасности, среди которых новые инструменты для модераторов, модели машинного обучения и обновления политик для повышения безопасности на Twitch.

Этот отчет — первый в своем роде для Twitch. Мы обязательно ознакомимся со всеми вашими отзывами, чтобы сделать эти отчеты еще лучше. Наша основная цель — предоставить исчерпывающий отчет по прогрессу безопасности на Twitch и обеспечить прозрачность наших постоянных улучшений в этой области. 

Мы понимаем, что этот отчет, скорее всего, вызовет у вас немало вопросов, и мы планируем ответить на некоторые из них во время прямой трансляции в нашем Учебном лагере для стримеров 2 марта в 23:00 по московскому времени. VOD трансляции станет доступно через 1–2 недели с субтитрами на португальском (Бразилия), французском, немецком, итальянском, японском, корейском, польском, русском, испанском, традиционном китайском и турецком языках. А пока вы можете поделиться с нами своими отзывами через UserVoice. В ближайшем будущем мы также добавим в этот блог ответы на часто задаваемые вопросы, так что следите за новостями.