TikTok продвигается к дальнейшему расширению возможностей своих автоматических инструментов обнаружения нарушений политики с новым процессом, который будет видеть, что контент, который он обнаруживает как нарушающий его политики, при загрузке полностью удаляется, гарантируя, что его никто никогда не увидит.

Как объясняет TikTok, в настоящее время в рамках процесса загрузки все видео TikTok  проходят через его автоматическую систему сканирования, которая работает для выявления потенциальных нарушений политики для дальнейшего рассмотрения членом группы безопасности. Затем член группы безопасности сообщит пользователю, было ли обнаружено нарушение, но в масштабе TikTok это оставляет место для ошибки и разоблачения, прежде чем проверка будет завершена.

Теперь TikTok работает над улучшением этого или, по крайней мере, над тем, чтобы потенциально оскорбительные материалы никогда не доходили до зрителей.

TikTok борется с вредоносным контентом с помощью автоматического удаления

Как пояснил TikTok: В течение следующих нескольких недель мы начнем использовать технологию для автоматического удаления некоторых типов недопустимого контента, выявленного при загрузке, в дополнение к удалению, подтвержденному нашей командой безопасности. Автоматизация будет зарезервирована для категорий контента, в которых наша технология имеет наивысшую степень защиты. точность, начиная с нарушений нашей политики в отношении безопасности несовершеннолетних, обнаженного тела для взрослых и сексуальных действий, жестокого и графического содержания, а также незаконных действий и регулируемых товаров”.

Таким образом, вместо того, чтобы пропускать потенциальные нарушения, система TikTok теперь будет блокировать их загрузку, что может помочь ограничить вредоносное воздействие в приложении.

Что, конечно, приведет к некоторым ложным срабатываниям, что вызовет некоторую обеспокоенность создателей, но TikTok отмечает, что его системы обнаружения оказались очень точными.

«Мы обнаружили, что количество ложных срабатываний при автоматическом удалении составляет 5%, а запросы на обжалование удаления видео остаются неизменными. Мы надеемся со временем улучшить нашу точность».

Я имею в виду, что 5% при миллиардах загрузок в день все еще могут быть значительным числом в необработанных цифрах. Но, тем не менее, риски раскрытия значительны, и для TikTok имеет смысл продолжить автоматическое обнаружение с такой частотой ошибок.

И еще одно важное преимущество:

«Помимо улучшения общего опыта на TikTok, мы надеемся, что это обновление также поддержит отказоустойчивость в нашей команде по безопасности, уменьшив объем вызывающих беспокойство видео, просматриваемых модераторами, и позволит им проводить больше времени в узкоконтекстных и тонких областях, таких как запугивание и домогательства. , дезинформация и ненавистническое поведение “.

Модерация платного контента может потребовать значительных усилий, как это было задокументировано в нескольких исследованиях , и любые шаги, которые могут быть предприняты для ее уменьшения, вероятно, того стоят.

В дополнение к этому, TikTok также развертывает новый дисплей для нарушений учетной записи и отчетов, чтобы повысить прозрачность – и, в идеале, не дать пользователям выйти за пределы.

Нарушения политики TikTok

Как вы можете видеть здесь, новая система будет отображать нарушения, накопленные каждым пользователем, а также новые предупреждения, отображаемые в разных областях приложения в качестве напоминаний об одном и том же.

Наказания за такое усиление от этих первоначальных предупреждений до полных запретов на основе повторяющихся проблем, в то время как для более серьезных проблем, таких как материалы о сексуальном насилии над детьми, TikTok автоматически удаляет учетные записи, а  также может полностью заблокировать устройство, чтобы предотвратить дальнейшие созданный.

Это важные меры, особенно с учетом молодой пользовательской базы TikTok. Внутренние данные, опубликованные The New York Times в прошлом году, показали, что около трети пользовательской базы TikTok составляют люди 14 лет или младше, что означает, что существует значительный риск воздействия на молодежь – как создателей, так и зрителей – в приложении.

TikTok уже сталкивался с различными расследованиями на этом фронте, включая временные запреты в некоторых регионах из-за его содержания. В прошлом году TikTok стал объектом пристального внимания в Италии после того, как десятилетняя девочка умерла при попытке воспроизвести вирусную тенденцию из приложения. 

Подобные случаи подчеркивают необходимость того, чтобы TikTok, в частности, реализовал дополнительные меры для защиты пользователей от опасного воздействия, и эти новые инструменты должны помочь бороться с нарушениями и предотвращать их появление.

TikTok также отмечает, что 60% людей, получивших первое предупреждение за нарушение правил, не совершили второго нарушения, что является еще одним вотумом доверия к процессу.

И хотя будут некоторые ложные срабатывания, риски намного перевешивают возможные неудобства в этом отношении.

Вы можете узнать больше о новых обновлениях безопасности TikTok здесь

Читайте гарячі новини та цікаві статті про тренди, бізнес та маркетинг на нашій сторінці в Facebook і LinkedIn, отримуйте миттєву доставку нових статей в Telegram, підписуйтеся на нашу щотижневу email-розсилку та читайте наш серйозний Instagram та Instagram-журнал коміксів про маркетинг, digital-маркетинг, PR, рекламу, HR та бізнес.