fbpx

Алгоритм TikTok має чотири основні цілі: 用户价值, 用户价值 (长期), 作者价值 і 平台价值, що компанія перекладає як «цінність користувача», «довгострокова цінність користувача», «довгострокова цінність» та «цінність платформи».

Цей набір цілей взятий із відвертого та показового документа для співробітників компанії, який пропонує нові деталі того, як найуспішніший відеододаток у світі створив такий розважальний — дехто сказав би, що викликає звикання — продукт.

Документ під назвою «TikTok Algo 100» був підготовлений командою інженерів TikTok у Пекіні. Прес-секретар компанії Хіларі Маккуейд підтвердила його справжність і сказала, що він був написаний, щоб пояснити нетехнічним працівникам, як працює алгоритм. Документ пропонує новий рівень деталізації домінуючого відеододатка, надаючи показовий погляд як на математичне ядро ​​програми, так і на розуміння компанією людської природи — наші тенденції до нудьги, нашу чутливість до культурних ознак — що допомагає пояснити, чому це так. так важко відкинути. Документ також піднімає завісу щодо безперебійного зв’язку компанії з її китайською материнською компанією ByteDance в той час, коли Міністерство торгівлі США готує звіт про те, чи становить TikTok загрозу безпеці Сполучених Штатів.

Якщо ви належите до мільярда людей (буквально!), які щомісяця проводять час у TikTok, ви знайомі з додатком як центральним засобом молодіжної культури та онлайн-культури в 2021 році. Він показує нескінченний потік відео і, на відміну від додатків соціальних мереж, які він все більше витісняє, служить більше як розвага, ніж як зв’язок з друзями.

Це вдалося там, де інші програми для коротких відео зазнали невдачі, оскільки вона спрощує створення, надаючи користувачам фонову музику, під яку можна танцювати, або розігрувати меми, а не змушуючи їх заповнювати мертве повітря. І для багатьох користувачів, які споживають, не створюючи, програма вражаюче добре читає ваші вподобання та спрямовує вас на одну зі своїх численних «сторін», незалежно від того, чи цікавитесь ви соціалізмом чи підказками Excel чи сексом, консервативною політикою чи певною знаменитістю. . 

ТікТок на диво добре розкриває бажання людей навіть перед самими собою — « Алгоритм TikTok знав мою сексуальність краще, ніж я», — читається в одному із серії заголовків про людей, які дивуються рентгенівському знімку свого внутрішнього життя в додатку.

TikTok публічно поділився загальними схемами своєї рекомендаційної системи, заявивши, що вона враховує такі фактори, як лайки та коментарі, а також інформацію про відео, як-от підписи, звуки та хештеги. Зовнішні аналітики також намагалися зламати його код. Недавня доповідь Wall Street Journal показла , як TikTok в значній мірі залежить від того, скільки часу ви проводите дивлячися все відео, щоб направити вас до відео , які будуть тримати вас далі, і цей процес може іноді привести молодь до небезпечного контенту, що пропагує самогубство або нанесення собі шкоди — проблеми, які як заявляє TikTok, намагається зупинити, агресивно видаляючи вміст, який порушує його умови обслуговування.

Новим документом поділилася з The New York Times особа, яка була уповноважена читати його, але не ділитися ним, і яка надала його на умовах анонімності. Людину непокоїв поштовх додатка до «сумного» вмісту, який може спричинити самоушкодження.

У документі відверто пояснюється, що для досягнення «кінцевої мети» компанії додавання щоденних активних користувачів вона вирішила оптимізувати два тісно пов’язані показники в потоці відео, які він обслуговує: «утримання» — тобто, чи приходить користувач назад, та «витрачений час». 

Для аналітиків, які вважають, що алгоритмічні рекомендації становлять соціальну загрозу, документ TikTok підтверджує їхні підозри.

«Ця система означає, що час перегляду є ключовим. Алгоритм намагається викликати у людей залежність, а не давати їм те, чого вони дійсно хочуть», — сказав Гійом Шасло, засновник Algo Transparency, групи, що базується в Парижі, яка вивчала систему рекомендацій YouTube і дає песиместичний погляд на вплив продукту, зокрема на дітей. 

Пан Часлот переглянув документ TikTok і вважає наступне:

«Я думаю, що це божевільна ідея дозволити алгоритму TikTok керувати життям наших дітей», — сказав він. «З кожного відео, яке дивиться дитина, TikTok отримує частину інформації про нього. За кілька годин алгоритм може виявити його музичні смаки, його фізичну привабливість, чи він пригнічений, чи може він вживати наркотики, і багато іншої конфіденційної інформації. Існує високий ризик того, що частина цієї інформації буде використана проти нього. Потенційно це може бути використано для мікронацілювання на нього або для того, щоб зробити його більш залежним від платформи».

У документі сказано, що час перегляду — не єдиний фактор, який враховує TikTok. Документ пропонує приблизне рівняння для оцінки відео, в якому передбачення, зумовлена ​​машинним навчанням і фактична поведінка користувача, та підсумовується для кожного з типів даних: оцінки «подобається», коментарі та час відтворення, а також вказує, що відео має бути повторене:

«Система рекомендацій дає оцінки всім відео на основі цього рівняння і повертає користувачам відео з найвищими балами», – йдеться в документі. «Для стислості, рівняння, показане в цьому документі, дуже спрощено. Фактичне рівняння, яке використовується, набагато складніше, але логіка та сама».

Документ детально ілюструє, як компанія налаштовує свою систему, щоб ідентифікувати та придушити «як приманку» — відео, призначені для гри в алгоритм, чітко просячи людей, щоб вони поставили вподобайку, і як компанія продумує більш тонкі запитання.

«Деякі автори можуть мати деякі культурні посилання у своїх відео, і користувачі можуть краще зрозуміти ці посилання, лише переглянувши більше відео автора. Таким чином, загальна цінність, коли користувач переглядає всі ці відео, вища, ніж підсумковані значення перегляду кожного окремого відео», – йдеться в документі. «Інший приклад: якщо користувачеві подобається певний вид відео, але додаток продовжує наштовхувати його на те саме, він швидко набридає і закриває додаток. У цьому випадку загальна цінність, створена користувачем, який переглядає одне і те ж відео, нижча, ніж перегляд кожного окремого відео, оскільки повторюваність призводить до нудьги».

«Є два шляхи вирішення цього питання», – йдеться у документі. «Зробіть деякі припущення та розбийте значення на рівняння значення. Наприклад, у плані повторного впливу ми могли б додати значення “same_author_seen”, а для проблеми нудьги ми також могли б додати від’ємне значення “same_tag_today”. Інші рішення, окрім рівняння значення, також можуть працювати, як-от вимушена рекомендація в каналі для користувачів, розсіювання, тощо. Наприклад, проблему нудьги можна вирішити за допомогою розпилення уваги».

Інша діаграма в документі вказує, що «монетизація творців» є однією з цілей компанії, припускаючи, що TikTok може частково віддавати перевагу відео, якщо вони приносять прибуток, а не просто розважають.

Джуліан Маколі, професор комп’ютерних наук Каліфорнійського університету в Сан-Дієго, який також переглянув документ, сказав у електронному листі, що у статті мало деталей про те, як саме TikTok робить свої прогнози, але що опис його механізму рекомендацій є “Зовсім розумні, але традиційні речі.” За його словами, перевага компанії полягає в поєднанні машинного навчання з «фантастичними обсягами даних, високою зацікавленістю користувачів і налаштуванням, де користувачі можуть споживати алгоритмічно рекомендований контент (подумайте, як мало інших налаштувань мають усі ці характеристики!). Не якась алгоритмічна магія».

Пан МакОлі додав, що він був трохи здивований, чому люди завжди запитували його про TikTok.

«Здається, існує певне сприйняття (ЗМІ? чи громадськості?), що вони зламали якийсь магічний код для рекомендації, але більшість із того, що я бачив, здається цілком нормальним», — написав він.

І справді, документ робить багато для того, щоб демістифікувати систему рекомендацій, яку технологічні компанії часто представляють як неймовірно складну для розуміння критикам і регуляторам, але яка зазвичай зосереджується на функціях, які може зрозуміти будь-який звичайний користувач. Наприклад, висвітлення в журналі про витік документів Facebook проілюструє, як рішення Facebook приділяти більше ваги коментарям сприяло поширенню розбіжностей. Хоча моделі можуть бути складними, в алгоритмі рекомендацій TikTok, викладеному в документі, немає нічого зловісного чи незрозумілого.

Але в документі також зрозуміло, що TikTok нічого не зробив, щоб розірвати свої зв’язки зі своєю китайською материнською компанією ByteDance, чия власність стала різким фокусом наприкінці адміністрації президента Дональда Дж. Трампа в 2020 році, коли він намагався змусити продаж TikTok до американської компанії Oracle, пов’язаної з його адміністрацією.

Документ TikTok посилається на запитання до менеджера з інженерії, чия біографія LinkedIn говорить, що він працює над схожим китайським додатком TikTok і ByteDance, Douyin. У документі говориться, що менеджер з інженерії навчався в Пекінському університеті, отримав ступінь магістра комп’ютерних наук у Колумбійському університеті та два роки працював у Facebook, перш ніж прийти на ByteDance в Пекіні в 2017 році.

З точки зору китайської технологічної промисловості у ньому немає посилань, наприклад, до конкуруючих американських компаній, таких як Facebook і Google, але включає обговорення «якщо Toutiao/Kuaishou/Weibo зробили щось подібне, чи можемо ми запустити ту ж стратегію, що й вони?»

Зрозумійте американо-китайські відносини

Напружена епоха у американо-китайських відносинах. Обидві держави глибоко протистоять, оскільки борються за вплив за межами своїх берегів, змагаються в технологіях і маневрують за військові переваги. 

Тихоокеанське домінування. Оскільки Китай нарощував свою військову присутність, США намагалися розширити свої альянси в регіоні. Головною потенційною точкою спалаху є Тайвань, демократичний острів, який Комуністична партія вважає територією Китаю. Якщо США втрутиться туди, це може змінити регіональний порядок.

Торгівля. Торгова війна, розпочата адміністрацією Трампа, технічно на паузі. Але адміністрація Байдена продовжує протестувати проти економічної політики Китаю та вводить мита на китайські товари, сигналізуючи про відсутність відлиги в торгових відносинах .

Технологія. Інтернет-гігантів в основному закрили з Китаю, але багато американських технологічних компаній все ще ведуть там великий бізнес, що викликає занепокоєння  у Вашингтоні щодо кібербезпеки . Пан Сі сказав, що Китаю необхідно досягти технологічної «самостійності».

Права людини. За пана Сі конфронтації Китаю зі США через цінності та свободи стали частішими, включаючи протистояння через придушення Пекіном продемократичних протестів у Гонконзі  та масові затримання мусульман у Сіньцзяні .

Світове лідерство. Лідери Китаю бачать ознаки американського занепаду всюди, і вони хочуть більшого голосу в глобальному лідерстві, прагнучи більшої ролі в інституціях, де домінують Захід, і залицятися до союзників, які поділяють їхнє розчарування Заходом .

Процес розробки TikTok, як сказано в документі, тісно переплітається з процесом Douyin. У документі в певний момент відсилаються співробітники TikTok до «Процесу запуску стратегії рекомендацій Douyin» і посилаються на внутрішній документ компанії, який, як сказано, є «той самий документ для TikTok і Douyin».

Співробітники TikTok також глибоко вплетені в екосистему ByteDance. Вони використовують продукт ByteDance під назвою Lark, корпоративну систему внутрішніх комунікацій на зразок Slack, але з агресивними функціями управління продуктивністю, спрямованими на те, щоб змусити співробітників більше використовувати систему. Існує, наприклад, графіка, яка показує, чи виконували ви дії — наприклад, відкривали повідомлення — більше чи менше, ніж ваші колеги.

Занепокоєння щодо китайських споживчих технологій у Сполучених Штатах є двобоким. Виконавчий указ президента Трампа про спробу заборонити додаток у серпні 2020 року попереджав, що «збір даних TikTok загрожує дозволити Комуністичній партії Китаю доступ до особистої та приватної інформації американців». Уряд Китаю може «створювати досьє з особистою інформацією для шантажу та вести корпоративний шпигунство», – йдеться в документі. 

Ця заборона зупинилася в суді і зникла після президентських виборів. Президент Байден скасував розпорядження, але потім його адміністрація оголосила про власне розслідування загроз безпеці, створених TikTok, про що повідомив неназваний високопосадовець адміністрації. Журналісти заявили, що Китай «працює над використанням цифрових технологій та американських даних у спосіб, який створює неприйнятні ризики для національної безпеки».

У заяві, надісланій електронною поштою, пані Маккуейд сказала, що «хоча в коді є певна спільність, програми TikTok і Douyin запускаються повністю окремо, на окремих серверах, і жоден код не містить даних користувача».

Вона також сказала: «TikTok ніколи не надавав дані користувачів китайському уряду, і ми б не надали, якщо б запитали».

TikTok, чий виконавчий директор живе в Сінгапурі, найняв групу американських та європейських керівників та експертів із безпеки, які мають хороші зв’язки, оскільки політичний тиск посилився під час панування Трампа. Там сказано, що у нього немає офіційної штаб-квартири. Він намагався знизити американські занепокоєння, зберігаючи дані користувачів у Сполучених Штатах із резервною копією в Сінгапурі.

Занепокоєння американського уряду про безпеку має дві форми. 

Перше, як пан Трамп запропонував у своєму виконавчому указі, полягає в тому, чи слід розглядати величезну кількість даних, якими володіє TikTok — наприклад, про приватні сексуальні бажання шанувальників програми, які в кінцевому підсумку можуть стати американськими державними службовцями — як питання національної безпеки. Немає жодних доказів того, що дані коли-небудь використовувалися таким чином, і TikTok – не єдине місце, де американці діляться подробицями свого життя в соціальних мережах. 

Друге занепокоєння — чи TikTok цензурує політично чутливі дописи.

Цьогорічна доповідь Citizen Lab, організації, що наглядає за кібербезпекою в Торонто, припускає, що обидві ці занепокоєння, в кращому випадку, приховані: він не знайшов жодних ознак того, що TikTok або цензурував делікатні теми, або передавав дані до Китаю.

Але погляди TikTok на внутрішнє життя людей незвичайні. Є інформація, що вказує на те, що модератори ТікТок мають доступ не лише до відео, опублікованих для всіх, а й до вмісту, надісланого друзям або завантаженого в систему, але не розповсюдженого, на відміну від таких програм, як WhatsApp та Signal, які забезпечують наскрізне шифрування.

Друге питання — чи зможе китайський уряд використовувати цю платформу для поширення пропаганди. Після того, як його спіймали під час цензури відео, яке засуджує масове затримання мусульман-меншин у Китаї, TikTok дозволив критикувати уряд країни. 

Наприклад, хештег #whereispengshuai, посилання на китайську зірку тенісу, яка звинуватила провідного китайського лідера в сексуальному насильстві , автоматично блокується в системі, та у відео TikTok з цим хештегом мало переглядів. Не існує незалежного способу визначити, чи компанія пригнічує пошук, який має набагато більше залучення в Twitter, але так само мало залученнь в Instagram.

Деякі американські аналітики бачать TikTok як серйозну загрозу, інші розглядають це як безглузду паніку, з якою зіткнулися американці, які тепер наближаються до середнього віку, коли батьки попередили їх, що якщо вони поділилися б подробицями свого життя в соціальних мережах, вони ніколи не знайдуть роботу. 

Багато інших продуктів, від соціальних мереж до банків і кредитних карток, збирають більш точні дані про своїх користувачів. Якби іноземні служби безпеки хотіли ці дані, вони, ймовірно, могли б знайти спосіб придбати їх у тіньової промисловості брокерів даних.

«Безумство щодо стеження чи цензури з боку TikTok відволікає від того факту, що ці проблеми набагато важливіші, ніж будь-яка конкретна компанія чи її китайська власність», — сказав Семм Сакс, співробітник політики кібербезпеки в дослідницькій організації New America. «Навіть якби TikTok належав американцям, немає жодного закону чи постанови, які б забороняли Пекіну купувати його дані на ринку відкритих даних».

Загроза, яку TikTok представляє американській національній безпеці, виглядає цілком гіпотетичною і залежить від аналізу як американо-китайських відносин, так і майбутнього технологій і культури. Але розуміння алгоритму того, що тримає на гачку — між трюками в теніс, відео з турецькою їжею та всіма іншими речами, становить явну і реальну небезпеку.

Джерело

COVID-19 Live