Chińska firma ByteDance – właściciel TikToka – monitoruje treści dotyczące „wrażliwych” tematów, takich jak Donald Trump, Chiny oraz mniejszość Ujgurów. To kolejne rewelacje magazynu „Forbes”, którego dziennikarze byli śledzeni w ubiegłym roku przez TikToka.
Amerykański „Forbes” opisuje system moderacji, z którego korzystają pracownicy firmy ByteDance (właściciela TikToka) w Chinach. Zawiera on listę „wrażliwych fraz”, które podlegają szczególnemu monitoringowi. Celem moderatorów jest ich wykrywanie we wszystkich materiałach, jakie publikowane są w sieciach społecznościowych należących do firmy. Treści takie według dziennikarzy „Forbesa” mają zaniżaną przez moderację widoczność.
Listy fraz, które mają podlegać monitoringowi, zawierają słowa takie, jak „YouTube”, ale też „Donald Trump”. Można na nich znaleźć również słowa związane z muzułmańską mniejszością Ujgurów, których prawa człowieka są łamane przez Chiny m.in. w obozach pracy przymusowej zlokalizowanych w Sinciangu. W przypadku wielu list, obecne jest na nich również słowo „TikTok” – jednak, jak nietrudno się domyśleć, platforma ta zaprzecza, jakoby moderacja treści w aplikacji odbywała się w oparciu o którekolwiek z opisanych przez „Forbesa” list.
Standardy i cenzura
Same w sobie listy fraz, które są monitorowane przez moderację, nie są niczym nowym – z takich rozwiązań korzysta zdecydowana większość firm internetowych, które mają problem z mową nienawiści, nękaniem i innymi formami przemocy. Listy służą do wyłapywania wyrażeń, które mogą wiązać się z treściami regulaminowo zakazanymi – np. nagraniami z masowych strzelanin czy zamachów, wykorzystywanych przez terrorystów do celów propagandowych, ideologicznych i rekrutowania nowych członków swoich organizacji.
W przypadku chińskich platform, które przebojem wdzierają się na nasze telefony (i mowa tu nie tylko o TikToku), sytuacja jest jednak trochę bardziej skomplikowana – bo istnieją uzasadnione obawy, że algorytmy rekomendacji treści, jak i ich moderacja, mogą być narzędziem wpływu w rękach Pekinu.
„Forbes” potwierdza tego rodzaju przypuszczenia – listy fraz w moderacji mediów społecznościowych należących do ByteDance znacząco wykraczają poza standardy innych platform i nie mają związku wyłącznie z zapobieganiem przestępczości, ale z ideologią.
Co znajdziemy w katalogu zakazanych fraz?
„Forbes” podaje następujące tematy list, których korzystają moderatorzy ByteDance. Łatwo domyśleć się na podstawie tego wykazu, co zawierają:
- Donald Trump i słowa pod jego adresem
- muzułmańska mniejszość Ujgurów
- niektóre firmy konkurujące z TikTokiem (wszystkie z USA)
- Putin i słowa pod jego adresem
- frazy zakazane w komentarzach na TikToku w Japonii
- wrażliwe frazy audio na TikToku w regionie Tybetu
- zakazane słowa w odniesieniu do Xi (prezydent Chin) i Peng (zaginiona tenisistka chińskiego pochodzenia)
- wrażliwe frazy dla wideo z aplikacji Douyin (odpowiednik TikToka w ChRL) w regionie Sinciangu
- frazy związane z polityką strategiczną Chin
- życie lokalne, w tym niepodległość Tajwanu i Hongkongu
- inwigilacja na YouTube
- tematy z mediów w odniesieniu do spraw związanych z TikTokiem i rządem (w domyśle chodzi o relacje z USA lub Chinami)
- wrażliwe, negatywne frazy na temat produktu
„Forbes” podkreśla, że w wewnętrznej instrukcji użycia narzędzi do moderacji, które zdaniem magazynu zredagowali pracownicy ByteDance z Chin, listy opisane są jako „globalny słownik najważniejszych fraz” zawierający „powszechne wrażliwe słowa o dużym ryzyku”, a także „globalny powszechny słownik”, w którym są „w pełni utajnione” nielegalne frazy.
Magazyn podaje, że system powstał w 2017 roku po to, aby wspomagać działania moderacji we wszystkich produktach ByteDance, które „mogą przynieść ryzyko dla bezpieczeństwa, reputacji i przychodów” firmy.
List, które zawierają słowa „TikTok” lub „USA” jest zdaniem magazynu ponad 50. Narzędzia systemu moderacji mają – jak twierdzą dziennikarze – dowodzić, iż w ciągu ostatniego roku korzystali z nich pracownicy TikToka.
TikTok zaprzecza
Jak łatwo się domyśleć, TikTok zaprzecza, jakoby korzystał z list zawierających frazy do moderacji zdefiniowane w systemie ByteDance.
Zdaniem rzeczniczki platformy Jamie Favazzy, materiały, które pozyskała redakcja „Forbesa”, mogą być „znacząco przestarzałe i niekompletne”. W dodatku, co podkreśliła przedstawicielka platformy, nikt nie powiedział, że TikTok z nich korzystał.
Favazza podkreśliła też, że Douyin i TikTok to dwie różne platformy przeznaczone na różne rynki, na których są różne treści, obowiązują też inne zasady i jest inny kod źródłowy.
