Алгоритам ТикТок-а препоручивао антисемитски мим са логором смрти
ТикТок је обрисао колекцију видеа за које је ББЦ открио да користе мучну антисемитску песму који су имали више од 6,5 милиона прегледа.
Песма се појавила на овој апликацији у недељу и садржала је стихове: „Идемо на путовање до места по имену Аушвиц, време је за туширање." Пропратни видео приказивао је огромног роботског шкорпиона са свастиком како напада и убија људе. Тај видео је препоручивао ТикТоков алгоритам, стекавши тако више од шест милиона прегледа. Аушвиц је био нацистички логор смрти у Пољској у ком је током Другог светског рата умрло више од милион људи, многи од њих у гасним коморама након што им је речено да иду на заједничко туширање. Скоро 100 других корисника одабрало је исту песму за властите видео снимке. У једном од њих се појављивао лик из компјутерске игре „Роблокс" који изгледа као Хитлер. Први видео који је објављен добио је стотине хиљада лајкова Други је користио је инсерт из пуцачке игре у којој људе убијају зелене кантице са гасом. Други видео снимци користили су слике из филмова или телевизијских документараца о Холокаусту. На једном снимку се види лик налик на Хитлера Збирно, колекција видеа са том песмом имала је око 6,5 милиона прегледа за мање од три дана пре него што су уклоњени. „Било је невероватно узнемирујуће гледати тај мучни ТикТок видео намењен деци, са роботом са свастиком који хвата и спаљује Јевреје, док се музика подсмева Јеврејима, Јеврејкама и јеврејској деци коју су убијани отровним гасом у Аушвицу", изјавио је Стивен Силверман, директор за истрагу и извршење при Кампањи против антисемитизма. „ТикТок има посебну обавезу да се позабави тим садржајем брзо зато што се специјализовао за омогућавање виралних видеа деци и млађим одраслим особама који су најповодљивији, а опет је наше истраживање показало да је ТикТок постао најбржи вектор за ширење мимова који се подсмевају Холокаусту." У неким од клипова се користе снимци из видео игара ТикТоку је требало око осам сати да уклони све увредљиве видео снимке. Портпарол фирме је рекао: „Безбедност наших корисника главни је приоритет ТикТока, а наше смернице за кориснике јасно стављају до знања шта није прихватљиво на нашој платформи." „Не толеришемо било какав садржај који садржи говор мржње а дотични звучни запис, заједно са свим снимцима уз које је ишао, сада су уклоњени. „Иако нећемо успети да ухватимо баш сваки случај непримереног садржаја, непрестано усавршавамо нашу технологију и политику како бисмо се осигурали да ће ТикТок остати безбедно место за позитивну креативну експресију." У неким од снимака користе се сцене иѕ филмова о холокаусту Неки експерти сматрају да ТикТок мора да ради више на провери садржаја видеа пре него што их препоручи широј публици. Мајкл Прием, генерални директор Модерн импакта, каже: „ТикТок не открива своје алгоритме или стратегију који стоје иза садржаја. „Али нашироко се сматра да је он сличан другим често коришћеним моделима који сакупљају податке о нашем конзумирању садржаја и вршњачким мрежама." „Како неки конкретан видео привуче пажњу, алгоритам га онда препоручује даље читавој платформи. „Отуд корисници интуитивно траже једни од других да 'помогну да ово постане вирално'. Проблем тада остаје на филтерисању садржаја." Корисник који је поставио оригинални видео што је покренуо мим чини се да је млађи тинејџер из Велике Британије. Он није одговорио на захтеве за коментар, а његов налог још је био активан у време писања овог текста. Његов профил каже да је стекао 12.000 нових пратилаца након што је поставио видео. Изузетно слична верзија овог видеа постављена је на Јутјуб 2015. године. Постављен је на малом каналу и имао 67.000 прегледа за скоро 5 година колико је био активан. Јутјуб га је сада уклонио након што га је контактирао ББЦ. Није јасно одакле је тачно песма потекла, али пропратне слике су из компјутерске игре по имену „Besiege", која омогућује играчима да стварају властита оружја за опсаду.