Så mycket hot, hat och sexism stoppas på Facebook och Instagram

Allt mer skadligt innehåll tas bort innan det når användare.

Instagram kan vara ett trassligt ställe. Foto: Benyamin Bohlouli / Unsplash

För att upptäcka hot, hat och sexism använder sig Meta, som äger Facebook och Instagram, både av algoritmer och personer som manuellt granskar inlägg och kommentarer på plattformarna. De flesta av dessa oönskade budskap upptäcks faktiskt redan innan de når mottagaren och tas bort automatiskt. Algoritmerna fungerar alltså som ett slags filter mellan sändaren och mottagaren.

Inlägg med naket eller sexuellt innehåll tas alltid bort för att förhindra att det sprids utan samtycke. Vissa undantag görs dock, exempelvis om innehållet används i utbildande syfte eller är del av en demonstration. Det här är det som Metas algoritmer är bäst på. Nästan hundra procent av det innehåll som tas bort från Facebook och Instagram på grund av nakenhet upptäcks innan det når användare.