Az utóbbi időben egyre aggasztóbb méreteket ölt a közösségi médián terjedő durva és sokkoló tartalmak problémája. Legutóbb a YouTube-on történt sokkoló eset, ahol egy férfi az apja levágott fejét mutatta be, és a videót több mint 5 ezen látták, mire végre törlésre került.

Ez a brutális eset egyértelműen rávilágít arra, hogy noha a közösségi média óriáscégek törekednek a tartalom szigorúbb szűrésére, még mindig sok borzalmas és gyakran szörnyű tartalom kering az online térben.

A CNN felhozta Taylor Swift esetét is: az énekesnő ellen irányuló, mesterséges intelligencia által létrehozott “deepfake” tartalmak kezdtek keringeni pár hónapja. Ezek a tartalmak durván szexuális jellegűek voltak, és rendkívül gyorsan terjedtek. A szóban forgó képek emberek millióihoz jutottak el, mielőtt elkezdték volna azok eltávolítását.

A probléma tovább súlyosbodik azáltal, hogy egyre több olyan videó jelenik meg az interneten, amelyekben kiskorúak szerepelnek, vagy emberek fotóit használják fel beleegyezésük nélkül. Ráadásul egyesek az élő közvetítések során akár brutális bántalmazásokat és gyilkosságokat is megosztanak a Facebookon.

A YouTube a felvétel kapcsán kiadott közleményében hangsúlyozta, hogy szigorú irányelvekkel rendelkezik a grafikus erőszak és az erőszakos szélsőségesség ellen. A konkrét videót eltávolították, és az azt feltöltő csatornát az erőszak elleni irányelveknek megfelelően megszüntették. A platform azonban folyamatosan küzd a tartalmak ellenőrzése és szűrése terén, hogy megakadályozza az ilyen jellegű borzalmas videók újbóli megjelenését.