Horror a YouTube-on: videóban mutogatta az apja levágott fejét egy férfi

Elszabadult a pokol a YouTube-on, miután egy férfi közzétett egy videót, amelyben apja levágott fejét tartja a kezében. A felkavaró felvételt több mint ötezren látták, és több órán át elérhető volt.

A hátborzongató videó éppen néhány órával azután került fel a videómegosztó platformra, hogy a agy technológiai cégvezetőket meghallgatták a gyermekek biztonságáról és a közösségi médiáról - írja az atv.hu. A YouTube a szörnyű videóval kapcsolatban közleményt adott ki, melyben azt írta: "A YouTube szigorú irányelvekkel tiltja a grafikus erőszakot és az erőszakos szélsőségességet. A videót eltávolítottuk, mert megsértette a grafikai erőszakra vonatkozó szabályzatunkat, Justin Mohn csatornáját pedig az erőszakos szélsőségességre vonatkozó szabályzatunknak megfelelően megszüntettük. Csapataink folyamatosan ellenőrzik, hogy ne kerüljön fel ismét a videó."

A történtek kapcsán felidézték, hogy nemrégiben brutál gyorsan elterjedtek Taylor Swiftről a mesterséges intelligencia által generált "deepfake" képek is. Ahogy arról korábban a naphire.hu is beszámolt, óriási botrány robbant ki, miután Taylor Swiftről szexuális tartalmú, mesterséges intelligenciával szerkesztett képeket állítottak elő. A 18+-os képeket több közösségi oldalon - például az X-en (korábban Twitter) és a Telegramon is megosztották, ezáltal többmillió emberhez eljutottak, mielőtt eltávolították őket. A döbbenetes eset kapcsán az X korábban már közölte, hogy aktívan törlik a képeket és megfelelő lépéseket tesznek a fotók terjesztésében részt vevő fiókok ellen, később pedig már rá sem lehetett keresni a platformon az énekesnő nevére. 

Az online platformok egyre nehezebben tudják kézben tartani az irányítást, és egyre gyakrabban jelennek meg olyan videók az interneten, amelyekben kiskorúak szerepelnek, vagy éppen beleegyezés nélkül töltenek fel nőkről fotókat. Egyesek pedig gyilkosságokat közvetítenek élőben a Facebookon. A szakértők szerint annak, hogy elvesztették az irányítást az az oka, hogy a tartalom moderálásában algoritmusokra és kiszervezett csapatokra támaszkodnak, nem pedig olyan alkalmazottakra, akik jobb stratégiákat tudnának kidolgozni a probléma kezelésére. Emiatt a kritikusok is gyakran vádolják a techvállalatokat azzal, hogy nem fektetnek be elég pénzt a biztonságba. 

"Az olyan platformok, mint a YouTube, közel sem fektettek be elég pénzt a biztonsági csapataikba, így ezek a videók túl gyakran, túl sokáig fent maradnak" - mondta Josh Golin, a Fair Play for Kids ügyvezető igazgatója, ami a gyerekek online védelméért dolgozik. Hozzátette, hogy ez csak egy része a problémának, ugyanis a platformokat működtető algoritmusok azokra a videókra összpontosítanak, amelyek nagy figyelmet kapnak megosztások és kedvelések formájában. Ez pedig csak súlyosbítja a problémát az ilyen videók esetében.

"Még ha a technológiai cégek rendelkeznek is az erőszakos tartalmak megjelölésére szolgáló gyakorlatokkal, nem képesek elég gyorsan moderálni és eltávolítani azokat, és a sajnálatos valóság az, hogy a gyerekek és tizenévesek még mindig látják ezeket, mielőtt eltávolítanák őket" - mondta James Steyer, a Common Sense Media alapítója és vezérigazgatója. Steyer hozzátette, hogy a moderálásra szoruló videók mennyisége túlterheli a YouTube-ot és más platformokat is. Megjegyezte, hogy a traumatizáló képek maradandó hatással lehetnek a gyermekek mentális egészségére és jólétére.

Elindult a Naphire.hu YouTube-csatornája, iratkozzon fel a legfrissebb videóinkért!