Irgalmatlan botrány Zuckerberg birodalma körül, nem távolították el a hamis Biden-videót

Mark Zuckerberg vállalata azt állítja, hogy egy olyan új technológiát vezetnek be, amely képes felismerni és címkézni a más vállalat mesterséges intelligencia (AI) eszközei által generált képeket. A vállalat a technológiát a Facebook, az Instagram és a Threads platformjain fogja alkalmazni. 

A Meta már most is címkézi a saját rendszerei által generált AI-képeket, és azt remélik, hogy az új technológia – amit most fejlesztenek még – lendületet ad az iparágnak az AI-hamisítás elleni küzdelemhez.

Sir Nick Clegg, a Meta vezetője által írt blogban azt írják: az elkövetkező hónapokban kívánják bővíteni az AI-hamisítványok címkézését. Clegg ugyanakkor elismerte azt is, hogy a technológiai még nem teljesen kiforrott, azonban ezzel lendületet és ösztönzést kívánnak adni az iparág többi résztvevőjének. 

De Sohel Feizi, a Marylandi Egyetem Megbízható AI Laboratóriumának igazgató szerint azonban egy ilyen rendszert könnyű lenne kijátszani – írja a BBC.

"Lehet, hogy képesek lesznek betanítani a detektort arra, hogy képes legyen megjelölni bizonyos képeket, amelyeket kifejezetten bizonyos modellek generáltak. De ezeket a detektorokat könnyen ki lehet kerülni a képek tetején végzett könnyített feldolgozással, és a hamis pozitív eredmények aránya is magas lehet. Szóval nem hiszem, hogy ez az alkalmazások széles körében lehetséges” – fogalmazott. 

A Meta elismerte, hogy eszköze nem fog működni a hang- és videófelvételek esetében - annak ellenére, hogy az AI-hamisításokkal kapcsolatos aggodalmak nagy része ezekre a médiumokra összpontosul. A cég ehelyett arra kéri a felhasználókat, hogy saját hang- és videós bejegyzéseiket címkézzék fel, és megjegyezték, hogy „szankciókat alkalmazhatnak, ha ezt a felhasználók elmulasztják.”

Hétfőn a Meta Felügyeleti Testülete bírálta a vállalatot a manipulált médiával kapcsolatos politikája miatt, és azt "inkoherensnek, meggyőző indoklás nélkülinek és nem megfelelő módon a tartalom létrehozásának módjára összpontosítónak" nevezte. A Felügyeleti Testületet bár a Meta finanszírozza, de független a cégtől.

A kritika egy Joe Biden amerikai elnökről készült videóval kapcsolatos döntésre reagált. A szóban forgó videóban az elnökről az unokájával készített meglévő felvételeket úgy szerkesztették meg, hogy úgy tűnjön, mintha illetlenül érintené a lányt. S mivel nem mesterséges intelligenciával manipulálták, ráadásul nem Biden szavait hamisították meg, így nem sértette a Meta manipulált médiára vonatkozó irányelvét és nem távolították el. 

A testület egyetértett azzal, hogy a videó nem sérti a Meta hamisított médiára vonatkozó jelenlegi szabályait, de azt mondta, hogy a szabályokat frissíteni kell.

A Meta vezetője elmondta, nagyjából egyetért a döntéssel és elismerte, hogy a jelenlegi politikájuk „egyszerűen nem felel meg a célnak egy olyan környezetben, ahol sokkal több szintetikus és hibrid tartalom lesz, mint korábban.”

Januárban a vállalatnak olyan irányelvei is életbe léptek, amelyek szerint a politikai hirdetéseknek jelezniük kell, ha digitális módosított képeket vagy videókat használnak. 

Ahogy arról korábban a naphire.hu is beszámolt, óriási botrány robbant ki, miután Taylor Swiftről szexuális tartalmú, mesterséges intelligenciával szerkesztett képeket állítottak elő, melyek futótűzként kezdtek terjedni az interneten. A 18+-os képeket több közösségi oldalon - például az X-en (korábban Twitter) és a Telegramon is megosztották, ezáltal többmillió emberhez eljutottak, mielőtt eltávolították őket. A döbbenetes eset kapcsán az X korábban már közölte, hogy aktívan törlik a képeket és megfelelő lépéseket tesznek a fotók terjesztésében részt vevő fiókok ellen.

Elindult a Naphire.hu YouTube-csatornája, iratkozzon fel a legfrissebb videóinkért!