Mark Zuckerberg vállalata azt állítja, hogy egy olyan új technológiát vezetnek be, amely képes felismerni és címkézni a más vállalat mesterséges intelligencia (AI) eszközei által generált képeket. A vállalat a technológiát a Facebook, az Instagram és a Threads platformjain fogja alkalmazni.
A Meta már most is címkézi a saját rendszerei által generált AI-képeket, és azt remélik, hogy az új technológia – amit most fejlesztenek még – lendületet ad az iparágnak az AI-hamisítás elleni küzdelemhez.
Sir Nick Clegg, a Meta vezetője által írt blogban azt írják: az elkövetkező hónapokban kívánják bővíteni az AI-hamisítványok címkézését. Clegg ugyanakkor elismerte azt is, hogy a technológiai még nem teljesen kiforrott, azonban ezzel lendületet és ösztönzést kívánnak adni az iparág többi résztvevőjének.
De Sohel Feizi, a Marylandi Egyetem Megbízható AI Laboratóriumának igazgató szerint azonban egy ilyen rendszert könnyű lenne kijátszani – írja a BBC.
"Lehet, hogy képesek lesznek betanítani a detektort arra, hogy képes legyen megjelölni bizonyos képeket, amelyeket kifejezetten bizonyos modellek generáltak. De ezeket a detektorokat könnyen ki lehet kerülni a képek tetején végzett könnyített feldolgozással, és a hamis pozitív eredmények aránya is magas lehet. Szóval nem hiszem, hogy ez az alkalmazások széles körében lehetséges” – fogalmazott.
A Meta elismerte, hogy eszköze nem fog működni a hang- és videófelvételek esetében - annak ellenére, hogy az AI-hamisításokkal kapcsolatos aggodalmak nagy része ezekre a médiumokra összpontosul. A cég ehelyett arra kéri a felhasználókat, hogy saját hang- és videós bejegyzéseiket címkézzék fel, és megjegyezték, hogy „szankciókat alkalmazhatnak, ha ezt a felhasználók elmulasztják.”
Hétfőn a Meta Felügyeleti Testülete bírálta a vállalatot a manipulált médiával kapcsolatos politikája miatt, és azt "inkoherensnek, meggyőző indoklás nélkülinek és nem megfelelő módon a tartalom létrehozásának módjára összpontosítónak" nevezte. A Felügyeleti Testületet bár a Meta finanszírozza, de független a cégtől.
A kritika egy Joe Biden amerikai elnökről készült videóval kapcsolatos döntésre reagált. A szóban forgó videóban az elnökről az unokájával készített meglévő felvételeket úgy szerkesztették meg, hogy úgy tűnjön, mintha illetlenül érintené a lányt. S mivel nem mesterséges intelligenciával manipulálták, ráadásul nem Biden szavait hamisították meg, így nem sértette a Meta manipulált médiára vonatkozó irányelvét és nem távolították el.
A testület egyetértett azzal, hogy a videó nem sérti a Meta hamisított médiára vonatkozó jelenlegi szabályait, de azt mondta, hogy a szabályokat frissíteni kell.
A Meta vezetője elmondta, nagyjából egyetért a döntéssel és elismerte, hogy a jelenlegi politikájuk „egyszerűen nem felel meg a célnak egy olyan környezetben, ahol sokkal több szintetikus és hibrid tartalom lesz, mint korábban.”
Januárban a vállalatnak olyan irányelvei is életbe léptek, amelyek szerint a politikai hirdetéseknek jelezniük kell, ha digitális módosított képeket vagy videókat használnak.
Ahogy arról korábban a naphire.hu is beszámolt, óriási botrány robbant ki, miután Taylor Swiftről szexuális tartalmú, mesterséges intelligenciával szerkesztett képeket állítottak elő, melyek futótűzként kezdtek terjedni az interneten. A 18+-os képeket több közösségi oldalon - például az X-en (korábban Twitter) és a Telegramon is megosztották, ezáltal többmillió emberhez eljutottak, mielőtt eltávolították őket. A döbbenetes eset kapcsán az X korábban már közölte, hogy aktívan törlik a képeket és megfelelő lépéseket tesznek a fotók terjesztésében részt vevő fiókok ellen.
Elindult a Naphire.hu YouTube-csatornája, iratkozzon fel a legfrissebb videóinkért!
Kapcsolódó cikkek
- Kiderült a titok: így lesz feltörhetetlen minden telefon Kiderült, mi a világ legbiztonságosabb PIN-kódja.
- Havas Henriknek Szoboszlai Dominikról beugrott egy érdekes sztori saját magáról Havas Henrik a Lamborghini miatt szólt be Szoboszlai Dominiknak, majd eszébe jutott a saját első autója is.
- Ezt senki nem látta jönni: Károly király elképesztően kínos helyzetbe keveredett Ausztráliában Károly király és Kamilla királyné épp ausztráliai látogatásukat élvezték, amikor egy váratlan és kínos fordulat nehezítette meg az egyik legünnepélyesebb pillanatukat.
- Az esküvőjéről posztolt az ATV Start műsorvezetője - Meglepő, miért házasodna újra “Nem vártam az esküvőmet, de…” - kezdte a Naphire.hu-nak Tokár Tamás, aki a napokban egy képet is megosztott élete “legszebb és legjobb” napjáról. Ma már mindent másképp lát.