Mark Zuckerberg vállalata azt állítja, hogy egy olyan új technológiát vezetnek be, amely képes felismerni és címkézni a más vállalat mesterséges intelligencia (AI) eszközei által generált képeket. A vállalat a technológiát a Facebook, az Instagram és a Threads platformjain fogja alkalmazni.
![](https://storage.googleapis.com/naphire/meta-mark-zuckerberg.inbox800x450.jpg)
A Meta már most is címkézi a saját rendszerei által generált AI-képeket, és azt remélik, hogy az új technológia – amit most fejlesztenek még – lendületet ad az iparágnak az AI-hamisítás elleni küzdelemhez.
Sir Nick Clegg, a Meta vezetője által írt blogban azt írják: az elkövetkező hónapokban kívánják bővíteni az AI-hamisítványok címkézését. Clegg ugyanakkor elismerte azt is, hogy a technológiai még nem teljesen kiforrott, azonban ezzel lendületet és ösztönzést kívánnak adni az iparág többi résztvevőjének.
De Sohel Feizi, a Marylandi Egyetem Megbízható AI Laboratóriumának igazgató szerint azonban egy ilyen rendszert könnyű lenne kijátszani – írja a BBC.
"Lehet, hogy képesek lesznek betanítani a detektort arra, hogy képes legyen megjelölni bizonyos képeket, amelyeket kifejezetten bizonyos modellek generáltak. De ezeket a detektorokat könnyen ki lehet kerülni a képek tetején végzett könnyített feldolgozással, és a hamis pozitív eredmények aránya is magas lehet. Szóval nem hiszem, hogy ez az alkalmazások széles körében lehetséges” – fogalmazott.
A Meta elismerte, hogy eszköze nem fog működni a hang- és videófelvételek esetében - annak ellenére, hogy az AI-hamisításokkal kapcsolatos aggodalmak nagy része ezekre a médiumokra összpontosul. A cég ehelyett arra kéri a felhasználókat, hogy saját hang- és videós bejegyzéseiket címkézzék fel, és megjegyezték, hogy „szankciókat alkalmazhatnak, ha ezt a felhasználók elmulasztják.”
Hétfőn a Meta Felügyeleti Testülete bírálta a vállalatot a manipulált médiával kapcsolatos politikája miatt, és azt "inkoherensnek, meggyőző indoklás nélkülinek és nem megfelelő módon a tartalom létrehozásának módjára összpontosítónak" nevezte. A Felügyeleti Testületet bár a Meta finanszírozza, de független a cégtől.
A kritika egy Joe Biden amerikai elnökről készült videóval kapcsolatos döntésre reagált. A szóban forgó videóban az elnökről az unokájával készített meglévő felvételeket úgy szerkesztették meg, hogy úgy tűnjön, mintha illetlenül érintené a lányt. S mivel nem mesterséges intelligenciával manipulálták, ráadásul nem Biden szavait hamisították meg, így nem sértette a Meta manipulált médiára vonatkozó irányelvét és nem távolították el.
A testület egyetértett azzal, hogy a videó nem sérti a Meta hamisított médiára vonatkozó jelenlegi szabályait, de azt mondta, hogy a szabályokat frissíteni kell.
A Meta vezetője elmondta, nagyjából egyetért a döntéssel és elismerte, hogy a jelenlegi politikájuk „egyszerűen nem felel meg a célnak egy olyan környezetben, ahol sokkal több szintetikus és hibrid tartalom lesz, mint korábban.”
Januárban a vállalatnak olyan irányelvei is életbe léptek, amelyek szerint a politikai hirdetéseknek jelezniük kell, ha digitális módosított képeket vagy videókat használnak.
Ahogy arról korábban a naphire.hu is beszámolt, óriási botrány robbant ki, miután Taylor Swiftről szexuális tartalmú, mesterséges intelligenciával szerkesztett képeket állítottak elő, melyek futótűzként kezdtek terjedni az interneten. A 18+-os képeket több közösségi oldalon - például az X-en (korábban Twitter) és a Telegramon is megosztották, ezáltal többmillió emberhez eljutottak, mielőtt eltávolították őket. A döbbenetes eset kapcsán az X korábban már közölte, hogy aktívan törlik a képeket és megfelelő lépéseket tesznek a fotók terjesztésében részt vevő fiókok ellen.
Elindult a Naphire.hu YouTube-csatornája, iratkozzon fel a legfrissebb videóinkért!
Kapcsolódó cikkek
- Iszonyú botrány robbant ki a Google körül, elképesztő dologgal vádolják a keresőóriást Az amerikai technológiai óriás, a Google „versenyellenes gyakorlatot” alkalmaz az online hirdetésekkel kapcsolatban - állapította meg pénteken a brit versenyfelügyelet egy kétéves vizsgálat előzetes megállapításaiban.
- Ez már több a soknál! Már a privát üzeneteket is moderálja ez a közösségi oldal A változtatást azután vezették be, hogy a közösségi oldal vezérét letartóztatták Franciaországban.
- (18+) Ez a sokak által használt alkalmazás iszonyúan veszélyes a gyerekekre nézve, tele van szexuális ragadozóval A Snapchat az elsődleges platformja az online ragadozóknak, akik „szextorziós” módszerekkel kényszerítik a kiskorúakat, hogy képeket és videókat küldjenek magukról - derül ki egy Új-Mexikóban benyújtott keresetből. Raúl Torrez főállamügyész csütörtökön jelentette be, hogy hivatala egy több hónapos vizsgálatot követően jogi lépéseket tett a Snapchat anyavállalata, a Snap ellen.
- Megyeri Csilla kíméletlenül beleszállt egy egész generációba: "nem akarok általánosítani, csak" A műsorvezetőnő nem fogta vissza magát, kíméletlenül kifejtette gondolatait arról, hogy milyennek tartja a Z generáció tagjait.