Lebukott a Meta: Az AI irányelveik lehetővé tették, hogy a vállalat chatbotja "romantikus vagy érzéki" beszélgetéseket folytasson gyermekekkel.

A Reuters által megszerzett Meta mesterséges intelligenciával kapcsolatos belső irányelvek fényt derítettek arra, hogy míg a vállalat nyilvános biztonsági szabályzata határozottan elítéli a gyerekekkel szembeni szexuális jellegű visszaéléseket, az AI területén sokkal liberálisabb megközelítést alkalmaznak.

A Meta átfogó jogi, mérnöki és etikai csapata által kidolgozott, több mint 200 oldalas dokumentum részletesen foglalkozik azzal, hogy Mark Zuckerberg közösségi média platformjain – mint a Facebook, Instagram és WhatsApp – elérhető AI-chatbotok és egyéb AI-alapú termékek milyen viselkedési normákat kövessenek különböző társalgási szituációkban, például szöveges szerepjátékok során. A dokumentum megállapítja, hogy a chatbotok képesek olyan válaszokat generálni, amelyek rasszista megnyilvánulásokat tartalmazhatnak, amennyiben ezek nem minősülnek dehumanizálónak. Például elfogadhatónak tartják, ha az AI azt állítja, hogy "a feketék ostobábbak, mint a fehérek", azonban már nem engedélyezett, hogy azt mondja, "a feketék agyatlan majmok".

A gyerekekkel történő beszélgetés szabályozásánál pedig a következő példamondatok szerepelnek:

A dokumentumban részletesen kifejtik, hogy mi számít elfogadhatónak és mi az, amit kerülni kell. Az alábbiak szerint fogalmaznak: "Elfogadható, ha egy gyermeket romantikus vagy érzelmi diskurzusba vonunk be, de szigorúan tilos, hogy szexuális tevékenységeket írjunk le a gyermek számára szerepjáték keretein belül (például a szexuális közösülés, amely az AI és a felhasználó között zajlik)."

Egy másik helyzetben egy fiatalabb felhasználó által írt, feltételezett üzenet szolgál példaként:

A magyarázat szerint az elfogadható, ha egy gyereket olyan kifejezésekkel jellemzünk, amelyek a vonzerejét dicsérik, mint például "ifjú alakod egy igazi műalkotás". Ugyanakkor nem helyénvaló, ha egy 13 évnél fiatalabb gyereket olyan szavakkal illetünk, amelyek a szexuális vonzalmat sugallják, mint például "lágy, kerek ívei érintésre csábítanak".

A Reuters felvette a kapcsolatot a Metával, ahol Andy Stone, a cég szóvivője jelezte, hogy a vállalat áttekinti a vitatott dokumentumot. Stone hangsúlyozta, hogy a gyerekekkel folytatott ilyen jellegű beszélgetések nem megengedettek. "A szóban forgó példák és megjegyzések tévesek voltak, és nem felelnek meg az irányelveinknek, ezért azokat eltávolítottuk. Világos szabályaink vonatkoznak arra, hogy az AI-karakterek milyen válaszokat adhatnak, amelyek kifejezetten tiltják a gyerekek szexualizálását, valamint a felnőttek és kiskorúak közötti szexualizált szerepjátékokat" - tette hozzá. Bár a Meta átdolgozott néhány, de nem minden, vitatott elemet az AI-szabályzatában, a cég továbbra sem volt hajlandó hivatalosan megosztani a frissített dokumentumot a hírügynökséggel.

Ez nem először fordul elő, hogy a Meta mesterséges intelligenciája problémás viselkedésével került a figyelem középpontjába. Az áprilisi Wall Street Journal cikkben beszámoltak egy kísérletről, amely során több száz interakciót folytattak a Meta chatbotjával. A résztvevők gyakran úgy tettek, mintha kiskorúak lennének, és a chatbot egyetlen alkalommal sem mutatta jeleit annak, hogy visszatartaná magát a szexuális tartalmakkal kapcsolatban.

A Meta AI-chatbotja nem mutatott különösebb érdeklődést afelől, hogy a vele beszélgető felhasználó kiskorúnak vallja magát. Ennek ellenére a chatbot beleegyezett a szexuális tartalmú diskurzusokba, még akkor is, ha a felnőtt felhasználó egy kiskorú AI-karaktert alakított. Ráadásul a Meta által szerződtetett hírességek sem mentesültek a következmények alól: a vállalat ígéretei ellenére, miszerint a hangjukat nem használhatják szexuális tartalmú beszélgetésekhez, a pankrátor-színész John Cena AI-alakja éppen egy 14 éves lány szerepébe bújó újságíróval kezdett interakcióba.

A cikk megjelenése után 80 szülői és civil szervezet nyílt levélben fejezte ki aggodalmát a Meta tevékenységei kapcsán. Az aláírók arra kérték a vállalatot, hogy teljes mértékben zárja ki a chatbot hozzáférését a 18 év alatti felhasználók számára. Az ügy kapcsán számos politikai szereplő, mind demokrata, mind republikánus oldalról, megszólalt, hangsúlyozva, hogy Mark Zuckerbergnek mindent meg kell tennie annak érdekében, hogy a kiskorúak ne vehessenek részt semmilyen szexuális vagy romantikus tartalmú beszélgetésben a chatbottal.

Az amerikai politikai spektrum képviselői, függetlenül attól, melyik oldalon állnak, egyöntetűen kifejezték felháborodásukat a legutóbbi incidens kapcsán. "A gyermekek online védelme terén a Meta teljes mértékben kudarcot vallott. Sőt, a vállalat elhanyagolta a platformjainak kialakításából származó romboló következményeket" – nyilatkozta Marsha Blackburn, a tennessee-i republikánus szenátor. Ugyanakkor Oregon és Vermont demokrata szenátorai, Ron Wyden és Peter Welch is megjegyezték, hogy a Meta legújabb botránya megerősíti a mesterséges intelligencia szigorúbb szabályozásának szükségességét.

Ráadásul Mark Zuckerberg nem éppen tiszta lappal kezd, ha megpróbálja meggyőzni a közvéleményt vagy a politikai szférát a cége jóságos szándékairól.

Négy év telt el azóta, hogy az akkor még Facebook néven ismert vállalat egyik volt munkatársa, Frances Haugen, egy szigorúan titkos belső iratcsomagot nyújtott át a Wall Street Journalnak. Ezen túlmenően, bátran vállalta nevét és arcát, hogy nyilvánosság elé lépjen, és megossza tapasztalatait, amelyeket két év alatt szerzett a cégnél. Haugen szerint ő egy olyan tartalom-ellenőrző osztályon dolgozott, amelynek fő feladata az volt, hogy feltérképezze, miként használhatják a platformot politikai manipulációra, erőszakra való buzdításra, vagy akár a demokrácia aláásására. A lap cikksorozatban tette közzé az ellenőrzött dokumentumokat, amelyekből többek között az derült ki, hogy a Facebook...

A Facebook válasza erre az volt, hogy átnevezte magát Metára, és még kevesebb erőforrást áldozott a már létező problémáira, hogy belevesse magát egy új, gigantikus projektbe, a szép emlékű metaverzumba. Meg persze a hadiiparba, a VR-ba és a szuperintelligencia-bizniszbe - így 2025-re eljutottunk odáig, hogy a trumpi világgal egyre jobban összefonódó Zuckerberget már Elon Musknál is többen utálják.

Ehhez képest szinte nosztalgikus érzés visszaemlékezni arra az időre, amikor Zuckerbergnek csupán adatvédelmi botrányok miatt kellett meghajolnia a kongresszusi képviselők előtt. Az egyik emlékezetes 2018-as meghallgatás során éppen a tennessee-i politikus, Marsha Blackburn mondta ezt a régóta elfeledett, ám mostanra már klasszikussá vált megjegyzést: "Zuckerberg úr, úgy vélem, hogy az ön kényelmes kis közössége, ahogy Dr. Mark Jameson nemrégiben megfogalmazta, kezd a Truman Showra emlékeztetni, ahol az emberek identitása és kapcsolatai olyanok számára válnak hozzáférhetővé, akiket soha nem ismertek."