Az OpenAI vízjele: csak Európában, az API-n kikapcsolva
Az OpenAI október 5-én vízjelet tett a ChatGPT szövegébe. Csak az EU-ban, az API-n alapból kikapcsolva, és tíz százalék szócsere harmadával rontja a felismerést.
Október 5-én az OpenAI bejelentette, hogy láthatatlan vízjelet tesz a ChatGPT és a Codex szövegeibe. Csak az Európai Unióban. Az API-n alapból kikapcsolva.
Augusztus 2-án lépett életbe az EU AI-rendeletének átláthatósági fejezete. Kilenc nappal később az Anthropic jelentette be a sajátját, erről augusztusban írtam. Most a második nagy szereplő lépett.
A különbség a két lépés között érdekesebb, mint maga a hír.
Mi az a textGrain
A módszer neve textGrain. A technikai jelentést kilenc szerző jegyzi, négyen a Pennsylvaniai Egyetemről és a Yale-ről, öten az OpenAI-tól.
A modell minden szó előtt jóslatot készít arról, mi jöjjön a következő helyre. A vízjel egy titkos kulccsal csoportokba osztja a szóba jöhető szavakat, majd ezek közül választ. A csoporton belül a szavak megtartják az eredeti valószínűségüket. Az olvasó nem érzékel semmit. Egy detektor viszont felismeri a mintázatot.
A módszer nevében az a fontos szó, hogy kalibrált. A jelentés beállítható költségvetést ad arra, mennyi véletlenszerűséget áldoz fel a modell a jelért cserébe. Vagyis a vízjelnek ára van a szöveg változatosságában, és ezt az árat szabályozni lehet.
A lényeges rész az, hogy a jel magukban a szavakban él, nem a fájl metaadatában. Ezért másolás és beillesztés után is ott marad.
Van viszont egy következménye, amiről kevés szó esik. A felismeréshez a titkos kulcs kell. A detektornak elég a szöveg és a kulcs, a modellre nincs szüksége. Csakhogy a kulcs az OpenAI-nál van, és ott is marad. Az ellenőrzés tehát nem nyílt szabvány lesz, hanem gyártói szolgáltatás.
Az OpenAI szerint a modellek teljesítménye nem változott mérhetően tőle, és a jel nem azonosítja a felhasználót.
Három szám, ami eldönti, mit ér
92 százalék. Ennyi a felismerés pontossága változatlan szövegen.
66 százalék. Ennyire esik, ha a szavak tíz százalékát kicserélik szinonimára. Tíz szóból egyet.
Nulla. Ennyi vízjel kerül az API-n átmenő szövegbe, amíg valaki kézzel be nem kapcsolja.
Az első kettő az OpenAI közlése. Hogy ez miért számít, arra a cikk végén visszatérek.
A harmadik számról beszélnek a legkevesebbet, és az a legfontosabb.
Miért éppen most
Az időzítés nem véletlen, és az augusztusi bejegyzésben már ott volt a magyarázat.
Az átláthatósági kötelezettségek augusztus 2-án léptek életbe, de a gépi jelölésre kaptak egy átmeneti időt. Azoknak a generatív rendszereknek, amelyek augusztus 2. előtt kerültek piacra, december 2-ig van idejük bevezetni.
Vagyis most vagyunk a határidő előtti utolsó szakaszban. Ami ezután jön a többi szolgáltatótól, az sem jóindulat lesz, hanem ugyanennek a dátumnak a következménye.
Érdemes ezt fejben tartani, amikor a következő bejelentés jön. A kérdés nem az, hogy lépett-e valaki, hanem az, hogy mennyivel többet tett a minimumnál.
Amiben az OpenAI más, mint az Anthropic
Az Anthropic augusztusban globálisan vezette be a sajátját. Minden felületen: a weboldalon, az API-n, a Claude Code-ban és a felhős szolgáltatásokban. Nem szűkítette Európára, pedig az európai előírás váltotta ki.
Az OpenAI szűkebben lépett. A ChatGPT és a Codex felhasználói az EU-ban kapják meg, minden csomagszinten, a következő hetekben. Az Unión kívül nem. Az API-n a fejlesztő bárhol bekapcsolhatja válogatott modellekre, de alapból ki van kapcsolva.
Ez megfelelés. Nem elvi állásfoglalás.
Hol van a jel, és hol készül a szöveg
Itt válik el a dolog, és ez a szétválasztás számít egy cégnek.
A jelölés oda került, ahol a legkisebb a kockázat: egy európai magánemberhez, aki a ChatGPT felületén gépel.
Ott nincs, ahol a legtöbb AI-szöveg készül. Minden cégintegráció, minden automatikus hírlevél, minden generált termékleírás, minden tartalomgyár API-n megy. Azon az úton a jel alapból nincs bekapcsolva.
Aki tehát arra várt, hogy mostantól kimutatható lesz az AI-val írt szöveg, annak ez a bejelentés nem azt adta.
Amit a 66 százalék jelent a gyakorlatban
A vízjel az óvatlant jelöli meg, a szándékosan rejtőzőt nem.
Aki nem tud róla, annak a szövegében ott marad. Aki tud róla, egy átfogalmazó körrel kétharmadra viszi a felismerést, és onnantól a detektor válasza sem bizonyíték.
Ezért nem érdemes vízjelre alapozva ellenőrzést építeni. Sem a beadandót író diáknál, sem az alvállalkozónál, sem a szövegírónál.
A detektort egyébként sem adják ki induláskor. Az OpenAI indoka az, hogy a rendszer vízjeleket hagyhat ki, és tévesen is jelölhet meg szöveget.
Mi áll a technikai jelentésben, és mi nem
Letöltöttem a technikai jelentést, és végigolvastam. Húsz oldal, és egyetlen kísérleti mérés sincs benne.
Ami benne van: a generálás és a felismerés matematikai leírása, az entrópia-költségvetés levezetése, a megoldó algoritmus és a konvergencia bizonyítása. Komoly munka, de elméleti.
A 92 és a 66 százalék nem innen jön. Azok a számok a blogbejegyzésben szerepelnek, és a nyilvános technikai anyag nem közöl hozzájuk mérést. Ez nem azt jelenti, hogy a számok rosszak. Azt jelenti, hogy egyelőre az OpenAI állítása áll mögöttük, független ellenőrzés nélkül, úgy hogy közben a detektort sem adják ki.
A jelentés ráadásul kiírja a saját fenntartásait, és ezek erősebbek, mint amit a sajtó átvett.
A téves riasztás aránya nem garantált. A szöveg szerint a rögzített kulcs és a véges pontosságú számábrázolás miatt empirikus kalibráció kell, és az elméleti számítás önmagában nem szavatolja ugyanazt a hibaarányt minden kulcsra és alkalmazásra.
Rövid szövegnél nincs döntés. A detektor csak bizonyos pozíciókat pontoz, és ha nincs pontozható pozíció, akkor nem ad választ. Nem nemet mond, hanem semmit.
Egy harmadik részlet a gyakorlat felől érdekes. A felismerés minden ismétlődő szövegkörnyezetnek csak az első előfordulását pontozza. A sablonos, ismétlődő szövegben tehát eleve kevesebb a bizonyíték.
Három helyzet, három teendő
Ha a ChatGPT felületén írsz az EU-ban: a szövegedben a következő hetektől ott lesz a jel. Ez nem tilos. AI-val írni szabad, a rendelet nem ezt kéri. Az a kérdés, hogy a kész szöveget átnézi-e egy ember, és vállalja-e a felelősséget érte. A szerkesztői kontroll a kivétel feltétele, nem formalitás.
Ha a saját rendszered API-n hívja az OpenAI-t: nálad van a döntés, mert alapból nincs jel. Van helyzet, amikor érdemes bekapcsolni. Ha közérdekű témában publikálsz emberi ellenőrzés nélkül, a gépi jelölés pont a megfelelés része. Ha viszont minden kimenetet ember szerkeszt, nincs rá előírás.
Ha ellenőrizni akarsz valakit: ne erre épülj. A munkafolyamatot kérd, ne a detektort.
A saját rendszereim API-n hívják a modelleket, tehát nálam alapból nincs vízjel a szövegben. Ezt nem én döntöttem el, hanem a gyári beállítás. Ahol a kimenet kifelé megy, ott ember nézi át, mielőtt elhagyja a házat. A kettő közül az utóbbi a védelem, nem a jel.
A tanulság
Augusztusban azt írtam, hogy a gépi jelölést a gyártók megoldják helyetted, azt viszont senki nem oldja meg, hogy az ügyfeled tudja-e, kivel beszél.
Két hónappal később a kép pontosabb. A gyártók megoldják, de nem mindenhol, és nem azon az úton, amelyen a cégek többsége valóban AI-t használ.
A vízjel megmondja, hogy egy szöveg átment egy modellen. Azt nem, hogy valaki elolvasta-e, mielőtt a te nevedben kiment.