Text från ChatGPT får ett osynligt vattenmärke i EU

Vad som har hänt

Den 5 oktober berättade OpenAI att text från ChatGPT och Codex i EU får ett osynligt vattenmärke. Det rullas ut under de kommande veckorna. Företag som använder OpenAI:s API kan slå på samma märkning, men den är avstängd från början.

Bakgrunden är artikel 50 i EU:s AI-förordning. Den som erbjuder generativ AI ska märka innehållet så att en maskin kan läsa att det är skapat av AI. För tjänster som fanns före den 2 augusti 2026 gäller kravet från den 2 december 2026.

Så fungerar märkningen

När modellen väljer mellan ord som passar lika bra styrs valet lite, så att ett statistiskt mönster uppstår. Inga dolda tecken läggs in, och den som läser märker ingen skillnad. Mönstret syns bara med OpenAI:s detektor.

I OpenAI:s tester hittas märket i omkring 95 procent av längre texter. Byts en fjärdedel av orden ut hittas det i 17 procent av fallen. Svar kortare än cirka 150 ord och kod behöver inte märkas.

Vem ska märka, och vad händer annars?

Kravet att märka ligger på den som erbjuder AI-tjänsten, i det här fallet OpenAI. Den som bryter mot det kan få betala upp till 15 miljoner euro eller 3 procent av den globala årsomsättningen. För små och medelstora företag gäller det lägre av beloppen.

Ett företag som bara använder ChatGPT behöver inte märka något själv. Publicerar ni AI-text för att informera allmänheten i frågor av allmänt intresse, till exempel om hälsa eller miljö, ska det framgå att texten är AI-genererad. Det gäller inte om en person har granskat innehållet och någon har det redaktionella ansvaret.

När AI skriver utkastet

Märket följer med när ni kopierar texten. Ändrar ni mycket försvagas det, men det säger aldrig något om vem som har granskat. Enligt EU-kommissionen ska granskningen göras av en person med kunskap om ämnet. En stavningskontroll räknas inte.

Finns det nackdelar?

Detektorn är inte öppen, så ingen kund eller konkurrent kan i dag kontrollera era texter med den. Google har sedan 2023 sagt att innehåll bedöms efter nytta, inte efter hur det har skapats.

Nackdelen är att märket är trubbigt. Det kan inte skilja ett utkast som någon har arbetat om från en text som publicerats rakt av. Det ger också falska träffar, och OpenAI anger det som skälet till att detektorn inte släpps fritt.

Vad innebär det för er?

Använder ni ChatGPT till utkast för annonser, nyhetsbrev eller svar till kunder behöver ni inte göra något åt märkningen. Låt en person med kunskap om ämnet granska innehållet innan det publiceras, och bestäm vem som har ansvaret.

Har ni en chatbot eller ett annat verktyg på sajten som skriver text, avgör namnet vem som räknas som leverantör. Den som låter bygga tjänsten och använder den under sitt eget namn är leverantör, även om tjänsten bygger på OpenAI:s modell. Leverantören ska se till att besökaren får veta att den pratar med en AI, och att texten märks. Skriv in i avtalet med den som bygger tjänsten vem som ansvarar för vad.

Bygger tjänsten på OpenAI:s API är märkningen avstängd tills ni slår på den. Ta ställning före den 2 december.

Läs mer hos OpenAI: Our approach to EU text provenance rules. Läs mer hos EU-kommissionen: Transparency obligations under Article 50 of the AI Act.