Ja, ChatGPT-genererat innehåll kan detekteras med hjälp av en kombination av statistisk analys, maskininlärningsklassificerare och språkliga mönsterigenkänningsverktyg.
Eftersom användningen av stora språkmodeller, som OpenAIs ChatGPT, blir allt vanligare inom akademin, innehållsmarknadsföring, utbildning och journalistik, har utmaningen att skilja mellan människoskriven och AI-genererad text fått en ny brådska.
Den här artikeln utforskar hur ChatGPT-genererat innehåll kan upptäckas, tillgängliga verktyg, och det utvecklande vapenloppet mellan generativ AI och detekteringsteknik.
AI-genererat innehåll avser text skriven av stora språkmodeller (LLM) som GPT-4, utvecklad av OpenAI. Dessa generativa förutbildade transformatorer tränas på massiva datamängder och använder sannolikhet för att förutsäga nästa ord i en sekvens, vilket ger mycket flytande och ofta människoliknande text.
Eftersom LLM är optimerade för koherens och grammatisk noggrannhet, kan deras utdata verka nästan oskiljbara från mänskligt skrivande. Detta väcker oro över plagiering, felinformation och äktheten av skriftlig kommunikation.
Att generera text eller tal på ett naturligt språk med AI-programvara är fokus för Generering av naturligt språk (NLG), ett underfält av Natural Language Processing (NLP). NLG involverar beräkningslingvistik, Natural Language Understanding (NLU) och Natural Language Processing (NLP).
Du kan använda naturligt språkgenerering från chatbots och virtuella assistenter till kundservice och innehållsgenerering. Du kan också använda den för att producera skriftligt innehåll som rapporter, sammanfattningar och beskrivningar.
NLG-system använder maskininlärningsalgoritmer utbildad på stora datamängder för att generera text som låter mänskligt. Recurrent Neural Networks (RNN) och Transformers är två exempel på djupinlärningsmetoder som driver några av de mest avancerade NLG-systemen.
Den vanligaste typen av AI-språkmodell är en neuralt nätverksbaserad modell, som består av flera lager av sammankopplade noder. Dessa noder tränas på stora datamängder, till exempel Wikipedia eller nyhetsartiklar, för att lära sig mönster och relationer mellan ord och fraser på mänskligt språk. När AI-språkmodellen har tränats kan den generera ny text genom att förutsäga det mest troliga nästa ordet eller frasen baserat på sammanhanget för de tidigare orden.
ChatGPT, OpenAIs stora GPT-4-baserade språkmodell (för nu!) , är ett av de mest populära AI-verktygen. Systemet har tränats med mycket data så att det kan förstå och skapa språk som låter som vad folk säger. ChatGPT är med andra ord ett datorprogram som är gjort för att prata med människor, svara på deras frågor, ge dem information och skapa chatbots och virtuella assistenter.
Chat GPT är också intelligent nog för att klara prestigefyllda examina på forskarnivå men utan särskilt höga betyg. Det kraftfulla AI-chatbot-verktyget nyligen klarade både advokatprovet och läkarnämndens prov.
På grund av deras förmåga att generera människoliknande text, Chat GPT och andra AI-språkmodeller har väckt oro över deras potentiella missbruk. Elon Musk har varit högljudd om sitt missnöje med OpenAI sedan han avgick från styrelsen i februari 2018, vilket kulminerade i en öppet brev som uppmanar organisationen att pausa AI-arbetet med kraftfullare system. Trots några av de uttalade farhågorna har Musk varit en förespråkare för forskning och utveckling av AI-teknik som ChatGPT, och erkänt deras enorma potential.
Så, Att avgöra om en människa eller maskin har skrivit text är en växande utmaning, men kan hjälpa till att förebygga felinformation och spridning av skadligt innehåll, särskilt inom journalistik, cybersäkerhet och finans.
Forskare har experimenterat med flera metoder för att identifiera text producerad av AI. Detta är viktigt eftersom de senaste NLG-modellerna har förbättrat maskingenererad textmångfald, kontroll, och kvalitet. Men förmågan att skapa unik, manipulerbar, människoliknande text med oöverträffad hastighet och effektivitet gör NLG-modellmissbruk som phishing, desinformation, bedrägliga produktrecensioner, akademisk oärlighet och giftig skräppost svårare att upptäcka. För att maximera fördelarna med NLG-teknik och samtidigt minimera skador måste pålitlig AI ta itu med risken för missbruk.
Verkligt missbruk av generativa språkmodeller växer fram. Ett AI-kontrovers involverade en AI-forskare som skapade ett datorprogram som skriver saker som riktiga människor på en anslagstavla som heter 4chan. Anslagstavlornas användare lärde programmet att säga elaka och skadliga saker, och producerade många inlägg på anslagstavlan, inklusive stötande sådana, från dess träningsdata. Han gjorde programmet tillgängligt för nedladdning och visning, men många webbplatser förbjöd det eftersom det kunde säga elaka saker. Många AI-ledare - vetenskapliga direktörer, VD och professorer - fördömde denna modells användning.
En av de potentiella farorna i samband med dessa modeller är deras tillgänglighet för avancerade hotaktörer, vilket framgår av ChatGPT: s användarvänliga webbgränssnitt. Ett bra exempel är GPT-3, som hjälper Jasper, en AI-skrivassistent, för att generera innehåll genom mänskligt samarbete. Tack vare Jaspers kapacitet kan användare utan teknisk expertis förse modellen med uppmaningar, nyckelord och röstton för att skapa stora mängder blogg- och webbplatsinnehåll. Denna process kan enkelt replikeras med hjälp av öppen källkodsmodeller för att producera obegränsade mängder riktad felinformation utformad för populära sociala mediesajter och ladda den på gråmarknadskontoautomatiseringsverktyg.
Möjligheten att upptäcka maskingenererat innehåll är avgörande av flera skäl:
I slutändan kommer framtida NLG-forskning att ge nya underverk, men dåliga aktörer kommer också att använda den. För att maximera fördelarna med denna teknik och samtidigt minimera riskerna måste människor förutsäga och försvara sig mot missbruk.
AI-detekteringsverktyg förlitar sig på en kombination av språklig analys, statistisk modellering och maskininlärning för att identifiera text som genereras av modeller som ChatGPT. Nedan är de vanligaste teknikerna:
Förvirring mäter hur förutsägbar en text är för en språkmodell. ChatGPT-genererat innehåll tenderar att ha lägre förvirring eftersom det följer mer enhetliga, statistiskt troliga ordmönster. Mänskligt skrivande, däremot, har ofta oväntade fraseringar eller varierade meningsstrukturer.
Burstiness hänvisar till hur stor variation som finns mellan meningslängder. Mänskligt skrivande visar vanligtvis mer spränglighet - vissa korta, några långa, vissa komplexa - medan AI tenderar att producera mer jämnt strukturerade meningar.
Exempel:
AI-produktion: ”Ekonomin återhämtar sig. Inflationen avtar. Jobben ökar.”
Mänsklig produktion: ”Medan ekonomin visar tecken på återhämtning komplicerar pågående inflation och marknadsförändringar utsikterna - även om sysselsättningen ökar.”
Verktyg som GPTZero bedömer både förvirring och spränglighet för att avgöra om innehåll sannolikt är AI-genererat.
Vattenmärkning är ett experimentellt tillvägagångssätt utvecklat av OpenAI och andra, där osynliga signaler är inbäddade i själva texten genom att subtilt justera tokenvalet. Dessa mönster förändrar inte betydelsen men är statistiskt detekterbara i bulk.
Fördelen med vattenmärkning är att det gör det möjligt för plattformar att verifiera om innehållet härstammar från en känd modell. Denna teknik är dock ännu inte allmänt använd och kan neutraliseras genom omskrivning eller partiell omskrivning.
Detekteringsverktyg som Copyleaks och Turnitin använder övervakade maskininlärningsklassificerare utbildade på stora datamängder av AI- och människoskrivet innehåll. Dessa modeller lär sig subtila skillnader i syntax, grammatik, takt och koherens.
Vissa klassificerare är inställda på specifika skrivsammanhang - till exempel akademiska uppsatser eller journalistiska bitar - och kan justera sina förutsägelser i enlighet därmed.
Den viktigaste begränsningen är att klassificerare kan producera falska positiva resultat, särskilt med icke-engelsktalande eller strukturerat innehåll som listor och sammanfattningar, som liknar AI-text.
Här är några verktyg och manuella metoder för att avgöra om en AI skrev en text:
AI-detektor har utbildats med miljarder datasidor. Den kan testa upp till 25 000 tecken (nästan 4000 ord).
För att använda verktyget, kopiera och klistra in ditt skrivande i detekteringsfältet innan du skickar det för upptäckt. På några sekunder ser du en poäng för mänskligt innehåll (vilket indikerar hur troligt det är att en människa skrev ett textexprov) och en rad för rad uppdelning av misstänkt eller uppenbar AI.
Artificiell intelligens förutsäger genom att återskapa mönster. AI-generatorer lär sig att känna igen mönster och generera resultat som ”passar” dem. Text som motsvarar redan existerande format är mer sannolikt AI-genererad.
Skillnaderna mellan AI-utgång och mänskligt skrivande utvärderas genom förutsägbarhet, sannolikhet och mönsterpoäng. Mänskligt skrivande är oförutsägbart eftersom det inte alltid följer mönster. Mänskliga resultat varierar mer och är mer uppfinningsrika. AI-skrivning, å andra sidan, känner bara igen mönster.
Det enda icke-officiella AI-innehållsdetekteringsverktyget som fungerar med ChatGPT och GPT 3.5 är Originalitet (det mest avancerade generativa språkverktyget). Originality är en toppinnehållskontroll som upptäcker artificiell intelligens och plagiering. Detta verktyg bestämmer innehållets förutsägbarhet med hjälp av GPT-3 och andra naturliga språkmodeller utbildade på enorma mängder data.
Du får en professionell innehållsdetekteringskontroll på branschnivå, som effektivt kontrollerar kopior på produktionsnivå.
Verktyget använder en modifierad version av BERT-klassificeringsmodellen för att ta reda på om en text skrevs av en människa eller gjordes av AI. Kärnan i verktyget är en förtränad språkmodell med en ny arkitektur byggd på 160 GB textdata och finjusterad med miljontals exempel från en träningsdataset. Denna modell hittar korta texter som är svåra att förstå och är tillförlitliga för texter med mer än 50 tokens.
Om du vill använda Originality klistrar du in innehållet i checkern och skannar det.
Till skillnad från Content at Scale sparar Originality skanningar i kontoinstrumentpanelen. Detta är utmärkt för att ofta återgå till flera delar av innehåll.
AI-detekteringspoängen, inte procentandelen, indikerar sannolikheten för att den valda skriften är AI.
Enligt VD för Originality är innehåll som konsekvent rankas under 10% säkert! Endast när innehåll innehåller 40-50% AI bör du vara misstänksam mot dess ursprung.
Större provstorlekar förbättrar detektionsnoggrannheten, men noggrannhet innebär inte tillförlitlighet! Ju mer innehåll du läser av en författare, desto bättre kan du se om det är äkta.
Håll utkik efter falska positiva och negativa. Att utvärdera en författare/tjänst baserat på en serie artiklar snarare än en enda är att föredra.
Om detekteringspoängen är konsekvent höga eller låga är AI-skrivet innehåll troligtvis. En enda artikel kan inte visa att en webbplats eller flera dokument skrevs med hjälp av AI. Dessa detekteringsverktyg bör endast användas med extrem försiktighet. Fler artiklar från en enda källa kommer att öka ditt statistiska urval. Ändå involverar upptäckt många faktorer utöver vad en webbplats kan göra. Följande avsnitt kommer att gå över syntax, upprepning och komplexitet. Originality har implementerat en webbplatsomfattande kontroll.
Den Jätte språktestrum (GLTR), utvecklad av tre forskare från MIT-IBM Watson AI-labb och Harvard NLP, är ett utmärkt gratis verktyg för att upptäcka maskingenererad text (eller GLTR, för kort). GLTR är för närvarande det enklaste sättet att förutsäga om tillfälliga delar av text skrevs med AI eller inte. Kopiera och klistra in texten i GLTR-inmatningsrutan och klicka sedan på ”analysera”. Detta verktyg kan vara mindre kraftfullt än GPT-3-baserade metoder eftersom det är baserat på GPT-2.
Verktyget uppskattar textens AI-ursprung: sammanhanget till vänster bestämmer sannolikheten för att varje ord är det förutsagda ordet. De tio bästa förutspådda orden är gröna, de 100 bästa är gula, de 1000 bästa är röda och de återstående är violetta. Färgen på AI-genererat innehåll är grönt.
Återigen, inte perfekt, men en mycket bra förutsägare. GLTR är ett användbart visuellt verktyg för att utvärdera AI-innehåll men ger ingen poäng: du kommer inte att få en procentandel eller ett nummer som säger, ”Ja, det här är förmodligen AI.” Genom att klistra in text kan du uppskatta hur troligt en AI skrev den, men du bör fatta det slutliga beslutet.
Även om parametrarna för att upptäcka AI-innehåll kan vara mer tydliga, Writer.com tillhandahåller ett gratis och enkelt AI-skrivdetekteringsverktyg. Du kan kontrollera text via URL eller direkt klistra in skrivning i deras verktyg för att köra skanningar.
Detektorn innehåller 1500 tecken med AI-innehåll som kan kontrolleras gratis när som helst. Den upptäcker ChatGPT-genererad skrivning ganska bra.
Den Detektera GPT metoden bygger på beräkning av textens (log-) sannolikheter. Om en LLM skapar text har varje token en annan chans att visas baserat på de tokens som kom före den. Multiplicera alla dessa villkorliga sannolikheter tillsammans för att få hela textens sannolikhet.
DetectGPT-metoden stör sedan texten. Om sannolikheten för den nya texten är mycket lägre än sannolikheten för originaltexten, gjordes originaltexten av AI. Annars, om det är ungefär samma sak, människor gjorde det.
GPTZero är en enkel linjär regressionsmodell som uppskattar hur svår texten är att förstå.
Förvirringen har att göra med loggsannolikheten för texten som nämndes ovan för DetectGPT. Exponenten för den negativa loggsannolikheten används för att räkna ut förvirringen. Stora språkmodeller lär sig att maximera textsannolikheten, vilket minimerar sannolikheten för negativ logg och minimerar förvirring. Så ju mindre förvirrande en text är, desto mindre slumpmässig är den.
Sedan använder GPTZero tanken att meningar som är lättare att förstå är mer benägna att göras av en AI. GPTZero rapporterar också textens så kallade ”spränglighet”, vilket är ett annat sätt att säga hur förvirrande texten är. Sprängningen är en graf över hur svår varje mening är att förstå.
Här är huvudfunktionerna i varje verktyg:
Ett annat sätt att berätta om AI-genererat innehåll är genom tekniska aspekter av skrivandet. Titta djupt på innehållet om du behöver hjälp med de tidigare verktygen eller vill bryta ner ytterligare skrivande du har sett. Ta en titt på dessa:
1. Korta meningar är vanliga i AI-genererat innehåll. AI försöker skriva som människor men har ännu inte behärskat komplexa meningar. Detta är uppenbart när du läser en teknisk blogg med kod eller instruktioner. AI har ännu inte klarat Turing-testet. Du är i god form om GLTR eller Originality visar kreativt, unikt innehåll. Undersök det tryggt skumma tekniska innehållet.
2. En annan metod för att identifiera AI-genererat innehåll är repetition. Eftersom den inte vet vad den pratar om fyller AI i tomrummen med relevanta nyckelord. Som ett resultat är det mer troligt att en artikel skriven av en AI upprepar samma ord, som nyckelordfyllda artiklar och spamma AI-generationens SEO-verktyg. Nyckelordsfyllning är användningen av onaturligt upprepade ord eller fraser. Vissa artiklar innehåller sitt nyckelord i nästan varje mening. Det kommer att ta din uppmärksamhet bort från artikeln. Det stänger också av läsarna.
3. Brist på analys. Artiklar skrivna av AI är bristfälliga i komplex analys. Maskiner är utmärkta på att samla in data men måste förbättras när det gäller att tolka dem. Om en artikel läser som en lista med fakta utan analys, var den troligen skriven av artificiell intelligens. AI-genererat skrivande utmärker sig vid statisk skrivning (historia, fakta etc.) men måste förbättras på kreativt eller analytiskt skrivande. Med mer information skriver och manipulerar AI bättre.
4. Felaktiga uppgifter. Detta är vanligare i AI-genererade produktbeskrivningar men kan också hittas i blogginlägg och artiklar. När man samlar in data från flera källor måste maskiner korrigera saker. Om en maskin inte vet vad den ska göra men måste producera resultat kommer den att förutsäga siffror baserat på felaktiga mönster. Som ett resultat, om du läser en artikel och märker flera inkonsekvenser mellan fakta och siffror, kan du vara säker på att AI skrev den.
Den här kan verka överflödig, men det är fortfarande värt att nämna. Om du läser en artikel och domänen verkar orelaterad till innehållet är det din första röda flagga. Men ännu viktigare är att du bör dubbelkolla källorna som citeras i artikeln (om några). Anta att en författare använder källor från tvivelaktiga webbplatser eller förklarar saker utan källa. I så fall gör författaren antingen inte sin forskning eller automatiserar helt enkelt en massa AI-genererat innehåll.
Detekteringsverktyg är inte bara teoretiska - de används aktivt i utbildning, publicering och media. Så här gör du:
År 2023 integrerade Turnitin AI-detektering i sin plattform. I april 2024 hade verktyget granskat över 200 miljoner papper, flagga 11% som innehållande minst 20% AI-genererat innehåll och 3% som över 80% AI-genererade.
För att ta itu med oro över falska positiva, Turnitin visar en asterisk för detektioner under 20%, vilket indikerar lägre konfidens.
Detta fall illustrerar spänningen mellan akademisk integritet och AI: s utvecklande kapacitet.
Vissa medieorganisationer kör nu frilansbidrag genom AI-detekteringsverktyg innan de accepterar berättelser. Till exempel avvisade en brittisk digital utgivare enligt uppgift flera artiklar 2023 efter att GPTZero flaggade stora sektioner som AI-genererade.
Detta är särskilt relevant i en tid där felinformation, hastighet och volym pressar redaktionella standarder.
Byråer och interna team använder verktyg som Originality.ai för att verifiera att innehåll har skrivits av människor, särskilt för YMYL (Your Money Your Life) innehåll, där förtroende är avgörande.
Det finns också en växande trend att använda dessa verktyg för att blandning AI-genererade utkast med mänsklig redigering — syftar till att klara detektering samtidigt som produktionen skalas. Detta är dock fortfarande ett grått område för sökmotorer och etiska policyer.
Även om det finns tekniker för att upptäcka AI-genererad text, har de begränsningar, till exempel:
Så, för att sammanfatta:
Detekteringsutrymmet är i en pågående vapenkapplöpning med generativ AI eftersom varje förbättring av ChatGPT eller liknande verktyg introducerar nya utmaningar för detekteringssystem.
Så kan ChatGPT detekteras? Ja, men med varningar. Även om detekteringsverktyg har blivit mer sofistikerade är de inte idiotsäkra. Lärare, marknadsförare och utgivare måste balansera upptäcktsresultat med mänskligt omdöme och policy.
Eftersom generativ AI blir inbäddad i dagliga arbetsflöden kommer transparens och verktygskunnighet att vara nyckeln. Framtiden för AI-detektering kan förlita sig inte bara på algoritmer utan på branschstandarder, etiska avslöjanden och intelligent mänsklig tillsyn.
Om du är intresserad av att lära dig mer om vår datavetenskapliga tjänster, inklusive AI och NLP, kontakta oss. Vårt expertteam har åtagit sig att tillhandahålla banbrytande lösningar som hjälper dig att utnyttja kraften i data och AI i ditt företag.
Här kan du även se Imaginary Clouds workshop om ”En vattenstämpel för stora språkmodeller” :
Ja, AI-detekteringsverktyg som GPTZero och Originality.ai kan ofta identifiera text som genereras av ChatGPT, särskilt om den inte har redigerats avsevärt.
Många utbildningsinstitutioner använder verktyg med integrerad AI-detektering. Även om de inte är ofelbara kan dessa system flagga AI-assisterad skrivning.
Innehållet som produceras av ChatGPT själv är inte i sig spårbart såvida det inte innehåller mönster som kan detekteras av AI-verktyg eller framtida vattenmärkningsmetoder.
Dina frågor till ChatGPT kan loggas av plattformen eller organisationen som administrerar verktyget. Även om texten som den producerar inte är offentligt spårbar, är användningsloggar ofta det.
Verktyg som Originality.ai och GPTZero erbjuder tillförlitliga resultat, men inget verktyg är 100% korrekt.
Det manipulerar subtilt tokenmönster för att bädda in osynliga identifierare i genererad text.
De är statistiska mått på hur förutsägbar eller varierad text är. De används för att skilja mänskligt från AI-skrivande.
Ja. Med omskrivning, hybridinnehåll eller snabb teknik kan användare kringgå många nuvarande detekteringssystem.
Alexandra Mendes är Senior Growth Specialist på Imaginary Cloud med 3+ års erfarenhet av att skriva om mjukvaruutveckling, AI och digital transformation. Efter att ha avslutat en frontend-utvecklingskurs tog Alexandra upp några praktiska kodningskunskaper och arbetar nu nära med tekniska team. Alexandra brinner för hur ny teknik formar affärer och samhälle och tycker om att förvandla komplexa ämnen till tydligt och användbart innehåll för beslutsfattare.
Datavetare brinner för datavetenskap och vakar över dess etiska konsekvenser. Förutom arbete älskar jag att nörda på musik och läsa en bra historia.
Människor som läste det här inlägget tyckte också att dessa var intressanta:
.webp)
.webp)
.webp)
%20(1).webp)
.webp)
