Hur kan bilder genererade av artificiell intelligens kännas igen?

AI-baserade verktyg som kan generera bilder från text blir utbredda men allt svårare att känna igen. Fel vid produktion av detta innehåll minskar i takt med att tekniken går framåt, men leverantörer av dessa verktyg arbetar för att göra syntetiskt innehåll identifierbart.

Modeller av Generativ artificiell intelligens De är inte längre begränsade till text, och därför till att skriva textinnehåll, utan de har blivit allt mer avancerade så att de kan göra det också Skapa bilder Och nyligen, Video och ljud. Vi hänvisar till de verktyg, gratis eller betalda beroende på resursen och funktionerna som tillhandahålls, som låter dig skriva en textsträng för att få en statisk eller animerad bild som tillgodoser begäran. Till exempel ”Katter spelar fotbollMicrosoft introducerade nyligen det kostnadsfria verktyget ”Designer” i sin Copilot-mjukvara baserat på OpenAI:s Dall-E 3-modell. Samtidigt minskar felen i produktionen av detta innehåll i takt med att AI-modellernas kapacitet utvecklas. Lyckligtvis fungerar leverantörer av dessa verktyg för att göra syntetiskt innehåll identifierbart.

AI kan också generera bilder, inte bara text

Om verktyg baserade på generativ AI som kan skapa on-demand-videor är sällsynta idag, som Sora nyligen tillkännagav av OpenAI, är de som låter dig skapa bilder med början från text alltmer i centrum för diskussionerna, eftersom de är orsaken Spridningen av falskt innehåll på nätet. Alla som vet hur man använder dessa verktyg kan be AI att skapa en bild av en känd person, till exempel i ett sammanhang långt från verkligheten. Teknik även känd som com. deepfake, som utan adekvata censuråtgärder visar sig vara alltmer avancerad, vilket gör det svårt att skilja mellan verkligt innehåll och falskt innehåll. Det är en allt farligare teknik, eftersom den används av illvilliga människor för att skapa vilseledande reklamkampanjer.

Generativ AI används för att skapa riktiga bedrägerier för att locka potentiella offers uppmärksamhet. Till exempel används ofta en känd persons image – och ibland deras röst – för att skapa kampanjer som bjuder in dig att investera online för att enkelt tjäna mycket pengar. Det är möjligt att se den här typen av bedrägliga kampanjer, särskilt bland annonser på sociala medier: så du bör vara mycket försiktig.
När vi lyssnade på Deejay Radio en morgon hörde vi att Alessandro Cattelan också hade uppmärksammat detta ämne och informerat om att någon hade skapat en falsk reklamkampanj genom att replikera hans röst med hjälp av artificiell intelligens. Sedan fick han sällskap av andra kändisar, som klagade över ungefär samma sak: brottslingar som utnyttjar sin image i bedrägerier.

Bilder genererade av generativ AI, hur kan du känna igen dem

Att känna igen annonser och innehåll som skapats med generativ AI blir allt svårare. ”Det finns innehåll som man lätt kan lägga märke till.”Tillverkningsfel'. För ljudinnehåll kan du till exempel vara uppmärksam på språket: AI kan vara påtvingat och onaturligt, precis som om högtalaren vore en maskin som ännu inte kan upprepa vissa nyanser av toner. Under de senaste månaderna har vissa underhållningsradioprogram för att underhålla allmänheten skapat innehåll som imiterar kändisar: även ett otränat öra räcker för att känna igen förekomsten av artificiell intelligens.

Bilder som genereras av artificiell intelligens kan vara svåra att känna igen, eftersom skapande tekniker utvecklas snabbt. Detta beror dock på modellen som ligger till grund för det generativa verktyget. Faktum är att mindre avancerade modeller kanske inte kan generera detaljer exakt, så genom att analysera bilder som kan innehålla mycket detaljer kan man hitta ledtrådar. Men mer avancerade modeller kan vara bättre, vilket gör det svårare att känna igen AI-intervention. Och så kan det finnas bilder med osannolikt innehåll som är uppenbara utan mycket eftertanke smidda Utan tvekan: Tänk till exempel på bilden av påven som klättrar på ett berg.

AI-genererade bilder måste vara identifierbara

Om du tvivlar på en bilds karaktär och inte kan hitta element som kan indikera om den kan ha skapats av artificiell intelligens, fungerar samma verktyg som låter dig skapa den här typen av innehåll för att göra det mer eller mindre lätt att identifiera . Till exempel har Meta, OpenAI och Microsoft ansträngt sig för att integrera Identifierare och/eller metadata för att underlätta identifiering av AI-genererat innehåll Deras verktyg inkluderar MetaAI, Copilot och DALL-E. Sedan finns det några verktyg som genererar bilder med en vattenstämpel som är synlig för det mänskliga ögat i något område av själva bilden. För att återgå till osynliga identifierare och metadata, finns det ett behov av verktyg som kan ”läsa” denna information gömd i bilden. Som vi kommer att se nedan finns det några som kan nås online, även gratis.

Det är värt att notera att Meta ansträngde sig för att känna igen det AI-genererade innehållet som användare delar på Instagram, Facebook och Threads och sedan lade till en etikett som tydligt talar om för människor att innehållet de tittar på var AI-genererat. Meta arbetar också med sin egen algoritm som kan känna igen AI-genererat innehåll även om det inte innehåller standardidentifierare. Vi pratade om det här.

Det finns onlineverktyg för bildigenkänning som genereras av artificiell intelligens

När du har tvivel om bildens karaktär, om den inte har identifierare eller visuella etiketter som indikerar att den skapades med artificiell intelligens och du inte märker några konstiga element eller fel i den, kan du använda några onlineverktyg som kan hjälpa med detta. Var dock försiktig: den här typen av verktyg kan känna igen alla identifierare och metadata som upptäcks i bilderna, om de finns, men i avsaknad av identifierare vet vi inte om de kan generera eller inte. Falska positiva, det vill säga hänvisar till bilden som genereras med hjälp av artificiell intelligens när den i verkligheten inte är det. Med det sagt, medan du söker på webben, Sky TG24 H Fan sida Vi rekommenderar dessa verktyg för att identifiera falska bilder: 'Ai eller inte”,”Luminarte”,”Ansikte kramar'H'FotoForensics'. Det noteras också attSyntid ID(deepmind.google/technologies/synthid/), ett Google DeepMind-verktyg för närvarande i betaversion som låter dig lägga till identifierare och identifiera AI-genererat innehåll.