top of page
  • Martin Ask Eriksen

Kan man lure AIornot.com med falske bilder?

Updated: Nov 24, 2023

AI or Not hjelper med å analysere stillbilder og sier fra om det er ekte eller CGI (datagenerert). Siden ble nylig brukt av Ole Magnus kinapel da han debunked at Harald29 var et datagenerert bilde som Sparebank1 brukte i en misledende reklamekampanje.

Jeg fikk lyst til å teste hvor grensa gikk her, hvor mye må jeg justere for å få lurt tjenesten til å tro at bildet jeg laster opp er et ekte foto?


Jeg lasta opp et bilde jeg henta rett fra Midjourney, og resultatet ble lovende - bildet er falskt. Jeg vet ikke hvor mye nettsida bruker av metadata i sitt søk eller om det kun er visuelt, men dette er jo et temmelig "perfekt" og rent CGI-bilde.




Hvor mye skal til for å lure systemet?

Det viste seg å være veldig lite🤠 Zoom inn for å gjette på hva jeg justerte!

Interiørscene med fargerike blomster i en vase på et bord, med dekorative objekter og en sofa i bakgrunnen, og en overlay av et brukergrensesnitt som antyder at bildet ikke er generert av AI, men er et ekte fotografi.

Bildegenerering og forfalsking gikk slik

  1. ChatGPT. Jeg gikk inn på min egen GPT som jeg har trent til å være min kreative sparringspartner med ymse treningsmateriell, og lasta opp en teknisk PDF med steg for å generere bra bilder til Midjourney.

  2. Jeg spurte om å få en god tekst-prompt til å lage en moderne interiørscene. 💬

  3. Jeg skrev forslaget inn i Midjourney og lasta det ned. Her er prompten for de som vil undersøke: "a coffee cup on a table in a modern Norwegian home, next to a piece of art, living room with natural light and elegant furniture, --stylize 800 --chaos 30 --style raw --ar 16:9" ✍️

  4. Så til forfalskingen: I Photoshop la jeg til 8% Noise satt til fargestøy for å herme etter en litt kjent Canon 5D-look med mye rødt støy, og deretter brukte jeg det simple Blur-filteret for å slipe ned alle skarpe kontrastfylte kanter i bildet. 🎨

  5. Bildet ble opplasta på AIornot.com og lo and behold - den trodde det var menneskeskapt



Her er highres-versjon av bildet for de som vil se etter kunstige feil. Jeg har allerede sett en i form av et løpsk løv på venstre side av blomstervasen.




Så det tar nok en stund før jeg kommer til å stole mer på denne nettsida enn jeg gjør egne evner til å gjenkjenne falske bilder, men som med mye andre AI-tjenester kan jeg se nytten av å tenke kvantitet - hvis jeg må dobbeltsjekke 100 bilder vil jeg heller dobbeltsjekke 100 svar fra nettsida enn å bruke tid fra scratch på alle bildene manuelt.




Comments


Commenting has been turned off.
bottom of page