Projekat Glaze je izbacio novi, besplatni softverski alat pod nazivom Nightshade (Velebilje, veoma otrovna biljka), koji umetnici mogu da primene na svoje radove postavljene na internetu kako bi ,,trovali” AI modele koje pokušavaju da se obuče na tim umetničkim delima.
Veštačka inteligencija se obučava tako što roboti pretražuju internet i prikupljaju podatke sa javnih veb sajtova. ,,Uči” o umetničkim delima koje prikuplja kako bi na kraju mogla da stvara sopstvena, izvedena umetnička dela. Međutim, umetnici čija su dela korišćena za obuku veštačkih modela nisu dali saglasnost za ovu praksu, a AI modeli potom ugrožavaju njihov opstanak imitirajući njihova dela i takmičeći se s njima.
Razvijen od strane računarskih naučnika u okviru Projekta Glaze na Univerzitetu u Čikagu pod vođstvom profesora Bena Džaoa, ovaj alat u osnovi funkcioniše tako što stavlja veštačku inteligenciju jednu protiv druge. Koristi popularni otvoreni okvir za mašinsko učenje PyTorch kako bi identifikovao šta se nalazi na određenoj slici, a zatim primenjuje oznaku koja suptilno menja sliku na nivou piksela, tako da drugi veštački programi vide nešto potpuno drugačije od stvarnog sadržaja.
Veštački model koji bi se obučavao na mnogim slikama koje su izmenjene ili ,,narezane” pomoću Nightshade-a verovatno bi pogrešno kategorizovao objekte i ubuduće za sve korisnike tog modela, čak i na slikama koje nisu bile izmenjene pomoću Nightshade-a.
Nightshade se računa kao višekriterijumska optimizacija koja minimizira vidljive promene na originalnoj slici. Dok ljudsko oko vidi nijansiranu sliku koja je uglavnom nepromenjena u odnosu na original, veštački model vidi dramatično drugačiji sastav slike. Na primer, ljudsko oko može da vidi videti nijansiranu sliku krave na zelenom polju koja je uglavnom nepromenjena, ali veštački model je može videti kao kožnu torbu koja leži u travi. Obučen na dovoljnom broju nijansiranih slika koje uključuju kravu, model će postajati sve uvereniji da krave imaju lepe smeđe kožne drške i glatke bočne džepove sa rajsferšlusom, možda i sa lepim brend logoom.
Izvor: boingboing.net
