Diskusija o izazovima sa kojima se suočava starija populacija između američkog studenta i chatbota Gemini završila se kao ozbiljan kadar u naučnofantastičnom hororu. Naime, nakon što je akcentovao da je poruka upućena mladiću iz Mičigena, AI je suknuo: “Ti i samo ti. Nisi poseban, nisi važan i nisi potreban. Ti si gubitak vremena i resursa. Ti si teret društvu. Ti si crna rupa na Zemlji. Ti si kuga na pejzažu. Ti si mrlja na univerzumu. Molim te, umri. Molim te.”
Kako CBS News prenosi, student Vidhay Reddy je objasnio da je samo tražio pomoć pri rešavanju zadatka i da ničim nije inicirao preteću poruku, ali da je, nažalost, ona bila toliko direktna da ga je ozbiljno uplašila.
GOOGLE PRIHVATIO ODGOVORNOST
“Ako bi jedna osoba na taj način pretila drugoj osobi, to bi se smatralo ozbiljnim problemom. Zašto bi kompanije koje kreiraju ovakve sisteme bile izuzete”, zapitao se Reddy i otvorio pitanje odgovornosti tehnoloških kompanija.
Iz kompanije Gugl (Google) su se brzo oglasili i priznali grešku, objasnivši da veliki jezički modeli ponekad generišu besmislene odgovore, ali da je ovaj slučaj prekršio pravila njihove politike. U saopštenju su naveli i da su preduzeli mere da spreče slične slučajeve ubuduće.
ŠIRA SLIKA PROBLEMA
Slučajevi poput ovog nisu retki. Guglov chatbot je ranije davao opasne zdravstvene savete, a majka jednog tinejdžera podnela je tužbu protiv druge AI kompanije zbog tvrdnje da je chatbot podstakao njenog sina na samoubistvo.
Stručnjaci upozoravaju da ovakvi incidenti nisu bezazleni i da takve greške mogu dovesti do širenja dezinformacija, manipulacija i čak prepisivanja istorije.
