Orodje za umetno inteligenco Grok, ki deluje v okviru platforme X Elona Muska, je za veliko večino uporabnikov izklopilo možnost ustvarjanja in urejanja slik. Do te poteze je prišlo po obsežnem ogorčenju javnosti in regulatorjev, saj je bila tehnologija v zadnjih tednih množično zlorabljena za generiranje spolno eksplicitnih in nasilnih posnetkov. Ukrep sledi neposrednim grožnjam s finančnimi kaznimi in regulativnimi postopki, v Združenem kraljestvu pa so se pojavila celo poročila o možni popolni prepovedi delovanja platforme X.
Tehnologija je bila namreč zlorabljena za manipulacijo fotografij resničnih žensk, s katerih so digitalno odstranili oblačila in jih postavili v seksualizirane položaje brez njihovega privoljenja. Funkcija je zdaj onemogočena za vse uporabnike, z izjemo tistih, ki plačujejo naročnino.
Identifikacija uporabnikov kot varovalka
Na uradnem profilu orodja Grok na omrežju X so zapisali: "Generiranje in urejanje slik sta trenutno omejena na plačljive naročnike." Ta sprememba prinaša pomembno varnostno posledico. Ker platforma X hrani osebne podatke in informacije o kreditnih karticah svojih naročnikov, to pomeni, da uporabniki niso več anonimni. V primeru ponovne zlorabe orodja za ustvarjanje nezakonitih vsebin je storilce mogoče lažje identificirati in izslediti.
Razsežnost problema je zaskrbljujoča. Kot poroča britanski The Guardian, je njihova raziskava razkrila, da je bilo orodje uporabljeno ne le za ustvarjanje pornografskih videoposnetkov žensk brez njihovega soglasja, temveč tudi za generiranje podrobnih in vznemirjajočih prizorov nasilja, vključno s prikazi streljanja in ubojev žensk. Elon Musk se zaradi tega sooča z grožnjo regulativnih ukrepov iz več držav po svetu.
To je nezakonito in nevzdržno
Odziv politike je bil oster in hiter. Britanski premier Keir Starmer je v sredo zagrozil z odločnim ukrepanjem proti socialnemu omrežju. Od vodstva platforme X je zahteval, da "prevzamejo nadzor" nad poplavo z umetno inteligenco ustvarjenih fotografij delno oblečenih žensk in otrok.
Starmer je poudaril, da ima britanski komunikacijski regulator Ofcom polno podporo vlade pri ukrepanju v zvezi s to zadevo. "To je nezakonito. Tega ne bomo tolerirali. Zahteval sem, da so na mizi vse možnosti. Platforma X se mora zresniti in odstraniti to gradivo. Ukrepali bomo, ker je to preprosto nevzdržno," je bil jasen britanski premier.
Težave so se stopnjevale v zadnjih dveh tednih, potem ko je bila konec decembra posodobljena funkcija ustvarjanja slik v orodju Grok. V tem kratkem času je bilo ustvarjenih na tisoče seksualiziranih slik žensk brez njihovega privoljenja. Kljub ponavljajočim se javnim pozivom k odstranitvi ali omejitvi funkcije, se socialno omrežje do sedaj ni odzvalo. Platforma X doslej uradno ni komentirala novinarskih vprašanj glede nastale situacije.
