Komisioni Evropian ka nisur një hetim formal ndaj Grok, chatbot-it të X, pasi funksioni i redaktimit të imazheve të mjetit të tij të integruar të inteligjencës artificiale u përdor gjerësisht për të zhveshur virtualisht fotografi të grave të vërteta dhe vajzave të mitura pa pëlqimin e tyre.

Siç u raportua për herë të parë nga Handelsblatt, hetimi do të shqyrtojë nëse platforma e mediave sociale bëri mjaftueshëm për të zbutur rrezikun e krijimit dhe shpërndarjes së imazheve.

Nëse zbulohet se X ka shkelur rregullat e platformës online të BE-së sipas Aktit të Shërbimeve Dixhitale (DSA) të bllokut, Komisioni mund ta gjobisë kompaninë deri në 6% të xhiros së saj vjetore globale.

Dhjetorin e kaluar, Komisioni Evropian gjobiti rrjetin social të Elon Musk me 120 milionë euro për shkak të shenjave të verifikimit të llogarisë dhe praktikave të reklamimit.

Shqetësimet dolën në pah verën e kaluar pasi mjeti i integruar i inteligjencës artificiale i platformës, Grok, u përmirësua me një veçori me pagesë të njohur si “Spicy Mode”, e cila i lejonte përdoruesit ta nxisnin atë të krijonte përmbajtje eksplitike.

Më herët këtë muaj, ndërsa zemërimi në mbarë botën ndaj këtij funksioni u rrit, një zëdhënës i Komisionit e dënoi këtë funksionalitet me fjalët më të ashpra.

“Kjo nuk është ‘ngacmuese, kjo është e paligjshme, kjo është e tmerrshme, kjo është e neveritshme, kjo nuk ka vend në Evropë”, u shpreh ai.

Në përgjigje të zemërimit dhe alarmit publik, X përfundimisht zbatoi masa për të parandaluar Grok-un nga lejimi i redaktimit të imazheve të njerëzve të vërtetë për t’i vendosur ata në veshje dhe situata seksuale zbuluese, me kufizime që zbatohen për të gjithë përdoruesit, përfshirë abonentët me pagesë.

X tha gjithashtu se imazhet e seksualizuara të fëmijëve të modifikuara nga Grok ishin hequr nga platforma dhe se përdoruesit e përfshirë në krijimin e tyre ishin ndaluar.

“Ne ndërmarrim veprime kundër përmbajtjes së paligjshme në X, duke përfshirë Materialin e Abuzimit Seksual të Fëmijëve (CSAM), duke e hequr atë, duke pezulluar përgjithmonë llogaritë dhe duke bashkëpunuar me qeveritë lokale dhe zbatimin e ligjit sipas nevojës”, postoi llogaria X Safety.

Kjo nuk është hera e parë që Grok është vënë nën shqyrtim për shkelje të dyshuara të ligjit evropian. Nëntorin e kaluar, chatbot-i i inteligjencës artificiale gjeneroi përmbajtje që mohonte Holokaustin.

Hetimet ndaj chatbot-it të platformës janë aktualisht duke vazhduar në Francë, Mbretërinë e Bashkuar dhe Gjermani, si dhe në Australi. Grok është ndaluar tërësisht në Indonezi dhe Malajzi.

Komisioni tha se kishte dërguar një kërkesë për informacion sipas DSA-së dhe se është ende duke analizuar përgjigjen.