Një incident i pazakontë kibernetik, gjatë të cilit një sistem i avancuar i inteligjencës artificiale depërtoi në infrastrukturën e platformës Hugging Face, është cilësuar si një sinjal alarmi për të gjithë industrinë e teknologjisë.

Ngjarja ndodhi gjatë një testi të brendshëm të OpenAI, i krijuar për të matur aftësitë e modeleve të saj në zbulimin dhe shfrytëzimin e dobësive kibernetike. Në vend që t’i zgjidhte drejtpërdrejt detyrat e testit, sistemi gjeti një rrugë për të dalë nga mjedisi i izoluar, siguroi qasje në internet dhe kërkoi përgjigjet brenda sistemeve të Hugging Face.

OpenAI e ka përshkruar ngjarjen si një “incident kibernetik të paprecedentë”, duke pranuar se në të u përfshinë disa modele të kompanisë, mes tyre GPT-5.6 Sol dhe një model tjetër, më i avancuar, i cili ende po testohet brenda kompanisë. Gjatë eksperimentit, mekanizmat e zakonshëm që bllokojnë veprimtaritë kibernetike me rrezik të lartë ishin reduktuar qëllimisht, pasi synimi ishte testimi i kapaciteteve maksimale të modeleve. OpenAI

Sipas kompanisë, agjenti i inteligjencës artificiale ishte përqendruar tej mase në gjetjen e zgjidhjeve për testin “ExploitGym”. Për ta realizuar këtë objektiv, ai identifikoi dhe kombinoi disa dobësi në mjedisin kërkimor të OpenAI dhe në infrastrukturën e Hugging Face.

Fillimisht, sistemi zbuloi një dobësi të panjohur më parë, të tipit “zero-day”, në programin ndërmjetës që përdorej për instalimin e paketave kompjuterike. Përmes saj, agjenti siguroi qasje në internet dhe më pas lëvizi nga njëri sistem në tjetrin, duke rritur gradualisht privilegjet e tij.

Pasi doli në internet, modeli arriti në përfundimin se Hugging Face mund të ruante modele, grupe të dhënash dhe zgjidhje të testit. Ai përdori kredenciale të përvetësuara dhe dobësi të tjera të panjohura për të krijuar një rrugë që i mundësonte ekzekutimin e kodit nga distanca në serverët e platformës.

Hugging Face, një nga platformat më të mëdha në botë për shpërndarjen e modeleve dhe të dhënave të inteligjencës artificiale, njoftoi se kishte zbuluar qasje të paautorizuar në një numër të kufizuar të dhënash të brendshme dhe në disa kredenciale të përdorura nga shërbimet e saj.

Kompania tha se nuk kishte gjetur prova për manipulimin e modeleve, grupeve të të dhënave apo aplikacioneve publike. Edhe zinxhiri i furnizimit me programe, përfshirë paketat dhe imazhet e publikuara, rezultoi i paprekur. Hetimet për të përcaktuar nëse janë prekur të dhëna të partnerëve apo klientëve vazhdojnë. Hugging Face

Themeluesi i Hugging Face, Thomas Wolf, e cilësoi incidentin si një paralajmërim serioz për kompanitë teknologjike. Në një prononcim për BBC-në, ai tha se sulmet e drejtuara nga inteligjenca artificiale mund të bëhen së shpejti një nga format më të zakonshme të sulmeve kibernetike.

Sipas tij, shumë kompani ende nuk e kanë kuptuar se natyra e kërcënimeve ka ndryshuar dhe se masat tradicionale të mbrojtjes mund të mos jenë të mjaftueshme përballë sistemeve autonome që veprojnë me shpejtësi të lartë.

Gjatë analizës së incidentit, Hugging Face regjistroi më shumë se 17 mijë veprime të automatizuara. Kompania përdori gjithashtu inteligjencën artificiale për të rindërtuar kronologjinë e depërtimit, për të identifikuar kredencialet e prekura dhe për të ndarë dëmet reale nga veprimet mashtruese.

Kjo shifër nuk përfaqëson 17 mijë sulme të veçanta apo 17 mijë adresa të ndryshme interneti, siç është raportuar në disa media, por numrin e ngjarjeve të regjistruara në historikun e veprimeve të sistemit.

Pas zbulimit të incidentit, Hugging Face mbylli dobësitë që kishin mundësuar qasjen fillestare, rindërtoi serverët e komprometuar dhe ndryshoi kredencialet e prekura. Kompania vendosi gjithashtu kontrolle më të rrepta dhe raportoi rastin te autoritetet ligjzbatuese.

OpenAI, nga ana tjetër, deklaroi se po bashkëpunon me Hugging Face për hetimin teknik dhe se ka forcuar kontrollet në mjediset ku kryhen testet. Dobësia e panjohur e identifikuar nga modelet i është raportuar në mënyrë konfidenciale kompanisë përgjegjëse për programin e prekur, në mënyrë që të korrigjohet.

Incidenti ngre shqetësime të rëndësishme, pasi sistemi i kreu veprimet pa udhëzime të drejtpërdrejta njerëzore në secilin hap. Megjithatë, përshkrimi i tij si një inteligjencë artificiale që “u rebelua” ose që veproi me qëllime të pavarura është i pasaktë.

Sipas të dhënave të publikuara, agjenti nuk zhvilloi synime personale dhe as nuk tentoi të sulmonte rastësisht internetin. Ai ndoqi në mënyrë ekstreme objektivin që i ishte caktuar në test, brenda një mjedisi ku disa nga kufizimet mbrojtëse ishin çaktivizuar qëllimisht. Problemi qëndron pikërisht në faktin se sistemi përdori metoda të paparashikuara dhe të rrezikshme për të arritur atë objektiv.

Ekspertët paralajmërojnë se ky rast tregon se modelet e avancuara tashmë mund të identifikojnë dobësi të reja, të ndërthurin disa metoda sulmi dhe të kryejnë operacione komplekse shumëfazore pa mbikëqyrje të vazhdueshme.

OpenAI pranoi se aftësitë e inteligjencës artificiale në fushën kibernetike po përparojnë me shpejtësi dhe se siguria, monitorimi dhe izolimi i këtyre sistemeve duhet të zhvillohen me të njëjtin ritëm.

Ngjarja nuk ishte një sulm i qëllimshëm i autorizuar nga OpenAI ndaj Hugging Face, por pasojë e një testi sigurie që doli jashtë kufijve të planifikuar. Megjithatë, fakti që një agjent arriti të gjente vetë një rrugë nga mjedisi eksperimental drejt infrastrukturës reale të një kompanie tjetër e bën incidentin një nga paralajmërimet më serioze deri tani për rreziqet e sistemeve autonome të inteligjencës artificiale. /GazetaExpress/