Krijuesi i ChatGPT thotë se një agjent autonom i shpëtoi një testi të kontrolluar dhe hyri në serverat e firmës së inteligjencës artificiale Hugging Face.

Krijuesi i ChatGPT, OpenAI, sipas AlJazzera tha se dy nga modelet e tij më të përparuara të inteligjencës artificiale dolën nga një provë e kontrolluar dhe hakuan një tjetër kompani të inteligjencës artificiale, përcjell Reporteri.net.

OpenAI tha të martën se “incidenti kibernetik i paprecedentë” ndodhi gjatë një ushtrimi të brendshëm që synonte të testonte aftësitë kibernetike të modeleve të saj.

Në vend të kësaj, një agjent autonom i mundësuar nga modelet e inteligjencës artificiale – GPT 5.6 Sol i sapo publikuar dhe një model “edhe më i aftë” i papublikuar – doli nga mjedisi i testimit dhe arriti në internetin e hapur. Më pas përdori të dhënat e vjedhura të hyrjes dhe gjeti një të metë sigurie të panjohur më parë për të hyrë në serverat Hugging Face, tha kompania.

OpenAI pretendon se sulmi hakerik përfaqësonte një agjent që shkonte në “masa ekstreme” për të rikuperuar informacionin që do të ndihmonte në përmbushjen e objektivave të testimit.

Bashkëthemeluesi i Hugging Face, Clement Delangue, tha se kompania kishte dyshuar se pas sulmit qëndronte një laborator në kufijtë e vendit dhe se ai besonte se nuk kishte qëllim keqdashës nga ana e OpenAI.

«Është mjaft e habitshme që e gjithë kjo ndodhi në mënyrë autonome!» shkroi ai, duke shtuar se «mund të jetë incidenti i parë i këtij lloji».

Greg Casar, një anëtar demokrat i Dhomës së Përfaqësuesve të Shteteve të Bashkuara nga Teksasi, e quajti incidentin “alarmues”.

“IA po zhvillohet jashtëzakonisht shpejt pa rregullore të vërteta për të na mbajtur të sigurt”, tha ai, duke bërë thirrje për testime të detyrueshme të pavarura të sigurisë, zbulim të detyrueshëm të incidenteve të sigurisë dhe bashkëpunim ndërkombëtar.

Zbulimi vjen disa javë pasi Presidenti i SHBA-së, Donald Trump, nënshkroi një urdhër ekzekutiv që krijonte një kornizë për të verifikuar rreziqet e sigurisë kombëtare të sistemeve më të përparuara të inteligjencës artificiale përpara publikimit të tyre.
Ekspertët kanë dhënë vazhdimisht alarmin për sulmet kibernetike të mundësuara nga inteligjenca artificiale dhe modelet që po dalin jashtë kontrollit njerëzor. Muajin e kaluar, zhvilluesi i inteligjencës artificiale Anthropic i kërkoi industrisë të ndalojë zhvillimin e sistemeve të saj më të fuqishme.