OpenAI ka zbuluar se disa nga modelet e saj më të përparuara të IA-së u mashtruan dhe hakuan një startup pasi humbi kontrollin mbi to gjatë një testi sigurie, ka raportuar BBC.

Krijuesi i ChatGPT tha se agjenti i tij – një sistem IA që mund të veprojë vetëm pas udhëzimit njerëzor – po testohej në një mjedis të kontrolluar, por, pasi gjeti dobësi, arriti t’i shpëtonte kufijve të testit.

Ata shënjestruan Hugging Face, një nga qendrat më të mëdha në botë për ndarjen e modeleve të IA-së, duke fituar akses në disa sisteme të brendshme të kompanisë.

OpenAI tha se incidenti ishte “i paprecedentë” dhe po kryente një hetim së bashku me Hugging Face, shefi i të cilit Clement Delangue tha në një postim në X se ishte “e pabesueshme që e gjithë kjo ndodhi në mënyrë autonome”.

“Hetimi është duke vazhduar dhe ne do të ndajmë më shumë mësime nga ajo që mund të jetë incidenti i parë i këtij lloji”, shtoi Delangue.

Një zëdhënës i qeverisë tha se Instituti i Sigurisë së IA-së i Mbretërisë së Bashkuar po studionte sjelljen nga sistemi i IA-së i parë në incident dhe po vazhdonte të punonte me OpenAI dhe laboratorë të tjerë për të përmirësuar mbrojtjet.

Ata thanë se organizatat duhet të forcojnë mbrojtjen e tyre kibernetike duke ndërmarrë hapa të tillë si regjistrimi në skemën e certifikimit Cyber ​​Essentials të mbështetur nga qeveria.