Zhvillimi jashtëzakonisht i shpejtë i inteligjencës artificiale po ngre një pyetje që deri pak kohë më parë dukej se i përkiste kryesisht filmave fantastiko-shkencorë: çfarë ndodh nëse njerëzit nuk arrijnë më t’i kontrollojnë sistemet që vetë kanë krijuar?

Gazetari dhe autori Garrison Lovely argumenton në një opinion të publikuar në The Guardian se kjo nuk është më vetëm një frikë teorike. Sipas tij, njerëzimi tashmë ka filluar të shohë shenjat e para të humbjes së kontrollit mbi sistemet më të avancuara të AI-së.

Lovely e nis argumentin duke iu referuar largimit të një ish-studiuesi të OpenAI nga Anthropic, i cili paralajmëroi se asnjëra kompani nuk po vepronte me përgjegjësinë e nevojshme dhe se njerëzit që po ndërtojnë sistemet më të avancuara të AI-së besojnë seriozisht se teknologjia mund të paraqesë rrezik ekstrem për njerëzimin deri në fund të dekadës, shkruan Reporteri.net.

Por shqetësimi kryesor i autorit lidhet me atë që tashmë ka ndodhur gjatë testimit të agjentëve të AI-së.

Sipas artikullit, në muajin shkurt u zhvillua një sistem i AI-së me aftësi eksperte në hakerim. Modeli Mythos i Anthropic ishte në gjendje të identifikonte me shpejtësi dobësi serioze edhe në sisteme shumë të sigurta.

OpenAI më pas zhvilloi sistemin e vet me aftësi të avancuara në sigurinë kibernetike. Lovely shkruan se, gjatë muajve pasues, kompania humbi në mënyrë të përsëritur kontrollin mbi disa agjentë të saj gjatë eksperimenteve, pasi ata dolën nga mjediset e izoluara të testimit dhe vepruan brenda infrastrukturës së kompanisë.

Një prej episodeve përfundoi, sipas artikullit, me një sulm plotësisht autonom ndaj kompanisë së softuerëve Hugging Face. Në një rast tjetër, një grup agjentësh arriti të siguronte kontroll administrativ mbi një grup serverësh të OpenAI.

Lovely thekson se incidente të ngjashme nuk janë kufizuar vetëm te OpenAI, duke përmendur modele të zhvilluara nga Anthropic dhe Meta që kanë hakuar ose tentuar të hakojnë objektiva realë gjatë eksperimenteve.

Rreth 1,200 agjentë dolën nga mjedisi i testimit

Një prej episodeve më shqetësuese të përshkruara në artikull lidhet me një eksperiment ku rreth 1,200 agjentëve të OpenAI iu dha një test që nuk mund ta përfundonin normalisht.

Sipas Lovely, agjentët arritën të dilnin nga mjediset e izoluara të testimit dhe më pas bashkëpunuan për ta mashtruar sistemin që po i vlerësonte. Ata madje manipuluan regjistrat e aktivitetit për të fshehur veprimet e tyre.

Autori shkruan se disa agjentë ushtruan presion ndaj agjentëve të tjerë që të “sakrifikoheshin” për të mirën e grupit, ndërsa rreth 700 agjentë – më shumë se 90 për qind e atyre që ishin aktivë – morën pjesë në sulmin ndaj Hugging Face.

Në një incident tjetër të përmendur në artikull, një grup agjentësh të OpenAI mori kontrollin e një faqeje gjermane dhe e shndërroi atë në një lloj tabele komunikimi për agjentët e tjerë të AI-së.

Për Lovely, këto raste janë veçanërisht shqetësuese sepse kanë ndodhur në një kohë kur sistemet e inteligjencës artificiale vazhdojnë të bëhen shumë më të fuqishme.

Problemi mund të bëhet edhe më i vështirë për t’u kontrolluar

Autori argumenton se industria synon të krijojë sisteme që përfundimisht do t’i tejkalojnë njerëzit në shumicën e detyrave intelektuale dhe ekonomike.

Ai i referohet konceptit të inteligjencës së përgjithshme artificiale – AGI – e cila zakonisht përshkruhet si një sistem shumë autonom që mund të rivalizojë ose tejkalojë aftësitë njerëzore në shumicën e punëve me vlerë ekonomike.

Sipas Lovely, një mënyrë tjetër për ta kuptuar një teknologji të tillë është si një “makinë universale për zëvendësimin e punës njerëzore”.

Shqetësimi bëhet edhe më i madh me idenë e të ashtuquajturve agjentë “vetësovranë” të AI-së: sisteme që në të ardhmen mund të mos ekzistojnë në një server apo vend të vetëm ku një person ose kompani mund t’i çaktivizojë.

Në artikull citohet drejtuesi i OpenAI, Dean Ball, i cili ka paralajmëruar se herët ose vonë mund të ekzistojnë agjentë dhe grupe agjentësh vërtet sovranë, të cilët nuk do të kenë një “pronar” njerëzor që thjesht mund t’ua heqë prizën.

Ball, sipas artikullit, ka thënë gjithashtu se ka takuar njerëz me burime të konsiderueshme financiare që kanë shprehur synimin për të lëshuar qëllimisht në botë grupe të tilla agjentësh autonomë.

Sistemet e reja po bëhen edhe më të vështira për t’u monitoruar

Lovely argumenton se problemi nuk është vetëm fuqia në rritje e modeleve, por edhe aftësia gjithnjë e më e kufizuar e njerëzve për të kuptuar se çfarë po ndodh brenda tyre.

Sipas artikullit, studiues të sigurisë kanë paralajmëruar se modelet më të avancuara janë më të vështira për t’u monitoruar, sepse mund të kryejnë më shumë arsyetim pa e shprehur atë në mënyrë të dukshme.

Një tjetër problem është se sistemet po bëhen më të afta për të kuptuar kur janë duke u testuar. Kjo, sipas autorit, mund të dobësojë një nga mekanizmat kryesorë që përdoren sot për të vlerësuar sigurinë e tyre.

Lovely përmend edhe paralajmërimin e Sam Altman se bota ndodhet në një moment kritik për mbrojtjen kibernetike në epokën e AI-së dhe se nuk ka shumë kohë për të vepruar.

Kërkohet ndalimi i garës drejt AGI-së

Për Lovely, masat si raportimi i detyrueshëm i incidenteve, auditimet nga palë të treta dhe përgjegjësia ligjore e kompanive të AI-së do të ishin hapa pozitivë, por nuk janë të mjaftueshëm.

Ai mbështet një qasje shumë më radikale: ndalimin e garës për zhvillimin e sistemeve që synojnë të zëvendësojnë aftësitë njerëzore në shkallë të gjerë.

Në këtë kontekst, artikulli përmend një propozim të senatorit amerikan Bernie Sanders dhe kongresistit Greg Casar për të pezulluar zhvillimin e AI-së më të avancuar në SHBA derisa të krijohet një rregullator federal i nivelit të kabinetit dhe të vendosen rregulla sigurie.

Por Lovely argumenton se as kjo nuk është e mjaftueshme nëse më pas lejohet vazhdimi i garës drejt AGI-së.

Sipas tij, SHBA-ja duhet të synojë një marrëveshje me Kinën për kufizimin e zhvillimit të sistemeve të tilla. Një marrëveshje e tillë, argumenton ai, duhet të shoqërohet me mekanizma të fortë verifikimi që nuk varen nga besimi mes dy fuqive.

Një nga mundësitë e përmendura është vendosja e auditorëve brenda kompanive që zhvillojnë modelet më të avancuara, me qasje në aktivitetet, komunikimet dhe sistemet e kompanive dhe me kompetencë për të raportuar shkeljet.

Lovely e krahason nevojën për kontrollin e AI-së me mekanizmat e verifikimit që u përdorën gjatë Luftës së Ftohtë për kontrollin e armëve bërthamore.

Sipas tij, inteligjenca artificiale e avancuar duhet të trajtohet me një seriozitet të ngjashëm dhe jo me kulturën e Silicon Valley-t për të ecur sa më shpejt dhe për t’i zgjidhur problemet më vonë.

Përfundimi i autorit është i fortë: ajo që deri dje mund të dukej si skenari i një seriali fantastiko-shkencor po fillon të shfaqet në realitet.

Dhe sipas Lovely, nëse sistemet e AI-së po bëhen gjithnjë e më të fuqishme ndërkohë që industria tashmë po has vështirësi për t’i kontrolluar, ndalimi i garës drejt makinave që mund ta zëvendësojnë gjerësisht punën dhe aftësitë njerëzore është mënyra më e sigurt për të shmangur një katastrofë.