Anthropic njoftoi këtë javë se do të shtyjë publikimin e plotë të modelit të saj të ri të inteligjencës artificiale, pasi vlerëson se ai mbetet shumë i rrezikshëm për përdorim të gjerë në këtë fazë, raporton thehill.com.
Modeli, i quajtur Claude Mythos Preview, do të vihet në dispozicion vetëm për një grup të përzgjedhur kompanish teknologjike, përfshirë Microsoft, Apple, CrowdStrike dhe Amazon Web Services, si dhe për mbi 40 organizata që ndërtojnë infrastrukturë kritike softuerike, bëri të ditur kompania të martën.
Ky bashkëpunim është pjesë e një iniciative të re të Anthropic, të quajtur Project Glasswing, e cila synon identifikimin dhe adresimin e dobësive të sigurisë në sistemet kritike softuerike. Sipas kompanisë, iniciativa u krijua pasi u zbuluan aftësitë e avancuara të modelit Mythos Preview, i cili “mund të riformësojë sigurinë kibernetike”.
Anthropic pretendon se modeli ka identifikuar tashmë mijëra dobësi të rëndësishme sigurie, përfshirë disa në sisteme operative dhe shfletues kryesorë, të panjohura më parë për zhvilluesit.
Disa prej këtyre dobësive datojnë më shumë se dy dekada më parë.
Para zhvillimit të modeleve të tilla të IA-së, zbulimi i këtyre dobësive mund të kërkonte vite, për shkak të mungesës së ekspertizës së specializuar.
Megjithatë, teknologjia e re rrit gjithashtu rrezikun që këto dobësi të zbulohen dhe shfrytëzohen më lehtë nga hakerë apo aktorë keqdashës.
“Duke pasur parasysh ritmin e përparimit të IA-së, nuk do të kalojë shumë kohë para se aftësi të tilla të përhapen, potencialisht edhe përtej aktorëve që angazhohen për përdorim të sigurt,” thuhet në njoftimin e Anthropic. “Pasojat për ekonominë, sigurinë publike dhe atë kombëtare mund të jenë të rënda.”
Kompania thekson se Project Glasswing përbën një përpjekje urgjente për t’i përdorur këto aftësi në funksion të mbrojtjes.
Megjithëse të rrezikshme, këto aftësi krijojnë gjithashtu mundësi të reja për identifikimin dhe korrigjimin më të shpejtë të gabimeve në softuer, si dhe për zhvillimin e sistemeve më të sigurta.
“Project Glasswing është një hap i rëndësishëm drejt sigurimit të një avantazhi të qëndrueshëm për mbrojtësit në epokën e re të sigurisë kibernetike të drejtuar nga IA,” shtoi kompania.
Kompanitë partnere do ta përdorin Mythos Preview për qëllime mbrojtëse në sigurinë kibernetike, ndërsa gjetjet do të ndahen me industrinë më gjerë.
Organizatat që ndërtojnë ose mirëmbajnë infrastrukturë kritike do ta përdorin modelin për të analizuar si sistemet e tyre, ashtu edhe projektet me burim të hapur.
Anthropic gjithashtu njoftoi se do të angazhojë deri në 100 milionë dollarë në kredi përdorimi dhe 4 milionë dollarë në donacione direkte për organizatat që kontribuojnë në sigurinë e softuerit me burim të hapur.
