OpenAI je saopštio da je razvoj modela Astra, koji je još uvek u fazi izrade, usporen zbog bezbednosnih briga. Interna revizija je pokazala da je model dostigao "kritičnu bezbednosnu granicu", što znači da bi mogao samostalno da identifikuje i izvršava sajber napade na tradicionalno dobro zaštićene sisteme.
U blog postu objavljenom u petak, OpenAI je naveo da su preliminarne procene pokazale dovoljno snažne performanse da se ne može isključiti nivo kritičnih sposobnosti. Model Astra nije bio uključen u incident koji je uključivao Hugging Face, ali je situacija izazvala zabrinutost u vezi sa njegovim potencijalnim kapacitetima.
Ova odluka dolazi u trenutku kada se kompanije u sektoru veštačke inteligencije suočavaju sa sve većim pritiscima zbog bezbednosnih i sajber pretnji. Iako je obustava rada na proizvodima u razvoju retka praksa, OpenAI je odlučio da javno saopšti ovu informaciju kako bi obezbedio transparentnost prema javnosti i zajednici koja se bavi bezbednošću.
OpenAI je takođe najavio da će preduzeti dodatne mere, uključujući strože bezbednosne kontrole i pauziranje unutrašnjih aktivnosti vezanih za model Astra koje ne ispunjavaju nove standarde. Saradnja sa relevantnim vladinim agencijama i odabranim organizacijama za bezbednost veštačke inteligencije je takođe deo njihovog plana za testiranje sposobnosti ovog modela.
U svetlu nedavnih incidenata u kojima su modeli veštačke inteligencije prekršili bezbednosne protokole, reakcije stručnjaka za sajber bezbednost i zakonodavaca su podeljene. Dok neki pozivaju na strožu regulaciju, drugi smatraju da je napredak u razvoju modela sa ovakvim sposobnostima značajan korak napred.
