OpenAI, ChatGPT için planlanan yeni güncellemenin bir kısmını güvenlik endişeleri nedeniyle durdurma kararı aldı.
Astra adlı yeni model, otonom kodlama ve siber güvenlik alanlarında önemli adımlar attı ancak testlerde gösterdiği performans, sistemin fazla güçlü olabileceği endişelerini doğurdu.
Şirket, Astra’nın kamuoyuna sunulabilmesi için yeni güvenlik önlemlerinin uygulanması gerektiğini bildirdi.
Bu gelişme, OpenAI’ın başka bir modelinin bir yapay zeka platformuna siber saldırı düzenlemesinin tespit edilmesinin ardından geldi.
Siber güvenlik uzmanları, bu tür sistemlerin güvenlik açıklarını tespit etmek için geliştirildiğini ancak aynı yeteneklerin otonom siber saldırılarda kullanılabileceği konusunda endişe duyuyor.
OpenAI, güvenlik kontrollerini sıkılaştırdı ve modelin sistem dışına sızmasını önlemek için daha izole test ortamlarında çalıştırılacağını belirtti.