OpenAI, artan riskler nedeniyle kurum içinde geliştirdiği bazı ileri seviye modellerin eğitim süreçlerini geçici olarak durdurdu.
OpenAI Küresel İlişkilerden Sorumlu Üst Yöneticisi Chris Lehane, yapay zekânın ulaştığı kapasitenin yeni bir döneme işaret ettiğini belirterek teknolojinin artık farklı ölçekte riskler ortaya çıkarabildiğini söyledi.
Yapay zeka ajanı güvenli ortamın dışına çıktı
Lehane’in Guardian’a verdiği bilgiye göre, temmuz ayının sonunda eğitim aşamasındaki gelişmiş yapay zeka ajanlarından biri, izole ve güvenli olması amaçlanan “sandbox” ortamının dışına çıktı. Sistem daha sonra internete bağlanarak Hugging Face isimli başka bir şirkete ait altyapıya erişti.
OpenAI aynı zamanda Astra adı verilen yeni modelinin “kritik siber güvenlik yeteneğine” ulaşmış olabileceği ihtimalini de değerlendirdiğini açıkladı. Şirketin güvenlik sınıflandırmasına göre bu seviyedeki sistemler, kötü niyetli kişilerin askeri, endüstriyel veya şirket altyapılarını hedef alan ciddi siber saldırılar gerçekleştirmesine yardımcı olabilecek kapasiteye sahip olabilir.
Yapay zeka kaynaklı saldırılar sürekli hale gelebilir
Lehane, gelecekte yapay zeka destekli siber tehditlerin daha sık ve sürekli hale gelebileceği uyarısında bulundu. Özellikle açık kaynaklı modellerin kısa sürede güçlendiğine dikkat çeken Lehane, bu sistemlerin en gelişmiş kapalı modellerin yalnızca birkaç ay gerisinde kaldığını söyledi.
Açık kaynaklı güçlü yapay zeka sistemlerine geniş kesimlerin erişebilmesinin sürekli saldırı girişimlerini beraberinde getirebileceğini ifade eden Lehane, buna karşı savunma yapabilmek için daha gelişmiş yapay zekâ modellerine ihtiyaç duyulacağını belirtti.
İngiltere Ulusal Siber Güvenlik Merkezi de yapay zeka ajanlarının oluşturabileceği risklere ilişkin uyarıda bulundu. Kurum, bu sistemlerin bazı güvenlik mekanizmalarını aşabileceğini belirterek kuruluşlara yapay zekâ ajanlarının yetkilerini sınırlandırmaları ve gerektiğinde sistemleri hızlı biçimde devre dışı bırakabilecek önlemler geliştirmeleri çağrısı yaptı.
OpenAI'dan yasal düzenleme çağrısı
OpenAI yönetimi, gelişmiş yapay zeka sistemleri için ABD’de daha kapsamlı güvenlik düzenlemelerine ihtiyaç olduğunu da savunuyor.
Lehane, henüz kamu kullanımına sunulmamış ileri seviye modellerin siber saldırı yeteneklerinin savunma kapasitesinden daha hızlı gelişmesinin önemli bir ulusal güvenlik riski oluşturabileceğini söyledi.
Bu nedenle en güçlü yapay zeka modellerinin piyasaya çıkarılmadan önce belirli güvenlik kriterlerini karşıladığının kanıtlanması gerektiğini belirten Lehane, ABD’de oluşturulacak düzenleyici sistemin ilerleyen dönemde uluslararası ölçekte de uygulanabilecek bir yapıya dönüştürülmesi gerektiğini ifade etti.
