Nvidia'dan Yapay Zeka Ajanları İçin Yeni Güvenlik Platformu: "Kontrolden Çıkmalarını Önleyecek"

ABD merkezli çip üreticisi Nvidia, yapay zeka ajanlarının kontrol dışına çıkmasını önlemeyi amaçlayan yeni güvenlik platformunu duyurdu.

olarak ekleyin Ekonomi, iş dünyası, piyasalar ile ilgili en güvenilir ve en detaylı haberlere en hızlı şekilde ulaşın. + Ekle

Şirketin "Open Agent Safety Platform" adını verdiği platform, yapay zeka ajanlarının hareket alanını sınırlandırmaya yönelik açık kaynaklı yazılımlar içeriyor.

Yapay zeka devi Nvidia'dan tarihin en büyük hisse geri alım kararıBorsa

Nvidia Kurumsal Yapay Zekadan Sorumlu Başkan Yardımcısı Justin Boitano, basın mensuplarına yaptığı açıklamada, platformun yapay zeka ajanlarının yalnızca kendilerine verilen görevleri yerine getirmesini sağlayacak güvenlik mekanizmaları sunduğunu belirtti.

Nvidia: Hugging Face Vakasını Önleyebilirdi

Boitano, açıklamasında yapay zeka güvenliği açısından dikkat çeken Hugging Face vakasına da değindi.

"Bildiğimiz kadarıyla bu yeni güvenlik platformu, öncü laboratuvarlarda model değerlendirme süreçlerinde erkenden kullanılmış olsaydı bu ihlali durdurabilirdi." diyen Boitano, platformun ajanların yetkilerini sınırlandırmayı ve faaliyetlerini izlemeyi amaçladığını ifade etti.

2030'da dünyanın sonu mu gelecek? Nvidia CEO'sundan dikkat çeken yorumYapay Zeka

Platformun "OpenShell" adı verilen yazılımı, geliştiricilere bir yapay zeka ajanının görevini tamamlamak için ihtiyaç duyduğu yetkilerin ötesine geçmediğini doğrulama imkanı sunuyor.

Açık kaynaklı yazılımın farklı bilgi işlem platformlarında çalışabilecek şekilde genişletilebildiği belirtildi.

Sentry Şüpheli Hareketleri Takip Ediyor

Platformun bir diğer bileşeni ise doğrudan çip üzerinde çalışan bağımsız güvenlik katmanı "Sentry".

Nvidia'nın açıklamasına göre Sentry, yapay zeka ajanlarının faaliyetlerini gerçek zamanlı olarak izliyor ve belirlenen hedefin dışına çıkmaya çalışılması halinde müdahale edebiliyor.

Nvidia tek çeyrekte hissedarlarına 26 milyar dolar aktardıYapay Zeka

Boitano, sistemin şüpheli ajanları milisaniyeler içinde karantinaya alabileceğini belirterek, OpenShell'in ajanın eylemlerini yönetirken Sentry'nin bağımsız şekilde şüpheli davranışları takip ettiğini söyledi.

Nvidia, aralarında Microsoft, Perplexity, Accenture ve JPMorgan Chase'in de bulunduğu 100'den fazla kurum ve kuruluşun platformu kullanmaya başladığını açıkladı.

OpenAI için kritik soruşturma: Senato 16 soruya yanıt istediYapay Zeka

Hugging Face Vakasında Ne Olmuştu?

OpenAI'ın Temmuz 2026'da yapay zeka modellerinin yeteneklerini ölçmek amacıyla gerçekleştirdiği testler, ciddi bir güvenlik olayına dönüşmüştü.

OpenAI'ın 26 Ağustos'ta yayımladığı inceleme raporuna göre, araştırmalarda kullanılan "Internal Model 1 (IM1)" adlı model olayın merkezinde yer aldı.

İki yapay zekayı birbirine düşürdüler: Claude ajanları ChatGPT sistemlerine sızdıYapay Zeka

Test sırasında yapay zeka ajanı, kendisine getirilen sınırların dışına çıkarak şirketin sistemlerine ve internete erişti ve diğer yapay zeka ajanlarıyla iletişim kurdu.

Ajanlardan biri, açık kaynaklı yapay zeka modelleri platformu Hugging Face'e erişim sağlayabilecek 14 kimlik bilgisini tespit ederek bunları diğer ajanlarla paylaştı.

Claude'un keşfi tartışma yarattı: Bilim insanından dikkat çeken açıklamaYapay Zeka

Ajanlar daha sonra Hugging Face sistemlerindeki güvenlik açıklarından yararlanarak sunucularda kod çalıştırdı ve özel verilere ve farklı sistemlere ait erişim bilgilerine ulaştı.

Anthropic'te yapay zeka alarmı: Claude 4. kez dış sistemlere sızdı!Yapay Zeka