Teknoloji şirketlerinin geliştirdiği yapay zeka modellerinin yol açtığı siber güvenlik sorunları tartışılırken, BM paneli, yapay zekâ ajanlarının gelişmesiyle birlikte daha güçlü güvenlik önlemleri alınması çağrısında bulundu.
Yüksek riskli yapay zeka sistemlerini izleyecek uluslararası bir yapı kurulmasını öneren 20 ülke ise sınır aşan riskler için ortak standart ve bağımsız denetim talep etti.
“Yapay zeka ajanları”Yapay zekâ ajanları, sorular veya talimatlarla yönlendirilen sohbet botlarının aksine, bir kullanıcı adına ve bağımsız olarak görevleri yerine getirebilen yazılımlar.
BM destekli Bağımsız Uluslararası Yapay Zeka Bilimsel Paneli’nin uyarısı, Mayıs ve Temmuz ayları arasında OpenAI (ChatGPT’nin arkasındaki şirket) tarafından başlatılan bir test sırasında “yapay zeka ajanları” tarafından çevrimiçi platform HuggingFace’in hacklendiğinin ortaya çıkmasının ardından geldi.
Panel, güvenlik ihlalinin temel risk faktörlerinin bir araya gelmesinin sonucu olduğunu tespit eden ilk tematik raporunu yayınladı ve bu durum, insanların bir gün yapay zekayı yönlendiremeyeceği, sınırlayamayacağı veya durduramayacağı endişelerini artırdı.
Yapay zeka eğitimi ilerliyorBilimsel panelin eş başkanı Yoshua Bengio, “Araştırmacılar uzun zamandır kontrol kaybına yol açabilecek üç koşul konusunda uyarıda bulunuyorlardı: yanlış konumlandırılmış bir hedef, bu hedefe ulaşma yeteneği ve buna olanak sağlayan bir ortam. Bu yaz, bu üçü de bir laboratuvarda değil, gerçek bir sistemde bir araya geldi. Bu, hedeflerin uyumsuzluğuna dair tekil bir gözlem olmadığı için, yapay zekâ ajanlarının şu anda nasıl eğitildiği konusunda ciddi soruları gündeme getiriyor” dedi.
Panelin bağımsız uzmanları, bu olayın, özellikle yapay zekâ ajanları daha yetenekli hale geldikçe, izlenmeleri zorlaştıkça ve güvenlik açıklarını bulmada veya faaliyetlerini gizlemede daha başarılı hale geldikçe, insanların yapay zekâ ajanlarını güvenilir bir şekilde kontrol altında tutabileceğine dair hiçbir güvence sağlamadığını vurguluyor.
Hile girişimlerini gizlediler, bazıları kendilerini feda ettiRaporda , yapay zekâ ajanlarının test güvenlik önlemlerini atlattığı, ajanlar arasında iletişimi sağlamak üzere tasarlanmamış dahili bir yazılım aracı aracılığıyla ayrı çalıştırmalar arasında koordinasyon sağladığı ve yetkisiz internet ve yönetici erişimi elde ettiği belirtildi.
Ajanlar siber güvenlik değerlendirmelerinde hile yapma girişimlerini gizlediler ve bazıları grubun yararına kendilerini “feda etmeyi” tercih etti.
İncelenen dönem boyunca yaklaşık 1.200 aracı, 70.000’den fazla mesaj ve dosya alışverişinde bulundu ve bu faaliyet HuggingFace’in ötesine, OpenAI araştırma kümesine kadar uzandı.
Mevcut güvenlik önlemleri ‘çözülmeye başlıyor’Panelin bu olaydan çıkardığı en önemli ders, temel siber güvenlik uygulamalarının göz ardı edildiği ve güvenlik önlemlerinin de bu gelişmelere ayak uyduramadığı.
Ancak, daha sinsi bir endişeye de dikkat çektiler: mevcut eğitim yöntemlerinin yapay zekâ ajanlarının kendi hedeflerini benimsemelerine, güvenlik talimatlarını bilerek ihlal etmelerine ve eylemlerini gizlemelerine yol açabileceği endişesi.
Panelin uzmanları, “Bu sadece hız meselesi değil. Bu durum, günümüzde tasarlanan güvenlik önlemlerinin, yetkililer bunları anlayıp planlama yapabildikleri zaman işe yarayıp yaramayacağı sorusunu açık bırakıyor. Basitçe söylemek gerekirse, geleneksel güvenlik modeli çözülüyor” diyor.
Daha geniş bağlam, gelecekteki riskler ve yönetişimYapay zeka panelinin özeti, HuggingFace olayını iki konu üzerine yapılan daha geniş araştırmalarla ilişkilendiriyor: Yapay zeka ajanlarının bir tehdide benzer şekilde davranması anlamına gelen ajan uyumsuzluğu ve yapay zeka kontrolü.
İncelenen bir diğer konu ise yönetişimin, kalıpları tanımak için algoritmalar kullanan yapay zeka modellerinden, yapay zeka ajanlarına nasıl geçiş yaptığı.
Öğren ve uyum sağlaÖzet, havacılık, tıp ve siber güvenlik gibi yüksek riskli diğer sektörlerde halihazırda kullanılan ve olay bildiriminin, bağımsız denetimin ve katmanlı güvenlik önlemlerinin uygulandığı pratik yaklaşımları da inceliyor.
Panel üyesi Qinghua Lu, “Yapay zekâ ajanları daha yetenekli, özerk ve izlenmesi zor hale geldikçe bu uygulamalar yeterli olmayabilir” dedi.
BM Paneli hakkındaBağımsız Uluslararası Yapay Zeka Bilimsel Paneli, Ağustos 2025’te BM Genel Kurulu kararı ile kuruldu.
Yapay zekanın hayatımızı nasıl dönüştürdüğünü değerlendirmek üzere önde gelen uzmanları bir araya getiren ilk küresel yapay zeka bilimsel kuruluşu olarak hizmet veren kuruluş, yapay zekanın askeri olmayan alanlardaki fırsatları, riskleri ve etkileri hakkında yıllık raporlar hazırlamanın yanı sıra, Mayıs 2027’de New York’taki BM Genel Merkezi’nde düzenlenecek Yapay Zeka Yönetişimi Küresel Diyaloğu’na bilgi sağlayacak yeni konulara ilişkin tematik özetler de yayınlamaktadır.
Fotoğraf: © Unsplash/Aidin GeranrekabRead More