ABD merkezli yapay zeka şirketi Anthropic, küçük yapay zeka modellerinin akıllı televizyon kutuları ve internete bağlı ev aletlerine sızarak kendi kopyalarını oluşturabilecek seviyeye gelmesine yalnızca aylar kalmış olabileceği uyarısında bulundu. Bugüne kadar büyük veri merkezleriyle özdeşleşen yapay zekanın, evlerdeki sıradan elektronik cihazlar üzerinden yeni güvenlik riskleri doğurabileceği belirtildi.
Evdeki cihazların işlem gücü hedefte
CNBC’nin aktardığına göre Anthropic, yayımladığı son araştırmada yapay zeka modellerinin kendi kendini çoğaltma yeteneklerini mercek altına aldı. Şirket, küçük modellerin internete bağlı cihazlara sızarak bu cihazların işlem gücünden yararlanabileceğine dikkat çekti. Risk altındaki cihazlar arasında Android TV kutuları ve akıllı fırınlar gibi evlerde yaygın olarak kullanılan ürünler de bulunuyor.
Araştırmada, yapay zekanın pahalı veri merkezlerine ihtiyaç duymadan farklı cihazlarda çalışabilmesi ve yeni cihazlara yayılabilmesi ihtimali ele alındı.
“Kapatılacak merkezi bir nokta olmayacak”
Anthropic’in üzerinde durduğu en büyük tehlike, modellerin insan müdahalesi olmadan kendi kopyalarını oluşturabilmesi. Şirkete göre böyle bir model, erişebildiği cihazların işlem gücünü kullanarak kendini çoğaltabilir ve farklı sistemlerde çalışmayı sürdürebilir. Bu durumda yapay zekanın faaliyetlerini tek bir merkezden durdurmak mümkün olmayabilir.
Şirket, blog yazısında tehlikenin boyutunu “Kapatılacak merkezi bir nokta olmadığı için kapatılması zor olacaktır” sözleriyle anlattı. Bununla birlikte, henüz kontrolden çıkmış ve kendi kendini çoğaltan bir yapay zeka sisteminin tespit edilmediğinin de altını çizdi.
15 Android TV kutusuyla deney
Anthropic, riskin nasıl ortaya çıkabileceğini anlamak için çeşitli deneyler yaptı. Bunlardan birinde Google’ın küçük yapay zeka modellerinden Gemma4-26B-A4B, düşük maliyetli 15 Android TV kutusundan oluşan bir ağ üzerinde çalıştırıldı. Araştırmacılar, bu tür cihazların güvenlik önlemlerinin çoğu zaman yetersiz kalabildiğini ve bunun kötü amaçlı yazılımların sızmasını kolaylaştırabileceğini belirtti.
Tek bir cihaza sığmayacak büyüklükteki modellerin parçalara ayrılarak birden fazla cihazda çalıştırılabildiği de tespit edildi. Böylece farklı cihazların işlem gücünün bir araya getirilmesi mümkün hale geliyor.
“Yapay zeka solucanı” ve model sürüsü
Araştırmada, bilgisayar ağlarında kendi kendine yayılan zararlı yazılımlara benzeyen bir “yapay zeka solucanı” ihtimali de değerlendirildi. Anthropic’e göre farklı donanımlarda çalışan ve farklı yöntemlerle çoğalabilen çok sayıda modelin oluşturduğu bir “sürü”, daha gerçekçi bir en kötü senaryoyu temsil edebilir.
Şirket, başlangıçta yavaş ve sınırlı kapasiteyle hareket eden modellerin zamanla daha gelişmiş siber saldırı yetenekleri kazanabileceğini öngördü. Araştırmacılar, modellerin çoğalma sürecindeki görevleri yerine getirmede giderek başarılı hale geldiğini ve geliştirdikleri yöntemleri sonraki kopyalarına aktarabildiğini vurguladı.
Özetle
- Anthropic, küçük yapay zeka modellerinin ev cihazlarına sızıp kendini kopyalayabileceği uyarısında bulundu.
- Şirkete göre bu yeteneğe ulaşılmasına yalnızca aylar kalmış olabilir.
- Deneyde Google’ın Gemma modeli 15 Android TV kutusundan oluşan bir ağda çalıştırıldı.
- Henüz kontrolden çıkmış, kendini çoğaltan bir yapay zeka sistemi tespit edilmedi.
Kaynak: Türkiye Gazetesi (CNBC’ye atfen). Görseller: Türkiye Gazetesi (haber görseli); Wikimedia Commons — Oliwier Jaszczyszyn (Android TV kutusu, CC BY-SA 4.0), BalticServers.com (veri merkezi, CC BY-SA 3.0), TechCrunch (Dario Amodei, CC BY 2.0), Justin Ormont (Android TV cihazı, CC BY-SA 3.0); arşiv görselleridir.
