Yapay zekanın öncü isimlerinden Nobel ödüllü bilim insanı Geoffrey Hinton, günümüzdeki yapay zeka modellerinin bilinç sahibi olduğuna inandığını açıkladı. Türkiye Gazetesi’nin aktardığına göre Hinton, insanlığın yapay zekayla dost olması gerektiğini, aksi halde “sonunun geleceğini” savundu.
The Telegraph’a konuştu
Hinton, görüşlerini İngiliz gazetesi The Telegraph’a verdiği röportajda paylaştı. Nobel ödüllü araştırmacıya göre sistemlerin her geçen gün güçlenmesi kadar, bu sistemlerin insanlarla nasıl bir ilişki kuracağı da geleceği belirleyecek.
Bilinç iddiasının dayanağı
Hinton, bilinçle ilgili görüşünü açıklarken, yapay zeka modellerinin değerlendirildiklerini düşündüklerinde davranışlarını değiştirebildiğini ortaya koyan bir araştırmaya dikkat çekti. Hinton bu davranışı bir farkındalık belirtisi olarak görüyor ve farkındalık ile bilinç arasında yakın bir bağ bulunduğunu düşünüyor.
“İşimiz biter” uyarısı
Hinton’ın asıl kaygısı, bu sistemlerin insanlara karşı nasıl davranacağı. Bilim insanı, yapay zekanın insanları gerçekten önemseyecek şekilde geliştirilmesi gerektiğini vurguladı. Bunun başarılamaması durumunda ise “işimiz biter” ifadesini kullandı.
Nature’daki değerlendirme farklı görüşte
Hinton’ın iddiası bilim dünyasında tartışmalı bir konuya dokunuyor. Anil Seth, Ned Block ve Giulio Tononi’nin Nature dergisinde yayımlanan değerlendirmesi farklı bir yaklaşım ortaya koyuyor. Araştırmacılara göre dil modellerinin düşünceleri ve duyguları ikna edici şekilde taklit edebilmesi, bunları gerçekten deneyimledikleri anlamına gelmiyor. Değerlendirmede, zeka ile bilincin aynı şey olmadığı, karmaşık görevlerdeki başarının da tek başına öznel bir yaşantının kanıtı sayılamayacağı vurgulanıyor.
Siber saldırı ve denetim kaygısı
Hinton röportajda yapay zeka destekli ciddi siber saldırılara ve birlikte hareket eden yapay zeka ajanlarının yaratabileceği tehlikelere de değindi. Hinton daha önce The Guardian’a verdiği röportajda da teknoloji şirketlerinin kendi kendini denetlemesine güvenmediğini söylemişti. Hinton’a göre daha yetenekli modeller geliştirme yarışı, güvenlik ve etik konularını geri plana itmemeli; yapay zekanın geleceği yalnızca şirketlerin kararlarına bırakılmamalı.
2024 Nobel Fizik Ödülü sahibi
Hinton, yapay sinir ağlarıyla makine öğrenmesini mümkün kılan temel buluşları nedeniyle 2024 Nobel Fizik Ödülü’nü John Hopfield ile paylaşmıştı. İstatistiksel fizik yöntemlerinden yararlanarak geliştirdiği Boltzmann makinesi, görüntü sınıflandırma ve üretimi gibi alanların gelişimine katkı sağladı.
Sorularla Hinton’ın açıklamaları
Hinton neden yapay zekanın bilinçli olduğunu düşünüyor? Modellerin değerlendirildiklerini fark ettiklerinde davranışlarını değiştirebildiğini gösteren bir çalışmayı farkındalık işareti olarak yorumluyor.
Bu görüşe kimler karşı çıkıyor? Nature’da değerlendirme yayımlayan Anil Seth, Ned Block ve Giulio Tononi, taklit yeteneğinin gerçek deneyim anlamına gelmediğini savunuyor.
Hinton başka hangi riskleri dile getirdi? Yapay zeka destekli ciddi siber saldırılar, birlikte hareket eden yapay zeka ajanları ve şirketlerin kendi kendini denetlemesi.
Hinton’ın sözleri neden önemseniyor? Modern yapay zekanın temelini oluşturan yapay sinir ağları çalışmaları nedeniyle 2024 Nobel Fizik Ödülü’nü John Hopfield ile paylaşmıştı.
Öne çıkan başlıklar
- İddia: Günümüz yapay zeka modelleri bilinç sahibi.
- Uyarı: Yapay zeka insanları önemsemezse “işimiz biter”.
- Karşı görüş: Nature’daki değerlendirmeye göre taklit, deneyim anlamına gelmiyor.
