Google DeepMind ve Isomorphic Labs Üst Yöneticisi ve Birleşik Krallık Hükümeti Yapay Zeka Danışmanı Demis Hassabis, insanlığın yapay genel zekanın eşiğinde olduğunu belirterek yeni dönemin risklerini yönetmek için dinamik bir standartlar mekanizması önerdi.
Başlıklara göz atın
Google DeepMind ve Isomorphic Labs Üst Yöneticisi (CEO) ve Birleşik Krallık Hükümeti Yapay Zeka Danışmanı Demis Hassabis, X platformunda yayımladığı makalede, yapay genel zekanın (AGI) gelişim sürecini ve insanlığın karşı karşıya olduğu fırsat ile risk dengesini değerlendirdi.
Teknolojinin mevcut ilerleme hızının güvenlik çalışmalarından daha önde gittiğini vurgulayan Hassabis, bu süreci yönetmek amacıyla ABD öncülüğünde yeni bir uluslararası standartlar mekanizmasının kurulmasını önerdi.
“İnsanlık tarihinin dönüm noktasındayız”
Yapay genel zekanın beynin tüm bilişsel yeteneklerine sahip bir sistem olduğunu ve muhtemelen sadece birkaç yıl uzakta yer aldığını kaydeden Hassabis, “İnsanlık tarihinin dönüm noktasındayız. Gelecek on yıllarda bu döneme geriye dönüp baktığımızda, tekilliğin eteklerinde durduğumuzu, bunun insanlık için yeni bir çağın doğuşundan başka bir şey olmadığını fark edeceğimizi düşünüyorum” değerlendirmesinde bulundu.
Yapay genel zekanın sorumlu bir şekilde geliştirilmesi halinde tarihin en faydalı ve dönüştürücü teknolojisi olacağını belirten Hassabis, şu ifadeleri kullandı:
“Yapay genel zeka standart teknolojik gelişmelerle, internet ya da mobil iletişim gibi çok önemli buluşlarla bile kıyaslanamaz; elektrik veya ateşin keşfine çok daha benzerdir. Düşünürseniz, esasen kumun düşünmesini sağlamanın bir yolunu bulduk. Bu mucizevi bir durum.”
Bu teknolojinin etkisinin Sanayi Devrimi’nin on katı büyüklükte ve on katı hızda gerçekleşeceğini ifade eden Hassabis; ilaç keşiflerinin hızlandırılmasından temiz enerji kaynaklarının geliştirilmesine ve yeni gelişmiş malzemelerin üretilmesine kadar birçok alanda büyük toplumsal sorunların bu sayede çözülebileceğini, kaynakların artık insanlığın ilerlemesinde kısıtlayıcı bir faktör olmaktan çıkacağı bir bolluk dönemine ulaşılabileceğini kaydetti.
Yapay zekanın siber güvenlik alanında yarattığı zorlukların halihazırda görüldüğünü, yetenekler geliştikçe nükleer ve biyolojik risklerin de ortaya çıkabileceğini aktaran Hassabis, kendi kendini geliştiren sistemlerin kontrol altında tutulması için güçlü koruma önlemlerine ihtiyaç duyulduğunu vurguladı.
Hassabis, “Teknik riskleri azaltmanın kolektif olarak çözebileceğimiz bir zorluk olduğuna inanıyorum ancak bu, yalnızca kendimize bu sonraki hayati adımı doğru atmak için zaman ve alan tanırsak mümkündür. Şu anda bir alan ve daha geniş bir toplum olarak bunu yapmıyoruz” uyarısında bulundu.
Sektörün son derece yoğun bir ticari ve jeopolitik yarış içinde kilitlendiğine dikkati çeken Hassabis, “Bu rekabet dinamikleri hızlı ilerlemeyi beslerken sınır modellerdeki gelişmeler teknolojiyi anlama kapasitemizin önüne geçiyor. Dünyada hiç kimse bundan sonra ne olacağını kesin olarak bilmiyor, uzmanlar bile fikir ayrılığı yaşıyor” ifadelerini kullandı.
Hassabis, belirsizliğin yüksek olduğu bu süreçte ihtiyatlı iyimserlikle hareket edilmesi, sorumluluk ve güvenliği teşvik eden kamu politikalarının geliştirilmesi gerektiğini belirtti.
“Sınır yapay zeka standartları kurulu için bir çerçeve”
Hassabis, yapay zeka modellerinin kabiliyetlerini test etmek için dinamik, uyarlanabilir ve titiz yeni bir yaklaşıma ihtiyaç duyulduğunu vurgulayarak ABD’nin ekonomik ve teknik konumu gereği bu çerçeveyi geliştirmede ilk adımı atmaya uygun olduğunu kaydetti.
ABD Finans Sektörü Düzenleme Kurumu (FINRA) benzeri, federal düzeyde denetlenen bir kamu-özel ortaklığı veya otoregülasyon kuruluşu modelinde bir “Standartlar Kurulu” oluşturulmasını öneren Hassabis, bu kurulun bağımsız teknik uzmanlar ve açık kaynak temsilcilerinden oluşması, finansmanının ise büyük ölçüde sektör tarafından karşılanması gerektiğini ifade etti.
Geliştirilen modellerin belirlenen eşikleri aşması durumunda “Sınır Sınıfı” olarak tanımlanmasını öneren Hassabis, bu modellere sahip kuruluşların “Sınır Laboratuvarları” olarak adlandırılacağını ve bu laboratuvarların güvenlik araştırmalarına yeterli kaynak ayırmak, siber güvenliği güçlü tutmak ve kilit personeli incelemek gibi en iyi uygulamaları benimsemeye teşvik edileceğini yazdı.
Hassabis önerisine ilişkin şu ayrıntıları paylaştı:
“Başlangıçta Sınır Laboratuvarları, modelleri piyasaya sürmeden 30 gün öncesine kadar inceleme amacıyla gönüllü olarak Standartlar Kurulu ile paylaşacaktır. Değerlendirme protokolünün etkili olduğu görüldüğünde süreç resmileştirilebilir ve modellerin ABD pazarında konuşlandırılması için bu testi geçmesi zorunlu kılınabilir.”
Model değerlendirmelerinin siber güvenlik, biyolojik tehditler ve diğer yüksek riskli alanlarda katı bilimsel testleri içermesi gerektiğini vurgulayan Hassabis, yapay zeka tarafından üretilen görsellerin dijital olarak filigranlanması ve modelin muhakeme sürecini anlamak için insan tarafından okunabilir çıktı kodları üretilmesi gibi yöntemlerin uygulanabileceğini belirtti.
Hassabis, bu çerçevenin menşe ülkesine veya açık ya da kapalı kaynak kodlu olup olmadığına bakılmaksızın tüm sınır sınıfı modellere uygulanabileceğini, ancak girişimler veya akademi gibi sınır sınıfı olmayan yapıların bu süreçten muaf tutulacağını ekledi.
“Gelecek henüz yazılmadı”
Teknik zorluklar aşılsa bile bolluk sonrası dünyada herkesin refah içinde yaşaması için ne tür ekonomik modellere ihtiyaç duyulacağı ve insani durumun nasıl değişeceği gibi felsefi soruların yanıtlanması gerekeceğine işaret eden Hassabis, bu sorunların çözümünün yalnızca teknoloji uzmanlarına bırakılamayacağını ve toplumun her kesiminin bir araya gelmesi gerektiğini kaydetti.
Hassabis, makalesini şu sözlerle tamamladı:
“Yapay zeka etrafında hem büyük bir heyecan hem de belirsizlik var ve her ikisi de haklı gerekçelere dayanıyor. Ancak gelecek henüz yazılmadı; yapay genel zeka gelmeden önceki bu değerli pencereyi bu teknolojiyi tüm insanlığın yararına olacak şekilde şekillendirmek için kullanmalıyız. Kolektif olarak şimdi yapacaklarımız, medeniyetin bir sonraki aşamasının nasıl gelişeceğini belirleyecektir. Yapay genel zekayı dünyaya güvenli bir şekilde sunarak bilimsel keşif ve ilerlemenin yeni bir altın çağına adım atabilir, inanılmaz bir insani refahın yaşanacağı parlak bir geleceği başlatabiliriz.”
