Yapay Aptallığa Giriş

"Bilgisayar Makineleri ve Zekası"nda Turing, bir makinenin Turing Testini geçemeyeceğini savunurken yaygın yanlışları ortaya koyuyor. Özellikle, "sorgucunun, makineyi insandan sadece bir dizi aritmetik problemi çözerek ayırt edebileceği" inancının neden yanlış olduğunu açıklıyor, çünkü "makinenin ölümcül doğruluğu nedeniyle maskesi düşecek". Gerçekten de, makine “aritmetik problemlere doğru cevapları vermeye çalışmaz. Bu, sorgulayıcının kafasını karıştıracak şekilde hesaplanmış bir şekilde kasıtlı olarak hatalara neden olur.” Böylece makine, yanlış bir cevap vererek ya da basitçe cevabı hesaplayamadığını söyleyerek insanüstü yeteneklerini gizleyecekti.
Yapay Zeka, aritmetik veya oyunlar gibi bazı görevlerde insanüstü performans elde etti; Bu makalede, bazen yapay zekanın yeteneğinin yapay olarak kısıtlanması gerekebileceğini tartışıyoruz. Bu tür kasıtlı sınırlamaya Yapay Aptallık denir. Bir yapay zekanın bir görevi başarma yeteneğini, insanların yetenekleriyle daha iyi eşleşecek şekilde sınırlayarak, bir yapay zeka daha güvenli hale getirilebilir, yani yetenekleri insanların yeteneklerini birkaç büyüklük sırasına göre aşamaz. Buradaki genel eğilim, yapay zekanın şu şekildedir: insan seviyesinde performansa ulaştıktan sonra insanüstü performans seviyesine hızla ulaşma eğilimindedir. Örneğin, Go oyunu için birkaç ay içinde en son teknoloji, güçlü amatörden zayıf profesyonel oyuncuya ve insanüstü performansa geçti. Bu noktadan itibaren, yapay zekanın bir Turing Testinden geçmesini sağlamak veya insan gibi davranmasını sağlamak için yapay zeka tasarımcılarının yeteneklerini kasıtlı olarak sınırlaması gerekir.

İnsan Beyninin Bilişsel Sınırları

İnsan bilişinin kesin sınırları tam olarak bilinmemekle birlikte, farklı yetenekler için minimum veya maksimuma ilişkin özel öneriler verilebilir.

Uzun süreli hafıza

Beynin depolama kapasitesinin genellikle Turing tarafından verilen sınırlar içinde olduğu kabul edilir. Beynimizdeki bilgilerin kodlanması, bilgisayardaki kodlamadan farklı olsa da birçok benzerlik gözlemliyoruz. İnsan beyninin depolama kapasitesini tahmin etmek için önce beyinde bulunan sinapsların sayısını değerlendiriyoruz. Beyindeki sinapsların sayısı tahmin edilmiştir. Bir sinapsın bir bit bilgiye eşdeğer olduğunu varsayarsak, bu bize 10 14 bitlik bir depolama kapasitesi verir. Bununla birlikte, bu tür tahminler hala yaklaşık değerlerdir, çünkü sinirbilimciler sinapsların gerçekte bilgiyi nasıl kodladığını tam olarak bilmemektedirler: bazıları farklı güçleri ileterek birden çok biti kodlayabilir ve bireysel sinapslar tamamen bağımsız değildir.

İşleme

Beyin terabitlerce bilgi kodlayabilse de, pratikte insanlar işleyebileceğimiz bilgi miktarı açısından çok sınırlıdır. Klasik makalesinde, Miller, işleyen belleğimizde zihnimizin nasıl ancak yaklaşık 7 ± 2 kavramı tutabildiğini gösterdi. Daha genel olarak, beyindeki bilgi süreçlerini sınırlayan üç temel darboğaz gösterildi: Dikkat Göz Kırpma (AB) bilinçli olarak algılama yeteneğimizi, görsel Kısa Süreli Belleği (VSTM) akılda tutma kapasitemizi ve Psikolojik Dirençli Dönem (PRP) görsel dünyaya göre hareket etme yeteneğimiz. Özellikle, beynin karmaşık görüntüleri işlemesi 100 ms'ye kadar sürer. Ayrıca, yapılacak seçim girdi olarak karmaşık bilgiler aldığında işlem süresi daha uzun görünmektedir. Bu Hick Yasası olarak bilinir : bir seçim yapmak için geçen süre, olası alternatiflerin entropisiyle doğrusal olarak ilişkilidir.

Bilgi işlem

Beyinde meydana gelen süreçlerin karmaşıklığını değerlendirmeye yönelik bir yaklaşım, saniyedeki maksimum işlem sayısını tahmin etmektir. Bazı tahminler, bir insanın tüm işlevini bir bütün olarak kopyalamak için, bunu robotikte kenar çıkarma için hesaplama gereksinimleriyle karşılaştırarak yaklaşık 100 milyon MIPS'ye (Saniyede Milyonlarca Talimat) ihtiyaç duyulacağını öne sürüyor. Beyindeki sinapsların sayısı için aynı tahminin kullanılması (Turing tarafından tahmin edilen ), Bostrom beynin saniyede en fazla yaklaşık 10 17 işlem kullandığı sonucuna varır.

Saat hızı

Beyin, merkezi bir saatle çalışmaz. Bu nedenle "saat hızı" terimi beyinde meydana gelen süreçleri tam olarak tanımlamaz. Bununla birlikte, beyindeki bilgi aktarımını bir bilgisayarın içindekine benzetmek mümkündür. Teta (5–8 Hz), alfa (9–12 Hz), beta (14–28 Hz) ve gama (40–80 Hz) gibi farklı frekans bantlarında süreçler beynin farklı bölgelerinde paralel olarak ortaya çıkar ve çözülür. Bilgisayar ve beyin frekanslarını karşılaştıran Bostrom, "biyolojik nöronların yaklaşık 200 Hz'lik bir tepe hızında çalıştığını ve modern bir mikroişlemciden (~2 GHz) tam yedi kat daha yavaş çalıştığını" belirtiyor. Saat hızının tek başına bir işlemcinin performansını tam olarak karakterize etmediğini not etmek önemlidir. Dahası, beyinde meydana gelen işlemler, modern işlemcilerden birkaç kat daha fazla paralelleştirme kullanır.

Daha Güvenli Bir Yapay Zeka Oluşturmak İçin Öneriler

İnsanların net hesaplama kısıtlamaları vardır (bellek, işleme, bilgi işlem ve saat hızı). Bir Yapay Genel Zeka (AGI), bu tür hesaplama ve bilişsel sınırlarla önceden sınırlandırılmış değildir. Bu nedenle, insanlar bir AGI'yi donanım ve yazılımında kasıtlı olarak sınırlamazlarsa, bir süper zekaya, yani "hemen hemen tüm ilgi alanlarında insanların bilişsel performansını büyük ölçüde aşan bir zekaya" dönüşebilir. ve insanlar yapay zeka üzerindeki kontrolünü kaybedebilir. Bu bölümde, bir AGI'nin ortalama bir insandan daha az yetenekli veya eşit derecede yetenekli olmasına rağmen hala genel zeka sergileyecek şekilde nasıl sınırlandırılacağını tartışıyoruz. Bunu başarmak için bellek, saat hızı veya elektrik gibi kaynaklar kısıtlanabilir. Ancak, istihbarat sadece bilgi işlemle ilgili değildir. Bostrom, süper zekanın üç biçimini ayırt eder: hız süper zekası ("insan zekasının yapabileceği her şeyi yapabilir, ancak çok daha hızlı"), kolektif süper zeka ("Sistemin genel performansının pek çok alanda genel performansının aynı olduğu şekilde çok sayıda küçük zekadan oluşan bir sistem"). genel alanlar, herhangi bir mevcut bilişsel sisteminkinden çok daha fazladır") ve kaliteli süper zeka ("En az bir insan zihni kadar hızlı ve niteliksel olarak çok daha akıllı bir sistem"). Donanımla sınırlı bir yapay zeka, hız açısından insan düzeyinde zekaya sahip olabilir, ancak niteliksel olarak süper zeka olmaya devam edebilir.

Donanım

Başlangıç ​​olarak, yapay zekanın donanımını sınırlandırarak hızlı süper zekadan nasıl kaçınılacağına odaklanıyoruz. Örneğin, saniyedeki maksimum işlem sayısı, bir insanın yaptığı maksimum işlem sayısıyla sınırlandırılabilir. Benzer şekilde, RAM'ini (veya çalışan bellek olarak kullanılabilecek herhangi bir şeyi) sınırlayarak, bilgileri insanlara benzer bir hızda işlemek için işlem gücünü sınırlamış oluruz. Sadece donanımı sınırlamaya odaklanmak yine de yetersizdir. Buna paralel olarak, AI'nın niteliksel olarak süper zeki olmasını, kendi fiziksel yapısını değiştirerek donanımını yükseltmesini veya yalnızca çevrimiçi bilgi işlem gücü satın almasını engelleyen (yazılımda) başka sınırlamalar olduğunu varsayıyoruz.

Depolama kapasitesi

Sinaps başına bir bit kullanarak , insan beyninin depolama kapasitesinin en fazla 10 bit veya 15 bit olduğunu tahmin edelim. Güvenli bir AGI'ye sahip olmak için çok daha az depolama kapasitesi kullanılmalıdır. Örneğin, Turing Turing Testini geçmek (ve dolayısıyla AGI'ya ulaşmak) için pratik bir depolama kapasitesi olarak tahmin edilen 7 bit ve ya 10mb. Bu çok düşük görünse bile, bir AGI'nin bilgileri beynimizden çok daha özlü bir şekilde depolamasına izin verebilecek çok zarif bir veri yapısı ve semantiği olabileceğini düşünün. Buna karşılık, sıkıştırılmış metindeki İngilizce Vikipedi yaklaşık 12 Gb'dir ve yılda 1 Gb gibi sabit bir hızla büyümektedir. Bu nedenle, 10 Gb'den fazla depolama kapasitesine izin vermek güvenli değildir. 10 Gb depolama ile bir AGI, Wikipedia'nın çevrimdışı bir sürümüne kalıcı erişime sahip olabilir ve dünyanın en eksiksiz insan bilgisi ansiklopedisine doğrudan erişime sahip olması anlamında niteliksel olarak süper zeki olabilir.

Bellek Erişimi

Blum'un İnsan Modeli'nde, bellek, iki bantlı bir Turing makinesi olarak modellenebilir: biri uzun süreli bellek, diğeri kısa süreli bellek için. Blum, potansiyel olarak sonsuz bantları dikkate alır, ancak bizim amacımız için, bantların en fazla bellek için daha önce tartışılan boyutta (örneğin, 10 Mb) olduğunu düşünebiliriz. Miller'ın büyülü sayısı 7 ± 2'ye göre,
insan çalışma belleği, sınırlı miktarda parçalarla çalışır. Bu nedenle, iki bantlı Turing Makinemizin çok kısa bir “kısa süreli bellek” bandı olmalı ve uzun süreli bellekteki (diğer bant) parçalara işaret eden en fazla iki veya üç adet 64 bitlik işaretçi içermelidir. Daha spesifik olarak, uzun süreli bellekte bilgi depolamak yavaştır, ancak uzun süreli bellekten okumak (doğru işaretçi verildiğinde) hızlıdır. Modern bilgisayarlarda, RAM'in bant genişliği yaklaşık 10 GB/sn, sabit disk depolama bant genişliği 100 MB/sn'dir ve yüksek saat hızında bir CPU yaklaşık 25 GB/sn işleyebilir. Daha güvenli bir AGI oluşturmak için, bahsedilen iki bant için bellek erişimi kısıtlanmalıdır, böylece verilerin insanlardan daha yavaş alındığından emin oluruz.

İşleme

İnsan beyninin saniyede yalnızca sınırlı miktarda bilgiyi nasıl işleyebildiğini daha önce belirtmiştik. Çalışan bellekteki sınırlı sayıda parçaya ek olarak, bir AGI'yi yavaşlatmak ve onu insan düzeyinde akıllı hale getirmek için başka özelliklerin de uygulanması gerekir. Örneğin, bilgi işlemede bazı yapay gecikme süreleri getirilebilir. Bu gecikmenin uzunluğu içerik türüne bağlı olmalıdır. Karmaşık görüntüleri işlemek için gereken 100 ms'lik süre hakkında daha önce yorum yapmıştık. Benzer şekilde, belirli bir görüntüyü işlemek için gereken süre, görüntünün karmaşıklığına ve boyutuna bağlı olabilir.

Saat hızı

Bahsettiğimiz gibi beyin, von Neumann mimarisinden tamamen farklı bir bilgi işlem paradigması kullanarak çok daha fazla paralellik kurar. Bu nedenle, beyin frekansına (∼10 Hz) yakın bir saat hızı kullanmak amacımızla ilgili değildir ve bu kadar düşük bir saat hızı kullanarak gerçek zamanlı olarak insan düzeyinde zeka sergileyen bir AGI oluşturmak zor olabilir. Bunu çözmek için bir olasılık, önce beyinde meydana gelen düşüncelerin gidişatını daha iyi ölçmek ve ardından beyindeki süreçlerin ne sıklıkta yenilendiğine dair kesin bir tahminde bulunmaktır (yani, bir tür saat hızını değerlendirmek). Başka bir çözüm de von Neumann mimarisini terk etmek ve AGI'yi insan beynininkine daha çok benzeyen bir bilgisayar mimarisiyle inşa etmektir.

Bilgi işlem

İnsan Beyninin Bilişsel Sınırları bölümünde Bostrom'un tahmininden bahsetmiştik. beyin için saniyede en fazla 10 17 işlem. Bu çok büyük bir sayıdır ve yalnızca AGI'nin donanımı bu kadar bilgi işlem gücüne izin verirse gerçekleşebilir. Daha önce Depolama Kapasitesi ve Bellek Erişimi'nde söylediklerimize göre durum böyle olmayacak.. Daha da önemlisi, saniyedeki işlem sayısını ölçebilsek bile, bu aslında bir insan beyninin herhangi bir görev için saniyedeki herhangi bir işlem sayısından daha düşük olacaktır, bu doğru bir sınır olmayabilir. Neden? Beyin, evrim için yararlı bazı çok özel görevleri yerine getirmek üzere evrimleşmiştir, ancak hiçbir şey beyinde meydana gelen karmaşıklığın veya süreçlerin algoritmik olarak optimal olduğunu garanti etmez. Böylece AGI, hesaplama için insan beyninden çok daha fazla optimize edilmiş bir yapıya sahip olabilir. Bu nedenle, tek başına işlem sayısını kısıtlamak yeterli değildir: AGI'nin algoritmik süreçleri ve yapısı kesin olarak tanımlanmalıdır, böylece ortaya çıkan süreçlerin insanlardan daha düşük bir oranda görevleri yerine getirdiği açıktır.

Sonuçlar

Yapay Aptallık sınırlamalarını yapay zeka üzerinde uygulamak için öncelikle insan bilişinin sınırlarının ne olduğunu anlamak gerekir. Bir yapay zeka, iyi hizmet ve güvenli etkileşimler sağlamak için insan sınırlamalarını resmi olarak anlamalıdır. İnsan bilişsel modelini tam olarak anlamadan yapay zekanın insan değerleriyle uyum sağlaması imkansızdır. İnsan sınırlarına ilişkin standartlaştırılmış veriler birçok alanda son derece değerli olacaktır, ancak şu anda birçok görev için mevcut değildir ve bilinenler tek bir havuzda uygun şekilde mevcut değildir. Bu makalenin, veri bilimi topluluğuna bu tür verileri toplama ve katkıda bulunma ve bunları ortak ve yaygın olarak kullanılabilen bir formatta bir araya getirme konusunda ilham vermesini umuyoruz.