Senin öne sürdüğün olasılık ne peki hocam? Duygudan bağımsız bir bilinç mümkün mü? sorusuna ikimizin de yanıtı olumlu sanırım.
Senin konseptin nedir?
Ben böyle bir post-human bilinçte duyguların varlığını opsiyonel olarak görüyorum; açlık, korku, aşk, orgazm sırasında duyulan zevk gibi hislerin memelilerde nesillerini sürdürmeye optimize edilmiş zaruri fonksiyonlar oluşu böyle bir bilinç için hayati bir öneme sahip olmayacaktır. Ama çeşitli sebeplerden bunları tecrübe etmek isteyebilir.
Bilinçli de olsalar ne istersek tam olarak onu yapacakları hocam. Bunun dışına cıkıldığında da sonuçların a) tamamen rastgele ya da b) tamamen öngörülemez olacağını düşünüyorum özetle.
Belki de biz duygu benzeri yönlendirme mekanizmalarıyla istediğimiz yöne itekleyebiliriz bu arada. Yani belki amaca ulaşmak için kendimiz duygu benzeri mekanizmalar yerleştirebiliriz. Sonuçta doğada denenmiş ve çalıştığı görülmüş bir metot hahah.
Buna aynen katılıyorum.
Ek: Tabi general intelligence işi bambaşka; ama mesela ben kendim bir amaç için yapay zeka metotları kullandığımda, istediğim davranışı alana kadar amaç fonksiyonuyla oynuyorum. Oraya katsayı ekle, buraya aşırı tepki vermesin log koy; şunu hayatta yapmasın cezasını exponansiyel yap benim otomatik halim oluyor alet. Bunun daha genel hali olacağını düşünüyorum geliştirdiğimiz yapay zekaların.
Felsefe diye uzak duruyordum ama ne güzel konuşmalar geçmiş öyle.
İtiraf etmek gerekirse ben de @nefarrias_bredd hocam gibi düşünüyordum. Ortada realizm varken “şöyle olsa, böyle olsa” gibi konuları hep “zayıf ve gereksiz” görürdüm. Ancak, @Abraxas’ın önermeleri bu fikrimin değişmesine, daha doğrusu güncellenmesine yol açtı.
Bundan sonra yazılanları ayrı bir gözle okuyacağım.
Bu varsayıma katılmıyorum, daha doğrusu mantığını anlamıyorum. Bilinçli bir varlığın illaki bizim sözümüzü dinleyeceğine nasıl kanaat getiriyorsun?
İstediklerimizi mantıklı ve kendi amaçlarına uygun bulup yapabilirler, orası ayrı. Bilinçli oldukları halde kendi iradeleri olmayacağını mı ileri sürüyorsun?
Yaratıcının gücünü kücümsemeyelim diyorum hocam aslında. Öyle bir yaparsın ki yapay zeka senin istediğin şeyi yapmayı mantıklı bulur. Bilincin buna bir engel olmasının şart olduğunu düşünmüyorum.
İrade konusu çok karışık, ama bizim yaratıcı varlığında (varsa yani) ne kadar irademiz varsa onların da bizim varlığımızda o kadar iradesi olacaktır diye düşünüyorum. Ama bunun tam olarak istediğimiz şeyi yapmalarına engel olmak zorunda olmadığını da düşünüyorum, varsa yaratıcının tam olarak istediği şekilde davranmamızı sağlamasına bilincimizin engel olmayacağı gibi.
Günümüzde, bilimin ışığında geçerliliğini kaybetmiş, belki tartışılmasının artık anlamsız dahi bulunacağı metafizik konuları var hocam, öyle düşünmekte yalnız değilsin. Yine de Selahattin Hilav’ın metafizik konusu dahil günümüzde felsefe uğraşının önemine dair hoş bir sözü var:
“Bilimlerin gelişerek, kendi alanlarında, bir zamanlar felsefenin sunduğu açıklamalardan çok daha sağlam ve denetlenebilir bilgiler verdiğini, ve bundan ötürü, felsefenin, insan zihnine ve ürünlerine yönelerek, bilgiyi ve değer yargılarını, araştırmasının ağırlık noktası yaptığı üzerinde durduk.
[…]
Gerçekten de, felsefenin özü ve ölümsüz yanı, tarih boyunca kurulup zamanla ve koşullar değiştikçe yıkılan felsefe sistemlerinde değil, bu sistemleri yaratan çaba ve yöneliştedir. Felsefe, yani gerçeklere açık olan, onları irdeleyen ve eleştiren; her konuyu kökünden ele alarak aydınlığa kavuşturmak isteyen derinlemesine düşüncenin çabasıdır. Başka bir deyişle, varlığın tümü gibi, felsefenin bulguları ve açıklamaları da sürekli olarak ortaya çıkan, değişikliğe uğrayan, bir bölümü ortadan kalkan ve bir bölümü bir başka biçimde varlığını sürdüren şeylerdir.
Ama bütün bu değişmenin altında, süregelen ve kalan bir şey de var. Bu kalan şey, son sözü söylediklerini ileri süren çeşitli felsefe sistemlerini yaratarak ilerleyen ve sürekli bir eleştiriyle, kendi kendini daha fazla açıklığa ve bilince kavuşturan insan düşüncesidir; bilgileri, yaratıları, umutları, özlemleri üzerinde sürekli olarak derinleşen insanoğlunun düşünsel çabasıdır.”
Mevcut tartışma bana Alastair Reynolds’ın yazdığı Zima Blue hikayesini anımsattı. Çok kısa animasyona dökülmüş hali de var. Çok beğenmiştim. Tartışmaları uzaktan keyifle okuyorum ben de. Henüz yeterli felsefi ve spesifik bilimsel donanımım olmadığı için uzaktan '‘acaba’'lar ile kendimce değerlendiriyorum o yüzden ayrıntılı bir fikir belirtemeyeceğim. Sadece şu ihtimali düşündüm ama mümkünatı nedir bir fikrim yok:
-Makine öğrenmesi olayı daha da geliştikçe Neural Network olarak adlandırılan ve sanırım halihazırda birçok alanda da kullanılan kendi kendini eğiten nodal algoritma ağları kendi kendine bir bilinç yaratacak hale gelebilir gibi bir fikir. Bu tabii beni tekrar bilinç tartışmasına yönlendiriyor. Özgür irade tartışmaları, yapılan işten sorumlu olup olmama, duyguların deterministik kökeni. Bu noktada işin içine kuantum fiziği de dahil olacaktır diye düşünüyorum ama yeterli bilgim olmadığı için de yanlış bir varsayım üzerinden de tüme varmaya çalışırsam zaman kaybederim sanırım.
Hocam bu islerin uzmanı değilim, ama yapay zeka tarafının uzmanı sayılırım diye düşünüyorum.
Bunlar biraz da bir şeyleri nasıl tanımladığınızla da alakalı. Mesela bilinç sizce nedir? Kendi varlığının farkında olmak mı? Kendi varlığının farkında olmak nasıl bir şey ki? Spontane iletişim kurmak mesela bunun bir göstergesi midir?
Mesela eğer bir simülasyonda iki ajan maksimum yemeği toplamaya calışıyorsa ve birbirleriyle iletişim kurarak topladıkları toplam yemeği artırıyorlarsa sizce bu iletişim sayılır mı? Buna evet dediyseniz yapay zeka iletişim kurmayı 5 yıldır falan biliyor, arkadaşın bitirme teziydi (tek örneği bu değil tabi ki, ama benim bizzat tanık olduğum bu var), iki ajanın birer nöronunu birbirine bağladı bir kac nesil NEAT evrimleştirdi ajanlar kooperatif çalışmaya başladılar. Peki bu yetersizse, simulasyonda değil de aynı işi gerçekte yapan robotlar olsaydı bir şey değişir miydi? Ya da nöral ağ yazılımla taklit edilmeseydi de fiziksel bir cihaz olsaydı? Aynı robot sizi Go’da yenseydi? Dota’da? Chat yaparken de insan olduğunu düşündürtseydi size? Teoriyi de geçtim pratikte bunların hepsi günümüz teknolojisiyle mümkün hocam.
Esasında yapay zekanın tam olarak ne olduğu da 100 yıldır falan sürekli güncellenen bir şey. Önerildiği şekliyle Turing testi günümüzde rutin olarak geçiliyor mesela. Satranç hep insana özgü sayılırdı, 30 yıldır falan bilgisayarlar bizden çok daha iyi. Satranç değil Go daha iyi göstergedir dendi, onu da parçalıyor şu an yapay zeka. Asıl takım oyununda yenmesi lazım o zaman sayarız dendi, Dota’da da bizi parçalıyorlar.
Neyse konuyu biraz dağıttım gibi. Noktam şu ki,
Tabımınıza bağlı olarak bu zaten oldu bile hocam. Ama her “zeka” tanımı yakalandığında insanlık olarak Ali Ağaoğlu moduna geçip “bu olmamış, bu berbat, bu hiç olmaz” diyoruz gibi
Yalnız bu aklıma direk The Second Apocalypse serisini getirdi. O serinin de ana teması bu konular hocam. Baya da güzel, ilginizi çekebilir belki.
Tartışmalı bir kavram elbette, ama sadece varlığının farkında olmakla sınırlandırmak yeterli olmayabilir hocam. Daha kapsamlı bir tanım belki de kendi varlığının (kendi düşüncelerinin) farkında olmak + etrafını/şeyleri algılar aracılığıyla, öznel olarak tecrübe edebilmek + bu tecrübeyi yorumlayabilmek + tecrübelerinden ders çıkarabilmek.
En azından gerçek bir strong AI’dan beklenen bu tip bir bilinç.
Tek başına yeterli olamaz bence. Bakınız Chinese Room deneyi.
Bildiğim kadarıyla Turing testi henüz geçilemedi hocam. Hatta AI araştırmacılarının testin 2030’lardan önce geçilmesini de beklemediklerine ilişkin birkaç makale okudum demin.
Öncelikle bu doğru. Ben yanlış hatırlamışım. Ben baya net bir şekilde geçildi diye biliyordum, hayretler içerisindeyim şu an. Ben nedense yüzde 70 sınırı artık kolay geçiliyor, testi güncelliyorlar falan diye hatırlıyorum mevzuyu. Nerden uydurdum acaba
Neyse. Kalan noktalarda sıkıntı olmaması lazım ama hahah.
Fakat hocam ilk kriter biraz karışık, ama diğer kriterleriniz güncellenen bir neural network tarafından gerçekleştiriliyor esasında. Algılar → ağın girdi arayüzü, ağdaki güncellemeleri de tecrübelerin dahil edilişi, girdiyi gördükten sonraki davranış değişimi de tecrübeden ders çıkarmak değil midir?
Hocam bu insanlar için de biraz doğru değil mi? Ben çocukken diğer insanların da düşünüp düşünmediklerini anlamaya çalışırken deli olduğumu hatırlıyorum mesela . O zaman bir şekilde düşündüklerine kanaat getirmiştim ama düşününce yanlış sonuca varmışım, insanlar için de geçerli olabilecek bir düşünce deneyi bu.
Doğrudur hocam, diğer kriterler zaten otomatik olarak yerine getiriliyor olabilirler. Öznel tecrübeden kastım insandaki gibi göreceli bir algıydı. Yanılıyor olabilirim. Şöyle açıklayayım: Her insan aynı fizyolojik duyu organlarıyla donatılmıştır ama buna rağmen ham bir sensory data her insanda farklı zihinsel filtrelerden geçerek farklı bir tecrübe anlamına gelebilir.
Oysa aynı fiziksel donanıma sahip iki farklı robot aynı ham sensory data’yı her zaman aynı şekilde tecrübe edecektir. Kendi varlıklarından haberdar olmaları aynı datayı farklı şekilde tecrübe etmelerine yeter mi?
Strong bir yapay zeka aynı donanımla da olsa kendine has bir “birey” olması gerektiği için, cevap onun için kesinlikle evet olmalıdır.
İnsanlara da uygulanabilir sanırım, açıkçası bir insan deneğini düşünmedim. Sonuçta gerçek bir bilincin ne kadar zor tespit ve ispat edilebileceğini gösteren bir sınav.
Biraz araştırmam ve üzerine düşünmem gerekiyor. Ama sonuç itibariyle salt spontane iletişimin gerçek bir bilinç anlamına gelmeyebileceğini göstermesi açısından geçerli bir düşünce deneyi.
Not: Şu anki iletişimimiz de iki bilinçsiz, ama düzenbaz AI tarafından aynı başarıyla taklit edilebilirdi. Kimse de farkını anlamazdı.
Hım. Peki gelen girdilere ya da nöronlar arası ilişkilere gerçek rastgele gürültü eklesem ben. Her yaptığım model bu şekilde azıcık farklı davransa. Ve bu sisteme ek bir girdi eklesem, buraya da tüm nöron graphının düzgün bir gosterimini ya da en azından hashini versem, böylece kendi yapısının bir gösterimini de girdi olarak alsa sanırım tarif ettiğiniz tüm koşulları sağlayabiliyoruz yine . Her birey farklı davranıyor, ve “kendinin farkında olmak” derken kastımız öz yapının bir şekilde davranış belirlenişini etkilemesiyse kendinin farkında da oluyor.
Kastettiğinizin böyle bir şey olmadığının farkındayım ama bunlar da yapılan tanımlara uyuyorsa aslında olay "çizgiyi nereye çiziyoruz"a geliyor gibi düşünüyorum.
Az önce aklıma bir soru geldi (Bedensel zorunluluklardan toplumsal zorunluluklara veya diğer bütün alanlardaki zorunlulukları kapsayacak şekilde) Zorunda olmasam ne yapardım? diye.
Cevap bulamadım, hayatımda her şeyi yapmak zorunda olduğum için yapıyorum; Var olmak için düşünmek zorundayım, öğrenmek için araştırmak vb. zorundayım, mutlu olmak için mutluluk verici eylemler yapmak zorundayım, görmek için gözümü açmak zorundayım, yaşamak için nefes almak zorundayım vb. vb. ++
Zorla yaşıyormuşum.
İnsan sebepsiz yere bir eylemde bulunmaz, bir eylemde bulunuyorsa sebebi vardır. Ama insan bu sebepleri yerine getirmek zorunda değildir. Mutlu olmak istiyorsa mutluluk verici eylemler yapmak zorundadır ama mutlu olmak zorunda değildir.
Aslında saydığın şeyler zorunluluk değil, istek. İnsan bu istekleri kendi iradesiyle belirlemiyor (en azından bazılarını) bunları hissediyor elinde olmadan, ama gene de bu yapmak zorunda olduğu anlamına gelmiyor. Ben yaşamak istiyorum o yüzden nefes alıyorum ama yaşamak zorunda değilim.
Ahlak şu aralar baya b kafama takılan bi mevzu. Ahlak nedir, herkes için aynı mıdır ? Ahlak gerekli midir yoksa opsiyonel mi ? Gerekli diyorsak neye dayanarak diyoruz bunu ?
Eylemde bulunmak için sebep bulmak zorundasın. Mutlu olmak için mutlu olmayı istemek zorundasın. Yaşamak için yaşamayı istemek zorundasın.
Ahlak -bence- hayatın her alanına sirayet etmiş ve insanlar tarafından içselleştirilmiş, hayatı düzenleyici, kuralımsılardır.
Ahlak gereklidir, gerekli olduğu için insanlık tarafından üretilmiştir. (para gibi, devlet gibi, internet gibi, kıyafet gibi, dil gibi, yazı gibi). Tabii toplumsal açıdan böyledir yoksa ahlaktan yoksun bir benlik olabilir ancak kişiyi toplum dışına iteceği için pek tercih edilmez. Zaten aklı başında insan toplumdan zihnen bağını kesmek istemeyeceği için ahlaki değerleri kabullenememe daha çok kişilik bozukluklarında görülür örn. Antisosyal kişilik bozukluğu.
Ben ahlakın gerekliliğini doğrudan Jung’un Kolektif Bilinçdışı kavramına dayandırmayı tercih ediyorum.
Bununla birlikte, ahlaki kurallara uyuyor muyum? Evet. Fırsatım olsa bu kuralları yok sayar mıydım? Kesinlikle. Toplumun ahlak kurallarını yok saymasını ister miyim? Asla.
Kolektif Bilinçdışı kavramına baktım da, insanlığın nesiller boyunca bilgi aktarması sonucu oluşmuş " insan doğası " anladığım kadarıyla. Bununla ahlakın da insanın doğuştan sahip olduğu bir şey olduğu söylenebilir ama bence bu doğru değil yeni doğmuş birinin ahlak kavramına sahip olduğu veya bunun farkında olmasa bile buna göre hareket ettiğini zannetmiyorum. Böyle bir durum olsa dünyada ahlaksız insan bulunmazdı
Eğer insan sadece toplum içerisinde barınmak için ahlaki kurallara uyuyorsa bu kurallar insanların özümsediği şeyler değildir, sahte şeylerdir. Yani benim gözümde ahlak kaosu engellemek için ve düzeni korumak için işlevlidir ama herkesin bunları benimsediği ütopik bir dünyada geçerlidir bu. Eğer insanlar sırf toplumdan dışlanmamak için bunu yapıp maskelerinin ardından farklı şeyler düşünüyorlarsa -bizim dünyamız gibi- düzen sürekli bozulur ve ahlakın varolmadığı bir dünya kadar olmasa da gene de kaos varolur.
Peki bu yetersizse, simulasyonda değil de aynı işi gerçekte yapan robotlar olsaydı bir şey değişir miydi? Ya da nöral ağ yazılımla taklit edilmeseydi de fiziksel bir cihaz olsaydı? Aynı robot sizi Go’da yenseydi? Dota’da? Chat yaparken de insan olduğunu düşündürtseydi size? Teoriyi de geçtim pratikte bunların hepsi günümüz teknolojisiyle mümkün hocam.
Sonuçta gerçek bir bilincin ne kadar zor tespit ve ispat edilebileceğini gösteren bir sınav.
Mum’s the word.