Geleceğe Dair Kritik Soru Yapay Zeka Kontrol Altında Tutulabilir mi?

Gökbey İnaç 05.09.2016

Bir grup bilim adamı, yapay zekayı kontrol altına almak için kolları sıvadı ve çalışmalara çoktan başladı!

Son 1 yılda yapay zeka alanında artan çalışmalar ve yapay zekanın minör anlamda hayatımıza girişi hepimizi heyecanlandırdı. Önceki yazılarımdan biri olan Singularity’de olduğu gibi bir süper yapay zekanın geleceği de aşikar sayılır. Tabii ki bu duruma şüpheyle yaklaşan, korkan ve aslında bunun yanlış olduğunu düşünen insanlar da var ve bu insanlar iş işten geçmeden bir şey yapmak istemişler.

Amerika Birleşik Devletleri’ndeki Berkeley Üniversitesi’nde görevli ve yapay zeka uzmanı olan Stuart Russel ve birkaç uzmanla birlikte geçtiğimiz hafta bir merkez kurdular. Bu merkezin amacı yapay zekayı insan kontrolünde tutacak ve insani değerlere saygı duyacak yapay zeka sistemlerinin varlığını garanti etmek olacak. Öyle ki bu merkez kurulur kurulmaz Future of Life, The Leverhulme Trust ve Open Philantrophy’den 5.5M USD’ın üzerinde fonlama aldı.

Böyle Bir Merkez Neden Kurulmuş?

Stuart Russel’ı ve dünya üzerinde yapay zekadan çekinen, korkan diğer tüm insanları ne ürküttüyse aynı şey ürkütmüş, tabii ki bilim kurgu filmleri... Terminator vb. kötü ve insan medeniyetini yok etmek isteyen robotların yer aldığı senaryolar hepimizin kabusları olurdu. Zaten aklın yolu bir ve gayet doğaldır ki bizden daha zeki, bizim kontrolümüz dışında bir varlığın bizi yok edip etmeme kararını alabilecek kapasitede olması yeteri kadar ürkütücü bir ihtimal değil mi?

Bundan dolayı gelecek dönemde milyarlarca insana aynı anda hizmet sunabilecek dev yapay zeka sistemlerinin insan kontrolünde, insani değerler içerisinde kalacak şekilde tasarlanmış olması gerekecek. Aksi durum muhtemelen gezegene pek de iyi davranmayan neslimizin sonunu getirebilir. (Yazar burada ufaktan korktuğunu kabul etmektedir.)

Zaten bu ekip, yapay zekaya sahip robotlara ufak tefek günlük işleri yaptırarak sakin tutmanın yollarını denemeye başlamış bile. Hemen aşağıdaki videoda ütü yapan, çamaşır yıkayan robotları görebilirsiniz, her eve lazım.

Son 1 yılda yapay zeka alanında artan çalışmalar ve yapay zekanın minör anlamda hayatımıza girişi hepimizi heyecanlandırdı. Önceki yazılarımdan biri olan Singularity’de olduğu gibi bir süper yapay zekanın geleceği de aşikar sayılır. Tabii ki bu duruma şüpheyle yaklaşan, korkan ve aslında bunun yanlış olduğunu düşünen insanlar da var ve bu insanlar iş işten geçmeden bir şey yapmak istemişler.

Amerika Birleşik Devletleri’ndeki Berkeley Üniversitesi’nde görevli ve yapay zeka uzmanı olan Stuart Russel ve birkaç uzmanla birlikte geçtiğimiz hafta bir merkez kurdular. Bu merkezin amacı yapay zekayı insan kontrolünde tutacak ve insani değerlere saygı duyacak yapay zeka sistemlerinin varlığını garanti etmek olacak. Öyle ki bu merkez kurulur kurulmaz Future of Life, The Leverhulme Trust ve Open Philantrophy’den 5.5M USD’ın üzerinde fonlama aldı.

Böyle Bir Merkez Neden Kurulmuş?

Stuart Russel’ı ve dünya üzerinde yapay zekadan çekinen, korkan diğer tüm insanları ne ürküttüyse aynı şey ürkütmüş, tabii ki bilim kurgu filmleri... Terminator vb. kötü ve insan medeniyetini yok etmek isteyen robotların yer aldığı senaryolar hepimizin kabusları olurdu. Zaten aklın yolu bir ve gayet doğaldır ki bizden daha zeki, bizim kontrolümüz dışında bir varlığın bizi yok edip etmeme kararını alabilecek kapasitede olması yeteri kadar ürkütücü bir ihtimal değil mi?

Bundan dolayı gelecek dönemde milyarlarca insana aynı anda hizmet sunabilecek dev yapay zeka sistemlerinin insan kontrolünde, insani değerler içerisinde kalacak şekilde tasarlanmış olması gerekecek. Aksi durum muhtemelen gezegene pek de iyi davranmayan neslimizin sonunu getirebilir. (Yazar burada ufaktan korktuğunu kabul etmektedir.)

Zaten bu ekip, yapay zekaya sahip robotlara ufak tefek günlük işleri yaptırarak sakin tutmanın yollarını denemeye başlamış bile. Hemen aşağıdaki videoda ütü yapan, çamaşır yıkayan robotları görebilirsiniz, her eve lazım.

Robotlar Nasıl Kötü Olur?

Geçtiğimiz Mayıs ayında Microsoft yapay zekalı Twitter bot’u olan TAY’ı test etmeye başlamıştı fakat TAY’ın Adolf Hitler fanı haline gelmesi ve ırkçı, agresif tutumlar sergilemesi sadece 4 saat sürmüştü. Bu skandalın ardından Microsoft TAY’ı kenara aldı ve susturdu.

Neden böyle olmuştu? Çünkü TAY, her yapay zeka sistemi gibi iletişime geçtiği hedef kitle ile uyum sağlayacak şekilde tasarlanmıştı. Fakat robotların duygu ve tutumları okuma ya da kinayeyi algılaması belirli bir öğrenme sürecinden sonra gerçekleştiğinden dolayı sonuç bu hale geldi. Ne yazık ki TAY ile o akşam konuşan gençler pek de uslu değildi, haliyle zavallı TAY da ortama uyum sağlamak için hemen jargona kapıldı.

İşte bu yüzden Russel Stuart gibi yapay zeka uzmanları bu tip sistemlerin tasarımlarını yaparken belirli çerçeveler belirlemek ve bu belirlenen kuralları evrensel hale getirmek için kolları sıvadılar. İnanın, kesinlikle böyle bir şeye ihtiyacımız var...

Makinalar Bizi Daha İyi İnsan Yapacak Mı?

Russel Stuart daha önce yazdığı bir makalesinde bu soruyu sormuş ve otonom araçlar, yapay zekalı robotlar gibi sistemlerin insani değerleri taşıması gerektiğini, bu değerlerin endüstrinin ana motivasyonu olması gerektiğini, aksi durumda insanlık için büyük bir sorun olabileceğini söylemiş. Yazının uzun ve detaylı haline buradan ulaşabilirsiniz.

Özetlemek gerekirse, evet yapay zeka bizim teknolojik evrimimiz olacak ama bunu belirli kurallara, belirli değerlere bağlı kalacak şekilde üretmez ve kontrolde tutmazsak, bizim evrimimizden ziyade sonumuzu getirebilecek bir gerçekliğe hazır olmalıyız.

Bir sonraki yazımda Google’ın heyecanla beklenirken sona eren, üzen projesi Google ARA hakkında yazacağım.

Robotlar Nasıl Kötü Olur?

Geçtiğimiz Mayıs ayında Microsoft yapay zekalı Twitter bot’u olan TAY’ı test etmeye başlamıştı fakat TAY’ın Adolf Hitler fanı haline gelmesi ve ırkçı, agresif tutumlar sergilemesi sadece 4 saat sürmüştü. Bu skandalın ardından Microsoft TAY’ı kenara aldı ve susturdu.

Neden böyle olmuştu? Çünkü TAY, her yapay zeka sistemi gibi iletişime geçtiği hedef kitle ile uyum sağlayacak şekilde tasarlanmıştı. Fakat robotların duygu ve tutumları okuma ya da kinayeyi algılaması belirli bir öğrenme sürecinden sonra gerçekleştiğinden dolayı sonuç bu hale geldi. Ne yazık ki TAY ile o akşam konuşan gençler pek de uslu değildi, haliyle zavallı TAY da ortama uyum sağlamak için hemen jargona kapıldı.

İşte bu yüzden Russel Stuart gibi yapay zeka uzmanları bu tip sistemlerin tasarımlarını yaparken belirli çerçeveler belirlemek ve bu belirlenen kuralları evrensel hale getirmek için kolları sıvadılar. İnanın, kesinlikle böyle bir şeye ihtiyacımız var...

Makinalar Bizi Daha İyi İnsan Yapacak Mı?

Russel Stuart daha önce yazdığı bir makalesinde bu soruyu sormuş ve otonom araçlar, yapay zekalı robotlar gibi sistemlerin insani değerleri taşıması gerektiğini, bu değerlerin endüstrinin ana motivasyonu olması gerektiğini, aksi durumda insanlık için büyük bir sorun olabileceğini söylemiş. Yazının uzun ve detaylı haline buradan ulaşabilirsiniz.

Özetlemek gerekirse, evet yapay zeka bizim teknolojik evrimimiz olacak ama bunu belirli kurallara, belirli değerlere bağlı kalacak şekilde üretmez ve kontrolde tutmazsak, bizim evrimimizden ziyade sonumuzu getirebilecek bir gerçekliğe hazır olmalıyız.

Bir sonraki yazımda Google’ın heyecanla beklenirken sona eren, üzen projesi Google ARA hakkında yazacağım.

BUNLAR DA İLGİNİZİ ÇEKEBİLİR

BU YAZARDAN

Yorum yazmak için giriş yapmalısınız.

Bu habere henüz site içi yorum yazılmamış.

Gazetemsi
Facebook'ta takip et Twitter'da takip et Youtube'da takip et Instagram'da takip et

©2016 Gazetemsi.com. Her hakkı saklıdır.