“Süper akıllı yapay zekayı kontrol etmek imkansız”
13/01/2021 17:39
Avrupalı araştırma kurumu Max Planck Society'deki bilim adamları, insanların asla “insanlığı kurtarabilecek veya yok edebilecek” süper zeki bir yapay zekayı kontrol edemeyeceklerini söylüyor.
Bu görüş, Journal of Artificial Intelligence Research'te geçen hafta yayınlanan araştırmada geçiyor. Max Planck bilim adamları şunu savunuyor: Sorun şu ki, bugün inşa edebileceğimizden çok daha gelişmiş bir teknoloji olmadan böyle bir algoritmayı kapsamanın bir yolu olamaz.
Ekip öncelikle kısıtlama konusuna odaklandı. Eğer çok güçlü bir algoritma bir şekilde insanlara zarar vermesi gerektiğini ya da daha “Terminatör” benzeri bir tarzda insanlığı tamamen bitirmesi gerektiğini belirlese, bunu nasıl engelleyebiliriz?
Bilim adamları tehlikeli algoritmanın davranışını simüle eden ve zararlı herhangi bir şey yapmasını engelleyen bir tür "kapsama algoritması" oluşturmayı öneriyorlar. Ancak kapsama algoritmasının en az ilk yapan kadar güçlü olması gerektiğinden, bilim adamları problemin çözülmesinin imkansız olduğunu söylüyorlar.
Max Planck İnsani Gelişme Enstitüsü İnsan ve Makineler Merkezi Dijital Mobilizasyon Grubu'ndan Manuel Cebrian, bir basın açıklamasında “Dünyayı kontrol eden süper akıllı bir makine kulağa bilim kurgu gibi geliyor.” dedi. "Ancak, programcılar onu nasıl öğrendiklerini tam olarak anlamadan belirli önemli görevleri bağımsız olarak yerine getiren makineler zaten var. Dolayısıyla bunun bir noktada kontrol edilemez ve insanlık için tehlikeli olup olmayacağı sorusu ortaya çıkıyor. "
