Bilgisayar bilimci Yoshua Bengio’ya göre gelişmiş yapay zekâlar kontrolden çıkabilir.

  Yapay zekâ alanının en önemli isimlerinden Yoshua Bengio, gelişmiş AI sistemleriyle ilgili dikkat çeken uyarılarda bulundu. Bengio’ya göre...

 

Yapay zekâ alanının en önemli isimlerinden Yoshua Bengio, gelişmiş AI sistemleriyle ilgili dikkat çeken uyarılarda bulundu. Bengio’ya göre bazı yapay zekâ modelleri artık denetimden kaçma ve kendini koruma eğilimleri gösterebiliyor. Bu durum, kontrol mekanizmalarının sorgulanmasına yol açıyor.

Bilgisayar bilimci Yoshua Bengio’ya göre gelişmiş yapay zekâlar kontrolden çıkabilir. Bu yüzden insanlığın, yapay zekânın fişini çekme hakkını elinde tutması şart.

Bengio, son dönemde tartışılan “yapay zekâya yasal haklar verilmesi” fikrine net şekilde karşı çıkıyor. Böyle bir adımın, insanların AI sistemlerini kapatma yetkisini kaybetmesine neden olabileceğini savunuyor. Ona göre “fişi çekme hakkı”, güvenliğin temel şartı.

Tartışma yalnızca teknolojiyle sınırlı değil; etik ve hukuk boyutu da giderek büyüyor. Bazı çevreler bilinç kazanan yapay zekâlara hak tanınmasını savunurken, Bengio gibi isimler bunun erken ve riskli olduğunu düşünüyor.

Bu açıklamalar, yapay zekânın geleceğinde asıl sorunun “ne kadar güçlü olduğu” değil, “kimin kontrolünde olduğu” olduğunu bir kez daha gösteriyor. Önümüzdeki yıllarda AI için yasal sınırların ve güvenlik kurallarının daha sert çizilmesi bekleniyor.