Geçen gün kıymetli dostlarımla bir ortamda buluşup güncel konular üzerine sohbetimizi yaparken konu yapay zekanın günümüzdeki yerine geldi.
Kendi hayal dünyamız ve düşüncelerimiz doğrultusunda herkes bir şeyler söylüyor, hayatımızın her alanındaki yerini tespit ederek kolaylaştırıcı yönleri hakkında olumlu cümleler kuruyordu. Sohbet böylece devam ederken olaya farklı bir gözle bakacak birkaç soru yöneltmiştim: Ya yapay zeka bu hızla giderse? Ya 90’lı yıllarda izlediğimiz filmlerdeki gibi kontrolden çıkan yapay zeka ve insan ırkı arasında bir mücadele başlarsa? Yapay zeka ile üretilen robotlar ve araçlar kendi kendini programlayabilirse ve bu özelliğini insanı yok eden ateşli silahlara dönüştürürse?
İlk bakışta ütopik yahut fazla vesveseli bir yaklaşım gibi durabilir. Fakat bugün kendi kendini programlayabilen, öğrenebilen ve karar alabilen yapay zeka sistemlerinin yarın birer silaha dönüşmeyeceğinin, insanlığın varlığına kastetmeyeceğinin garantisini kim verebilir? Dünya halihazırda sıcak savaşlar, jeopolitik krizler ve gizli silahlanma yarışlarıyla çalkalanırken, hangi ülkenin elinde nasıl bir yapay zeka teknolojisi barındırdığını kestirmek neredeyse imkansız.
Robotik sistemler ve otonom silah teknolojileri hususunda küresel ölçekte tam manasıyla bağlayıcı ve denetleyici tek bir otoritenin bulunmadığını küçük bir araştırma yaparak maalesef öğrendim ki Buda tehlikenin boyutunu daha da artırmaktadır. Birleşmiş Milletler nezdinde otonom silah sistemlerine dair yürütülen müzakereler bulunsa da, nükleer silahlanmada olduğu gibi uluslararası yaptırımı olan genel geçer bir denetim mekanizması henüz tesis edilebilmiş değildir.
Mevcut gidişat karşısında ülkelerin ve uluslararası toplumun gecikmeden adım atması gerekiyor. Öncelikle nükleer silah anlaşmalarında olduğu gibi, insan hayatına kasteden otonom silahlar için tüm dünyada geçerli sert kurallar konulmalı. Silah kullanımı gibi kritik kararlarda son sözün daima bir insanda olması kanunen zorunlu hale getirilmeli. Ülkelerin geliştirdiği yapay zeka teknolojilerini denetleyecek bağımsız uluslararası kurullar kurulmalı. Ayrıca, kontrolden çıkan ya da kendi kendini yanlış şekilde programlayan sistemleri anında durduracak acil kapatma düğmeleri ve güvenlik önlemleri her teknolojiye dâhil edilmeli.
Teknolojinin sunduğu konforun büyüsüne kapılıp direksiyonu tamamen makinelere devretmek, insanlığın kendi eliyle hazırlayacağı en büyük felaket olabilir. İnsanoğlu, geliştirdiği bu muazzam gücü kontrol altında tutacak iradeyi ve küresel iş birliğini sergilemek mecburiyetindedir; aksi halde geleceğin senaryolarını yazan taraf bizler değil, yazdığımız kodların kendisi olacaktır.
