Bilimkurgu edebiyatının en kült isimlerinden olan Isaac Asimov'un, meşhur "robot kanunları"nı duymayanımız kalmamıştır herhalde. Biz yine de 92 yılında kaybettiğimiz bu büyük dehanın, ilk kez ölümünden 50 yıl önce yazdığı kısa bir öyküde yer verdiği bu kanunları kısaca bir hatırlayalım:
1. Bir robot, bir insana zarar veremez. Ya da hareketsiz kalarak bir insanın zarar görmesine neden olamaz.
2. Bir robot, insanların verdikleri emirlere uymak zorundadır. Ancak bu tür emirler birinci yasayla çeliştiği zaman durum değişir.
3. Bir robot, birinci ve ikinci yasayla çelişmediği sürece varlığını korumak zorundadır.

İyi ama, zaman içerisinde yeterli olmadıkları gerekçesiyle üstadın bir madde daha eklemek zorunda kaldığı bu kanunları neden hatırlatma gereği duyduk? Onu da şimdi söylüyoruz:
İngiliz "The Royal Academy of Engineering" (Kraliyet Mühendislik Akademisi) tarafından, bu ay yayınlanan "Otonom Sistemlere Dair: Sosyal, Hukuki ve Etik Mevzuat" adlı rapor; tıp, ulaşım, savunma, sistem mühendisliği, sivil toplum, bilgisayar ve finans gibi farklı alanlardan temsilcilerin bir araya geldiği bir toplantı sonucunda oluşturulmuş. Toplantının konusu da, özetle: Robotlar ve hukuk!

Burada "Otonom sistemler"den bahsederken, internet terminolojisinde "AS" olarak da ifade edilen ve "bir ağ grubunun tek bir sistem olarak yönetilmesi" olarak kabaca özetleyebileceğimiz protokoller bütünüyle bir anlam ayrımına gittiğimizi belirtmekte de fayda var.


Sorumlu kim?

"Otomatik" kavramının bir aşama üstünü ifade eden "Otonom"; "uyum sağlama", "öğrenme" ve "karar verme" özelliklerine sahip, bağımsız sistemleri nitelemek için kullanılıyor. Tam otonom sistemlerde, işlevin -veya hatanın- kaynağını bir kaç yerde birden bulmak mümkün.

Evet, söz konusu bu karmaşık sistemler olduğunda bile insan faktörü, hala bir yerlerde gizli; ancak bir aksaklık sonucu meydana gelebilecek bir yaralanma veya ölüm durumunda, kanuni sorumluluk kime ait olacak: Tasarımcı mı? Üretici mi? Programcı mı, yoksa kullanıcı mı? İşte söz konusu raporda, bu temel sorunun yanı sıra, otonom sistem standartlarına ilişkin sertifikasyonun ve hukuki sorumlulukların belirlenmesi ile ilgili bir dizi soruya cevap aranıyor.

Otonom sistemler daha şimdiden hayatımıza önemli ölçüde girmiş durumda. Ulaşımdan bankacılığa, tarımdan maden aramaya ve savunma sanayine kadar geniş bir uygulama alanı, halihazırda mevcut. Peki ya bunlardan doğabilecek ciddi aksaklıklara ilişkin yasal düzenlemeler? Konunun vahametini kavramak için son yıllarda meydana gelen uçak kazalarıyla ilgili davalara bakmak yeterli.

Henüz bilişim hukukunda bir arpa boyu yol gidilmiş ülkemizde, yapay zeka ve kanun ilişkisini tartışmak için biraz erken gibi görünebilir, ancak bir gün antibiyotiğinizin saatini aksattığınız için "ev"iniz sizi polise verirse, siz kimi-kime şikayet edeceksiniz?