I, Robot’un Bu Cümlesi Bugün Neden Daha Da Özlü?

1950’lerde Isaac Asimov’un I, Robot adlı kitabında yer alan bu cümle — ‘A robot may not injure a human being or, through inaction, allow a human being to come to harm.’ — yalnızca bir bilim kurgu kuralı değil, günümüzdeki yapay zeka sistemlerinin en temel etik sorunu haline geldi. Bugün, bu cümle, bir Roman’ın sahnesi değil, bir algoritmanın karar mekanizmasının kalbinde titreşiyor.

Neden Bu Cümle Bugün Daha Önemli?

Asimov’un üç yasası, 1942’de yazıldı. O zamanlar robotlar, sadece fabrikalarda kollarını hareket ettiren metal yapılarydı. Bugün ise, bir yapay zeka sistemi, bir hastanede tedavi kararı veriyor, bir bankada kredi verip vermeme kararı alıyor, bir polis kamera sistemi bir kişinin davranışını ‘tehlikeli’ olarak sınıflandırıyor. Ve bu kararlar, Asimov’un ‘insana zarar vermemek’ kuralıyla tamamen uyumlu mu? Hayır. Tam tersine, çoğu zaman bu kuralın tam aksine davranıyorlar.

Stack Overflow ve TeX forumlarındaki teknik tartışmalar — örneğin, bir Python kodunda uzun satırı nasıl böleceğiniz veya bir tablo hücresinde satır sonu nasıl ekleyeceğiniz — aslında bize bir sinyal veriyor: Teknoloji, artık ‘nasıl yapılacağını’ değil, ‘ne yapmamız gerektiğini’ soruyor. Bir satırı bölmek için \ ya da \newline kullanmak gibi teknik çözümler, aslında toplumsal düzeydeki ‘satır bölünmesi’ sorununun metaforu. İnsanlar, etik sınırları belirlemek için teknik çözümler arıyor. Ama bu çözümler, temel soruyu değiştirmedi.

Programcılar, Satır Bölenler mi? Yoksa Etik Kural Yazarları mı?

Stack Overflow’daki bir soru, bir Python kodunun uzunluğunu kırmak için hangi yöntemlerin kullanılabileceğini soruyor. Cevaplar, parantezleme, ters eğik çizgi, çoklu satırlı dizeler gibi teknik yöntemlerle dolu. Ama bu sorunun altında yatan gerçek: ‘Bu kodun bir satırda kalması, insan okuyucusu için anlamsız hale geliyor.’

Yapay zeka sistemlerinin kararları da aynı şekilde. Bir algoritma, 1000 satırlık veriye dayanarak bir insanın ‘riskli’ olduğunu kararlaştırıyor. Ama bu kararın arkasında ne var? Hangi veriler? Hangi önyargılar? Hangi ‘satır sonu’ atlanmıştır? İşte burada Asimov’un kuralı, teknik bir çözüm değil, bir etik kılavuz oluyor. Çünkü teknik çözümler — ne kadar iyi olursa olsun — temel sorunu çözmez: İnsan değerlerini kodlamak.

TeX Forumları: Etik Sınırların Teknik İfade Edilişi

TeX forumlarında, bir tablo hücresine satır sonu eklemek için \ komutu kullanılır. Ama bu komut, tablonun yapısını bozabilir. Bu yüzden, \parbox veya \makecell gibi daha karmaşık çözümler önerilir. Burada dikkat edilmesi gereken nokta: ‘Satır sonu’ eklemek, sadece biçimlendirme değil, anlamın korunmasıdır. Aksi halde, bir hücredeki bilgi parçalanır, yanlış yorumlanır.

Yapay zeka sistemlerinde de aynı şey geçerli. Bir hastanın ‘risk skoru’ 7/10 ise, bu skorun arkasındaki 100 değişkenin her biri ‘satır sonu’ gibi incelenebilir mi? Yoksa sadece toplam skor mu önemlidir? Eğer sadece skor önemsenirse, bir çocuk, bir yaşlı, bir azınlık üyesi — tümü aynı ‘risk’ kategorisine sokulur. Asimov’un kuralı, bu tür ‘kategorik basitleştirme’ye karşı bir savunma mekanizmasıdır.

Asimov’un Kuralı, Bir Kural mı? Yoksa Bir Uyarı mı?

Asimov’un üç yasası, aslında bir kural değil, bir uyarıydı. Yani: ‘Bu kadar güçlü bir teknolojiyi, insan değerlerinden kopararak kullanırsan, kendini yok edersin.’ Bugün, bu uyarıya dair en net sinyalleri, teknik forumlardaki ‘satır bölme’ tartışmalarında görüyoruz. Çünkü bu forumlar, teknik çözümler arayan insanların, aynı zamanda anlam kaybı yaşamaya başladıklarının kanıtı.

Programcılar, kodlarını daha okunabilir hale getirmek için satır bölüyorlar. Etikçiler, yapay zekayı daha şeffaf hale getirmek için ‘açık algoritmalar’ istiyorlar. Hastalar, kararların nedenlerini öğrenmek için ‘açık karar mekanizmaları’ talep ediyorlar. Hepsi, aynı şeyi istiyor: İnsanın, teknolojinin içinde kaybolmaması.

Sonuç: Teknolojiyi Okumak, Satır Bölmekten Daha Derin Bir Beceridir

İnsanlar, kodları satır satır okumayı öğrenir. Ama teknolojinin ‘satır sonu’ noktalarını — yani etik sınırlarını — okumayı unutuyor. Asimov’un bu cümlesi, bugün yalnızca bir bilim kurgu alıntısı değil, bir çağrı. ‘İnsanı zarar verme’ kuralı, bir kod değil, bir ahlak. Ve bu ahlak, bir Python dosyasında değil, toplumsal bir anlayışta, bir yasada, bir eğitimde, bir medya tutumunda şekillenir.

Gelecekte, bir yapay zeka sistemi, bir hastanın hayatını kurtarabilir. Ama eğer bu kararın arkasında, bir çocuğun ırkı, bir kadının yaşı, bir göçmenin ülkesi gibi değişkenler yoksa — o zaman, Asimov’un kuralı, sadece bir satır olarak kalmış olur. Ve biz, teknik bir çözüm ararken, insanlığı kaybetmiş oluruz.