Google ve Anthropic Çalışanları: Askeri AI’ya Kırmızı Çiz...

Geçtiğimiz hafta, Google ve Anthropic çalışanları, askeri AI kullanımına kesin sınırlar koymayı talep eden açık mektuplar yayımladı. Bu etik direniş, teknoloji endüstrisinin en büyük sorusunu gündeme getirdi: Yapay zekânın sınırları kim belirleyecek? Bu mektupların endüstriyi nasıl değiştireceğini öğrenin.

Anthropic’ın Pentagon’a Açık Mektubu: Claude Constitution’ın Sınırı

2024’te Pentagon, Anthropic’e Claude modelini tamamen sınırsız askeri operasyonlarda kullanma teklifi sundu. Ancak çalışanlar, bu teklifi bir etik çöküş olarak gördü.

Claude Constitution Nedir?

Anthropic’in 2021’de belirlediği etik ilkeler, Claude modelinin şu üç ilkeye bağlı kalmasını şart koşar:

• İnsan haklarına zarar vermemek
• Askeri silah sistemlerinde kullanılmamak
• Kendi kendine karar veren silahlara izin verilmemek

Bu ilkeler, şirketin kurucularının temel inançlarıydı. Pentagon’un teklifi, bu ilkeleri pazarlama aracı olarak görmeyi denedi.

Google Çalışanlarının Etik Mektubu: 150+ Mühendis Direniyor

Anthropic’in açıklamasından birkaç gün sonra, Google’ın DeepMind ve AI Research ekibinden 150’den fazla çalışan, şirketin askeri projelerden tamamen çekilmesini talep eden bir mektup yayımladı.

Project Maven ve Project Nightingale’nin İzleri

Mektupta, 2018’deki protestolardan sonra Google’ın askeri projelere kısmen geri çekildiği hatırlatıldı. Ancak bu sefer: “2018’deki protestolar bizi durduramadı, ama bu sefer duracağız.”

Üç Kırmızı Çizgi

Çalışanlar, Google’ın AI ilkelerine dayanarak şu üç kırmızı çizgiyi tanımladı:

1. Askeri hedef belirlemede AI kullanılmayacak
2. İnsan yaşamı doğrudan tehlikeye atılacak sistemlere katkı sağlanmayacak
3. Herhangi bir askeri projeye doğrudan yazılım desteği verilmeyecek

Neden Şimdi? Project Sentinel ve Küresel Basın

ABD Savunma Bakanlığı, 2024’te Project Sentinel adlı yeni bir AI entegrasyon programını başlatacak. Bu program, kendi kendine karar veren silah sistemlerinin test edilmesini içeriyor.

Küresel Çapta Yasaklama Hareketi

Avrupa Birliği ve BM, yapay zekânın askeri kullanımına yönelik uluslararası yasaklama görüşmelerine başladı. Bu nedenle, Google ve Anthropic, hem kamuoyu önünde hem de iç örgütlerinde etik bir ikilemde kaldı.

Gelecek İçin Bir Sınav: Etik Mi, Kazanç mı?

Anthropic’in cevabı hâlâ bekleniyor. Ancak çalışanların %40’ının istifa etme hazırlığında olduğu kaydediliyor. Google ise, 2018’deki anlaşmazlıktan sonra kısmi çekiliş yapmıştı; bu sefer tam ayrılma talebi var.

Bu mektuplar sadece protesto değil, bir çağrışım: Yapay zekânın gücünü, insanlık değerlerine hizmet etmek için kullanmalıyız. Yoksa, bir gün bu zekânın kararları, savaşın kazananını değil, hangi insanın yaşayacağını belirleyebilir.