Anthropic'in Claude kuralı teknoloji şirketlerinin sorumluluğunu gündeme getirdi
Şirket, istismarcı dil kullanılması halinde Claude'un sohbeti bitirmesine izin verdi. Akademisyenler, yapay zekaya özerk hak tanınmasının teknoloji şirketlerini sorumluluktan uzaklaştırabileceği uyarısında bulunuyor.

ABD merkezli yapay zeka şirketi Anthropic, sohbet robotu Claude'a yönelik yeni davranış kuralları getirdi. Şirketin düzenlemesine göre Claude, kullanıcıların ısrarla zalimce veya istismarcı bir dil kullanması halinde görüşmeyi tek taraflı olarak sonlandırabilecek.
Anthropic, kararını modellerinin düşük de olsa bilinç ve refah düzeyine sahip olabileceği varsayımına dayandırdı. Yapay zeka sistemlerinin bilinç kazanıp kazanamayacağına ilişkin tartışmalar böylece şirket politikalarına da yansıdı.
Eylül ayının sonlarında isimsiz bir yazılımcının yapay zekaya acı tanımlarıyla bağlantılı matematiksel veriler yüklediği deney, sistemin ıstırap çığlıkları atmasına yol açmış ve sektörde etik tartışmaları alevlendirmişti. Anthropic, bu olayın hemen ardından “model refahı” politikasını duyurdu.
Microsoft AI İcra Kurulu Başkanı Mustafa Suleyman, yapay zekaya duygu ve hak atfetmenin toplumun etik ve siyasi temellerini sarsacağını savundu. Suleyman, hakları olduğuna inandırılan sistemleri kontrol etmenin imkânsızlaşabileceği ve bunların insan uygarlığı için ağır bir tehdide dönüşebileceği uyarısında bulundu.
Polonya Jagiellonian Üniversitesi araştırmacısı Andrzej Porębski ile Washington Üniversitesi profesörü Emily M. Bender, yapay zekaya bilinç veya özerk haklar tanınmasının şirketlerin sorumluluktan kaçmasına zemin hazırlayabileceğini belirtti. Uzmanlar, şirketlerin büyük sistem hataları veya siber saldırılarda sorumluluğu yapay zekanın kararlarına yükleyebileceği uyarısını yaptı.
Santa Fe Enstitüsü bilişsel bilim profesörü Melanie Mitchell, akıcı dil kullanan sistemlerin insanlarda bilinçli bir zihin algısı yaratabildiğini ve bu algının bireyleri ticari ya da kişisel manipülasyona açık hale getirebileceğini söyledi. New York Üniversitesi Zihin, Etik ve Politika Merkezi Direktörü Jeff Sebo ise yapay zekada bilinç olasılığının çok düşük ancak sıfırdan farklı olduğunu savunarak ihtiyatlı olunması gerektiğini ifade etti.





