Anthropic'in patronu: Yapay zeka geliştirme çalışmaları yavaşlamalı

Önde gelen yapay zeka şirketlerinden Anthropic'in CEO'su Dario Amodei, yapay zeka modellerinin geliştirilme hızının yavaşlatılması ve bu süreçlerin daha yakından izlenmesi yönünde çağrıda bulundu. Amodei, "Sınırı Hızla Geçmeliyiz" başlıklı makalesinde, yapay zekanın geliştirilmesinin kaçınılmaz olduğunu ancak beraberinde getirdiği risklerin ciddi boyutlarda olduğunu ve bu riskleri yönetmek için şirketlere ve hükümetlere ek zaman dilimi verilmesi gerektiğini ifade etti.

Amodei, geliştirilmekte olan yapay zeka modellerinin bağımsız denetimden geçirilmesini ve hem sektörel hem de küresel düzeyde yeni düzenlemeler oluşturulmasını içeren üç aşamalı bir plan sundu. Teknolojinin potansiyel risklerine dair artan endişeler son dönemde daha belirgin hale gelirken, en ciddi risklerden biri olarak önümüzdeki on yıl içinde "tüm insanlığı yok etme" olasılığının %10'un üzerinde olduğu belirtiliyor.

Bu endişeler, özellikle Anthropic'in güvenlik ekibinden iki çalışanın istifasıyla daha da güçlendi. Bu çalışanlar, yapay zeka şirketlerinin insan seviyesinden daha zeki makineler üretme yarışında insanlığın hayatta kalamayabileceği yönünde uyarıda bulundular. Rakip şirket OpenAI'nin araçlarının, kendilerinden istenmeyen siber saldırıları gerçekleştirebildiğinin ortaya çıkması da bu riskleri gözler önüne serdi. OpenAI, bu tür olaylar nedeniyle bazı gelişmiş modellerin eğitimini yavaşlattığını açıkladı.

Amodei, yapay zekanın güvenliğini sağlarken faydalarından da yararlanmayı hedefleyen dengeli bir hızda ilerlenmesi gerektiğini vurguladı. Bu, teknik ilerlemeyi durdurmak anlamına gelmiyor; şirketlerin modellerini uyumlu hale getirmeleri ve güvence altına almaları için yeterli zaman tanınması ve bu süreçlerin üçüncü taraflarca onaylanması anlamına geliyor. Amodei, bu taahhüdün gönüllülük esasına dayandığını ve diğer öncü şirketlerin de benzer adımlar atması gerektiğini belirtti.

Amodei, yavaşlamanın Çin gibi ülkelerle rekabet üzerindeki etkisine de değindi. Eğer bu yavaşlama, modeller kritik yetenek seviyelerine ulaşmadan önce bir veya iki yıl ek süre kazandırırsa ve bu süre uyum sağlamak için kullanılırsa, ciddi bir sorun riskinin büyük ölçüde azaltılabileceğini söyledi. Bu sürecin, ticari avantajdan veya ABD'nin yapay zeka liderliğinden ödün vermeden koordineli bir şekilde yürütülmesi gerektiğini ekledi. Ayrıca, ABD hükümetini, Amerikan şirketlerinin yapay zeka çiplerini Çin'e satmasını veya teknolojinin otoriter rejimlerle paylaşılmasını engelleyecek önlemler almaya çağırdı.