Anthropic CEO’su Dario Amodei, yapay zeka modellerinin yetenek artışını güvenlik çalışmalarıyla dengelemek için üç aşamalı bir plan önerdi. İlk adımda Anthropic, bağımsız değerlendiricilere şirket çalışanlarının erişimine benzer sürekli erişim sağlamayı taahhüt ediyor, sonraki adımlar ise şirketler ve devletler arasında eşgüdüm gerektiriyor.
Yapay zeka araçlarını işinizde kullanıyorsanız, bu çağrı yeni özelliklerin ne kadar hızlı geleceğinden önce geliştirme süreçlerini kimin ve nasıl denetleyeceği sorusunu öne çıkarıyor. Amodei, gelişim hızına ilişkin planında bütün model eğitimlerini durdurmayı önermiyor.
Güvenlik ve hizalama çalışmalarının yetenek artışına yetişebilmesi için daha ölçülü bir tempo istiyor. Gerekçeleri arasında yapay zekanın sonraki yapay zeka kuşaklarını geliştirmede artan rolü bulunuyor. Yönetici bu hızlanmanın denetim araçlarını geride bırakabileceğini savunuyor, bunu kaçınılmaz bir sonuç olarak ilan etmiyor.
İlk aşama, şirket içine yerleşen bağımsız değerlendiricileri kapsıyor. Bu ekipler yalnızca tamamlanmış bir modelin son testine bakmayacak. Eğitim süreçlerini, güvenlik uygulamalarını ve olay bildirimlerini sürekli izleyebilecek. Anthropic, önemli bulguların yayımlanmasında şirketin editoryal kontrol kurmamasını öngörüyor, ancak hukuki yükümlülükler ve hassas bilgiler için sınırlı istisnalar tanımlıyor.
İkinci aşamada demokratik ülkelerdeki öncü yapay zeka şirketlerinin ortak standartlar geliştirmesi amaçlanıyor. Üçüncü aşama ise daha geniş uluslararası iş birliğini hedefliyor. Planın eşgüdüm boyutu, bazı adımların şirketlerin tek başına vereceği kararlardan fazlasını gerektirdiğini ortaya koyuyor.
Amodei, hükümet desteğinin ve uyumu doğrulayacak … Dario Amodei, yapay zeka için üç aşamalı yavaşlama planı sundu haberi ilk önce Teknoblog üzerinde yayımlandı.
