OpenAI, yapay zekanın risklerine yönelik endişelerin arttığı bir dönemde, alanın önde gelen güvenlik araştırmacılarından ve ABD hükümetine teknik danışmanlık yapan Paul Christiano’yu kâr amacı gütmeyen vakfının yönetim kuruluna atadı.
Christiano, ABD Ticaret Bakanlığı bünyesinde faaliyet gösteren ve yapay zeka modellerine yönelik yönergelerin geliştirilmesi ile test edilmesine katkı sağlayan Yapay Zeka Standartları ve İnovasyon Merkezi’nde (CAISI) kıdemli teknik danışman olarak görev yapıyor.
Yapay zeka sistemlerinin insan çıkarları doğrultusunda çalışmasını sağlamayı amaçlayan “hizalama” (alignment) alanında uzman olarak kabul edilen Christiano, 2024’te ayrılmadan önce Anthropic’in kâr amacı gütmeyen vakfında da görev yapmıştı.
REKLAM
REKLAM
Christiano, daha önce yapay zeka teknolojilerinin geliştirilmesinin ciddi riskler taşıyabileceğine ilişkin görüşlerini açıkça dile getirmişti. Christiano, 2023’te katıldığı bir podcast yayınında, gelecekte insanlığın büyük bölümünün ölümüyle sonuçlanabilecek bir “yapay zeka tarafından ele geçirilme” ihtimalinin yüzde 10 ila yüzde 20 arasında olabileceğini ifade etmişti.
Christiano, yeni görevi kapsamında OpenAI’daki kritik konulara ilişkin uygulamaların yönetilmesine katkı sağlayan yönetim kurulundaki Güvenlik ve Emniyet Komitesi’nde yer alacak. Christiano ayrıca, OpenAI’ın kâr amacı güden kolunun yönetim kurulunda oy hakkı bulunmayan gözlemci olarak görev yapacak.
REKLAM
REKLAM
Christiano, Çarşamba günü yaptığı açıklamada, “Yapay zeka yetenekleri son bir yılda çok hızlı bir şekilde ilerledi ve hizalama konusu zorlu bir teknik sorun olmaya devam ediyor; bu durum, Güvenlik ve Emniyet Komitesi’nin sorumluluğunu her zamankinden daha önemli ve zorlu kılıyor,” dedi.
Öte yandan Christiano, şirkette yüzde 26’lık hisseye sahip olan vakfın hayırseverlik faaliyetlerinin denetlenmesinde de görev alacak.
