Paul Christiano OpenAI Foundation yönetiminde
OpenAI, Paul Christiano’nun OpenAI Foundation Board’a atandığını duyurdu. Kurumun açıklamasına göre Christiano, OpenAI Group PBC yönetim kurulunda oy hakkı bulunmayan gözlemci olarak da yer alacak. Atama, OpenAI’nin yapay zekâ sistemlerindeki güvenlik, emniyet, hizalama ve yönetişim başlıklarına ilişkin karar alma yapısında Christiano’nun teknik perspektifinden yararlanmayı hedefliyor.
Christiano’nun yeni rolü, OpenAI Foundation’ın ayrı bir hayır kurumu olarak faaliyet gösterdiği yönetişim yapısı içinde konumlanıyor. Vakıf, OpenAI Group PBC üzerinde kontrol sahibi ve şirkette önemli bir hisseye sahip bulunuyor. OpenAI’nin açıklamasında, vakfın kendi hayır faaliyetlerini yürüttüğü; bilimsel keşif, sivil toplumun güçlendirilmesi ve sorumlu yapay zekâ aracılığıyla dayanıklılık oluşturmayı amaçlayan girişimleri desteklediği belirtiliyor.
Güvenlik ve Emniyet Komitesi’nde de görev alacak
Paul Christiano, Foundation Board üyeliğinin yanı sıra Güvenlik ve Emniyet Komitesi’ne de katılacak. Komiteye Zico Kolter başkanlık ediyor. OpenAI’ye göre bu komite, OpenAI Group PBC dahil olmak üzere OpenAI genelindeki güvenlik ve emniyet uygulamalarına yönelik yönetişim sorumluluğu taşıyor.
OpenAI Foundation ve OpenAI Group PBC yönetim kurulları başkanı Bret Taylor, Christiano’nun yapay zekâ hizalaması alanını şekillendiren, titiz ve zor sorunlara odaklanan çalışmalarıyla öne çıktığını söyledi. Taylor’a göre Christiano’nun kamudaki yapay zekâ güvenliği ve standartlar deneyimi ile teknik muhakemesi, yönetim kurulunun gözetim kapasitesini ve komitenin çalışmalarını güçlendirecek.
Kamu deneyimi ve model değerlendirmeleri
OpenAI’nin verdiği bilgilere göre Christiano, ABD Ticaret Bakanlığı bünyesindeki Ulusal Standartlar ve Teknoloji Enstitüsü’nün birimi olan Center for AI Standards and Innovation’da kıdemli teknoloji danışmanı olarak görev yapıyor. Bu kurum ve öncülü olan ABD Yapay Zekâ Güvenliği Enstitüsü kapsamındaki çalışmaları, iki yönetim dönemine yayılan kamu deneyimini içeriyor.
Christiano’nun bu süreçte sınır yapay zekâ modellerinin değerlendirilmesi üzerinde çalıştığı aktarılıyor. Açıklamada, ulusal güvenlik açısından sonuç doğurabilecek kabiliyetlerin incelenmesi ile bunlara eşlik eden güvenlik ve emniyet risklerini azaltma yöntemlerinin de çalışmalarının parçası olduğu ifade ediliyor. OpenAI’nin dipnotunda ise Christiano’nun kıdemli teknik danışman sıfatıyla OpenAI ile ilgili tüm konulardan ve tüm model değerlendirmelerinden çekileceği belirtiliyor.
Hizalama araştırmalarındaki geçmişi
Christiano, gelişmiş yapay zekâ sistemlerini insan çıkarlarıyla uyumlu hâle getirmeye odaklanan kâr amacı gütmeyen Alignment Research Center’ın kurucusu. OpenAI açıklamasına göre Christiano, 2017 ile 2021 arasında OpenAI’de hizalama araştırmalarına liderlik etti ve insan geri bildiriminden pekiştirmeli öğrenme olarak anılan RLHF alanındaki temel çalışmalara katkı sundu.
OpenAI, Christiano’nun yeni görevinde yönetişim kararlarına teknik temelli ve farklı bir bakış açısı taşıyacağını belirtiyor. Kurumun değerlendirmesine göre Christiano, gelişmiş yapay zekânın ciddi riskler yaratma ihtimalini ele alan; sistemler daha tehlikeli kabiliyet düzeylerine ulaşmadan geliştiricilerin hazırlık yapması gerektiğini savunan bir araştırma geçmişine sahip. Açıklamada ayrıca Christiano’nun, sektördeki önlemlerin yeterliliğine ilişkin bağımsız bir ses olduğu vurgulanıyor.
Atama, 2025’teki yönetişim yapısının devamı niteliğinde
OpenAI, Christiano’nun atamasını Ekim 2025’teki yeniden sermayelendirme süreciyle oluşturulan yönetişim yapısının devamı olarak tanımlıyor. Şirketin açıklamasında bu yapı kapsamında California ve Delaware başsavcılıklarının bir yıl boyunca yürüttüğü incelemelerle bağlantılı taahhütlere de işaret ediliyor. OpenAI’ye göre bu makamların sürece katılımı, yönetişim çerçevesinin güçlenmesine katkı sağladı.
Christiano ise yapay zekâ kabiliyetlerinin son bir yılda çok hızlı ilerlediğini, hizalamanın zor bir teknik sorun olmaya devam ettiğini belirtti. Bu nedenle Güvenlik ve Emniyet Komitesi’nin sorumluluğunun hem daha önemli hem de daha zorlu hâle geldiğini ifade eden Christiano, komitenin çalışmalarına katkı sunmak istediğini söyledi. OpenAI, bu atamanın kritik kararlarda kanıtları, önlemleri ve hesap verebilirliği güçlendirme hedefiyle uyumlu olduğunu kaydetti.
Bir içerik, dört format.
Okumaya vaktin yoksa özetle; paylaşacaksan platforma göre yeniden düzenle.
Yapay zekâ güvenliği araştırmacısı Paul Christiano, OpenAI Foundation Board’a atandı. Christiano ayrıca vakfın Güvenlik ve Emniyet Komitesi’nde görev alacak. • Paul Christiano OpenAI Foundation yönetiminde • Güvenlik ve Emniyet Komitesi’nde de görev alacak • Kamu deneyimi ve model değerlendirmeleri
Bu önizleme yalnızca sayfadaki editoryal veriyi yeniden biçimlendirir. Gerçek yapay zekâ üretimi Core tarafında güvenli bir sunucu endpoint’iyle bağlanacak.
