OpenAI yapay zekâ güvenliği için ulusal çerçeve istiyor
OpenAI, yapay zekâ güvenliği konusunda ABD Kongresiyle zorunlu ve sistemlerin yetenek düzeyine göre şekillenen ulusal düzenlemeler üzerinde çalışmak istediğini duyurdu. Şirketin açıklamasına göre yapay zekâ yeteneklerinde yeni bir döneme girildi ve bu gelişme, politika tarafında da yeni bir yaklaşım gerektiriyor.
Açıklamada, tek bir şirketin, sektörün ya da hükümetin bu zorluğu tek başına karşılayamayacağı belirtiliyor. OpenAI, politika alanında kusursuz bir metin arayışındansa anlamlı adımlara öncelik verilmesi gerektiği görüşünde. Şirketin çizdiği çerçeve; federal kurallar, eyalet girişimleri, sektör standartları ve uluslararası uyum başlıklarını bir araya getiriyor.
OpenAI, güvenlik yükümlülüklerinin yalnızca en güçlü sistemleri geliştiren, yeterli kaynağa sahip az sayıdaki laboratuvara yönelmesi gerektiğini savunuyor. Buna karşılık girişimlerin, küçük geliştiricilerin ve sınırdaki sistemlerle çalışmayan araştırmacıların aynı kapsamda değerlendirilmemesi gerektiğini ifade ediyor. Şirkete göre yükümlülükler, sistemlerin kabiliyetleri ve doğurduğu risklerle orantılı olmalı.
Öne çıkan yapay zekâ güvenliği adımları
OpenAI, federal düzeyde ortak testler ve bağımsız değerlendirme gereklilikleri, daha güçlü siber güvenlik korumaları, olay bildirimine ilişkin açık kurallar, ulusal hazırlık kapasitesi ve yinelemeli öz-iyileşmeye yönelik ilerlemeyi izlemeye yarayacak ortak ölçütler istiyor. Şirket, bu unsurları kalıcı bir federal çerçevenin parçaları olarak tanımlıyor.
Açıklama, ileri düzey sistemlerde güvenliğin teknik ekiplerin kendi iç süreçleriyle sınırlı kalamayacağını vurguluyor. Şirket; izleme, hizalama ve güvenlik alanındaki teknik çalışmalarını sürdürdüğünü, ancak laboratuvarlar arasında paylaşılan standartlara da ihtiyaç bulunduğunu belirtiyor. Bu standartların, hangi koşullarda geliştirme hızının azaltılması veya çalışmaların durdurulması gerektiğini de kapsaması gerektiği ifade ediliyor.
OpenAI, güvenli biçimde korunamayan sistemlerin geliştirilmesi ya da kullanıma sunulması kabul edilemez bir risk yaratacaksa yavaşlama veya durma seçeneğinin devreye alınacağını söylüyor. Şirket bu yaklaşımı kendi hazırlık çerçevesiyle ilişkilendiriyor. Açıklamadaki temel yaklaşım, yetenekler güçlendikçe onları çevreleyen korumaların da daha güçlü hâle gelmesi.
Yinelemeli öz-iyileşme konusunda temkin çağrısı
Şirket, yapay zekâ sistemlerinin daha yetenekli yeni yapay zekâ nesillerini bağımsız biçimde geliştirdiği tam otonom yinelemeli öz-iyileşmenin bugün gerçekleşmediğini belirtiyor. OpenAI’ye göre bu tür bir sürecin güvenli biçimde yapılabileceği kanıtlanmadıkça izlenmemesi gerekiyor.
Buna rağmen açıklama, yapay zekânın bir sonraki model kuşağını geliştirmek ve hizalamak için kullanılan araştırmanın bazı parçalarını şimdiden hızlandırdığını aktarıyor. OpenAI, son araştırmalarının yapay zekâ ajanlarının yetkin araştırmacıların birkaç gününü alabilecek bazı görevleri yerine getirebildiğine işaret ettiğini söylüyor. Şirket bunu yinelemeli öz-iyileşme olarak değil, gelişimin yönüne dair bir işaret olarak nitelendiriyor.
OpenAI’nin hedefi, insan gözetimi altında çalışan otomatik yapay zekâ araştırmacıları geliştirmek. Şirket, bu sistemlerin yalnızca derin öğrenme çalışmalarını değil, hizalama çalışmalarını da ilerletmesini amaçlıyor. Bu yaklaşımda her yeni yapay zekâ kuşağının, sonrakini sadece daha yetenekli değil; daha güvenli, insan niyetiyle daha uyumlu ve daha kolay denetlenebilir kılması hedefleniyor.
California’daki dört tasarıya destek
Kongre federal düzenleme hazırlayana kadar OpenAI, eyaletlerin güvenlik ekosistemini güçlendiren yasalar üzerinde çalışmayı sürdürmesi gerektiğini savunuyor. Şirket bu kapsamda California yasama organından geçen ve Vali Newsom’a gönderilen dört tasarıyı desteklediğini açıkladı: SB 813, AB 1405, SB 1119 ve AB 1864.
SB 813, yapay zekâ risklerini değerlendirebilecek nitelikli ve bağımsız kuruluşların belirlenmesine yönelik bir süreç oluşturmayı hedefliyor. AB 1405 ise yapay zekâ denetçileri için kayıt, bağımsızlık, şeffaflık ve hesap verebilirlik koşulları getirmeyi amaçlıyor. OpenAI, bağımsız teknik değerlendirmelerin ideal olarak federal düzeyde zorunlu tutulması gerektiğini, ancak federal adım yoksa California’nın güvenli ve yetkin bir değerlendirme sistemi için zemin oluşturabileceğini belirtiyor.
SB 1119; eşlikçi sohbet botlarını kullanan çocuklar ve gençler için yaş güvencesi, risk değerlendirmesi, bağımsız denetim, ebeveyn denetimleri ve zararlı içeriğe karşı korumalar öngörüyor. AB 1864 ise gen sentezi sağlayıcıları ile masaüstü sentez ekipmanı üreticilerinin federal tarama standartlarına uymasını şart koşmayı hedefliyor. OpenAI, bu düzenlemenin yapay zekâ destekli biyolojik tehditlere karşı fiziksel bir güvenlik katmanı oluşturabileceğini ifade ediyor.
Açık modeller ve uluslararası uyum vurgusu
OpenAI, ileri seviye sistemlere yönelik politikanın açık ağırlıklı modelleri hedefleyen dolaylı bir düzenlemeye dönüşmemesi gerektiğini de savunuyor. Şirkete göre açık modeller, özellikle siber güvenlikte ve egemenlik, güvenlik veya verinin yerel olarak tutulması ihtiyacının öne çıktığı alanlarda çözümün parçası olabilir. Federal çerçevenin rekabeti zayıflatmaması, mevcut büyük oyuncuları avantajlı hâle getirmemesi ve yeniliği ülke dışına itmemesi gerektiği belirtiliyor.
Şirket ayrıca yetenekleri ölçme, riski yönetme, anlamlı insan denetimini koruma ve geliştirme hızının ne zaman azaltılacağına karar verme konularında birbirleriyle uyumlu uluslararası yaklaşımlar çağrısı yapıyor. Bu öneri, yapay zekâ gelişiminin yalnızca teknik kapasite üzerinden değerlendirilmemesi gerektiği görüşüne dayanıyor.
OpenAI’nin açıklamasında güvenlik, ilerlemenin karşısındaki bir engel olarak değil, teknolojinin daha geniş kesimlerce benimsenmesini sağlayacak altyapının bir unsuru olarak sunuluyor. Şirket, kamuya karşı hesap verebilen standartların, bağımsız doğrulamanın ve anlamlı şeffaflığın, en ileri yapay zekâ risklerinin yönetiminde özel laboratuvarların kendi kurallarına dayanan parçalı yapının yerini alması gerektiğini savunuyor.
Bir içerik, dört format.
Okumaya vaktin yoksa özetle; paylaşacaksan platforma göre yeniden düzenle.
OpenAI, en yetenekli yapay zekâ sistemleri için ABD’de yetenek temelli ve zorunlu ulusal düzenleme istedi. Şirket, Kongre harekete geçene kadar bazı eyalet yasalarına desteğini de açıkladı. • OpenAI yapay zekâ güvenliği için ulusal çerçeve istiyor • Öne çıkan yapay zekâ güvenliği adımları • Yinelemeli öz-iyileşme konusunda temkin çağrısı
Bu önizleme yalnızca sayfadaki editoryal veriyi yeniden biçimlendirir. Gerçek yapay zekâ üretimi Core tarafında güvenli bir sunucu endpoint’iyle bağlanacak.
