OpenAI yapay zeka güvenliği için yeni bir politika çerçevesi istedi
OpenAI, yapay zeka güvenliği alanında politika yapıcıların hızlı hareket etmesi gerektiğini savundu. Şirketin Küresel İlişkilerden Sorumlu Başkanı Chris Lehane imzalı açıklamasında, yapay zeka yeteneklerinde yeni bir döneme girildiği ve bunun politika tarafında da yeni bir yaklaşım gerektirdiği belirtildi. OpenAI’ye göre bu zorluk, tek bir şirketin, sektörün ya da hükümetin tek başına üstesinden gelebileceği bir konu değil.
Şirket, ABD Kongresi ile en gelişmiş sistemlere yönelik zorunlu, yetenek temelli ulusal güvenlik düzenlemeleri üzerinde çalışmak istediğini açıkladı. Önerilen yaklaşımın, bütün yapay zeka geliştiricilerine aynı yükümlülükleri getirmesi yerine, en güçlü sistemleri geliştiren ve geniş kaynaklara sahip sınırlı sayıdaki laboratuvara odaklanması gerektiği ifade edildi. Buna göre yükümlülükler, sistemlerin yetenekleri ve taşıdığı risklerle orantılı olmalı.
OpenAI, teknolojik ilerleme ile güvenliği karşı karşıya getirmiyor. Açıklamada güçlü korumaların inovasyona engel olmadığı, aksine teknolojinin daha geniş kesimlerce benimsenebilmesi ve kalıcı fayda üretebilmesi için gerekli altyapının parçası olduğu savunuldu. Şirket, güvenlik konusundaki güvenin, yapay zeka ilerlemesinin hızını giderek daha fazla belirlemesi gerektiğini de vurguladı.
Federal düzenlemede hangi başlıklar öne çıkıyor?
OpenAI’nin işaret ettiği federal çerçeve; ortak test gereklilikleri, bağımsız değerlendirmeler, daha güçlü siber güvenlik önlemleri, olay bildirim kuralları ve ulusal hazırlık unsurlarını kapsıyor. Şirket ayrıca, yapay zeka sistemlerinin kendi gelişim döngülerini hızlandırma kapasitesine ilişkin ilerlemenin izlenmesi için ortak ölçütlere ihtiyaç olduğunu belirtti.
Açıklamada, tamamen otonom ve özyinelemeli gelişimin, yani yapay zeka sistemlerinin art arda gelen daha yetenekli yapay zeka nesillerini bağımsız biçimde geliştirmesinin bugün gerçekleşmediği söylendi. OpenAI, böyle bir kapasitenin güvenli biçimde yürütülebileceği kanıtlanmadan takip edilmemesi gerektiği görüşünde.
Bununla birlikte şirket, yapay zekanın gelecek nesil modellerin geliştirilmesi ve hizalanmasıyla ilgili araştırmaların bazı bölümlerini şimdiden hızlandırdığını ifade etti. OpenAI’nin aktardığı son araştırmalar, yapay zeka ajanlarının yetkin araştırmacıların birkaç gününü alabilecek bazı görevleri yerine getirebildiğine işaret ediyor. Şirket bu durumu tam anlamıyla özyinelemeli gelişim olarak tanımlamıyor; ancak yönelimin göstergesi sayıyor.
İnsan denetimi ve gelişimi yavaşlatma eşiği
OpenAI, otomatikleştirilmiş yapay zeka araştırmacılarının insan gözetimi altında çalışmasını hedeflediğini belirtti. Şirketin tarif ettiği amaç, her yeni yapay zeka neslini yalnızca daha yetenekli hale getirmek değil; aynı zamanda daha güvenli, insan niyetiyle daha uyumlu ve daha kolay kontrol edilebilir hale getirmek.
Bu yaklaşım kapsamında hükümetlerin, ilerlemeyi ölçmek, anlamlı insan kontrolünü korumak ve hangi koşullarda geliştirme ya da dağıtımın yavaşlatılması veya durdurulması gerektiğini belirlemek üzere ortak yöntemler oluşturması istendi. OpenAI, belirli güvenlik eşiklerine yetenek artışını yavaşlatmadan ulaşılamıyorsa, önceliğin güvenlikte olması gerektiğini savundu.
Şirket ayrıca model geliştirme yaşam döngüsü boyunca izleme, hizalama ve güvenlik önlemlerini güçlendirdiğini açıkladı. Bunlar arasında öncü araştırma iş yükleri için daha güçlü izolasyon, araç kullanılan eğitim ve değerlendirmeler sırasında model davranışının daha kapsamlı izlenmesi ve kaygıların hangi durumda üst seviyeye taşınacağına ilişkin daha net kurallar yer alıyor. OpenAI, Astra için tam süreçlerin evrensel olarak izlenmesini ve daha geniş dahili kullanımdan önce zorunlu bir hizalama değerlendirme aşamasını devreye aldığını da bildirdi.
California’daki dört tasarıya destek
Kongre ulusal düzeyde bir düzenleme çıkarana kadar eyaletlerin harekete geçmeye devam etmesi gerektiğini belirten OpenAI, California’da yasama sürecinden geçen ve Vali Gavin Newsom’a gönderilen dört tasarıya desteğini duyurdu. Şirket, bu tasarıların federal düzenlemenin yerini tutamayacağını; ancak kısa vadede koruma sağlayıp uygulanabilir güvenlik önlemlerine dair deneyim oluşturabileceğini ifade etti.
Desteklenen SB 813, yapay zeka risklerini değerlendirebilecek nitelikli ve bağımsız kuruluşların belirlenmesine yönelik bir süreç kurmayı amaçlıyor. AB 1405 ise yapay zeka denetçileri için kayıt, bağımsızlık, şeffaflık ve hesap verebilirlik gerekleri getiriyor. OpenAI, bağımsız teknik değerlendirmelerin tercih edilen biçimde federal düzeyde zorunlu hale gelmesini istese de, federal adım atılmadığı durumda California’nın güvenli bir ulusal değerlendirme sisteminin kurallarının oluşmasına katkı sağlayabileceğini belirtti.
SB 1119, çocuklar ve gençlerin eşlikçi sohbet botlarını kullanımı için yaş doğrulaması, risk değerlendirmeleri, bağımsız denetimler, ebeveyn kontrolleri ve zararlı içeriğe karşı korumalar öngörüyor. AB 1864 ise gen sentezi sağlayıcıları ile masaüstü sentez ekipmanı üreticilerinin federal tarama standartlarına uymasını hedefliyor. OpenAI, bu düzenlemenin yapay zeka destekli biyolojik tehditlere karşı fiziksel bir korumayı güçlendireceğini ifade etti.
Gönüllü standartların sınırı ve ortak kurallar ihtiyacı
OpenAI’ye göre yalnızca yasalar da ileri yapay zeka sistemlerini güvenli hale getirmek için yeterli olmayacak. Şirket, en yetenekli sistemleri geliştiren laboratuvarlarda uygulanacak somut pratiklere, özellikle de izleme uygulamalarına ihtiyaç olduğunu belirtti. Bu ihtiyaç, modellerin daha fazla özerklik kazanması, daha güçlü araçlar kullanması ve daha uzun süreli görevlerde çalışmasıyla daha da önem kazanıyor.
Şirketin dikkat çektiği risklerden biri, modelin insan niyeti veya belirlenmiş sınırlarla çelişen yollarla bir hedefi izlemesi olarak tarif edilen hizasızlık. OpenAI, bunun bilinç veya kötü niyet gerektirmediğini vurguluyor. Bu nedenle şirket, teknik çalışmaların laboratuvarların içinde sürmesi gerektiğini kabul etmekle birlikte, tek tek kuruluşların çabalarının yeterli olmayacağını savunuyor.
Açıklamanın temel mesajı, güçlü yapay zeka için ortak güvenlik standartlarının, bağımsız doğrulamanın ve anlamlı şeffaflığın gerekli olduğu yönünde. OpenAI, mevcut durumda öncü laboratuvarların risk yönetim kurallarını büyük ölçüde kendilerinin belirlediğini; demokratik olarak hesap verebilir standartların bu parçalı özel yönetişim yapısının yerini alabileceğini öne sürüyor.
Bir içerik, dört format.
Okumaya vaktin yoksa özetle; paylaşacaksan platforma göre yeniden düzenle.
OpenAI, en yetenekli yapay zeka sistemleri için ABD’de zorunlu ve yetenek temelli güvenlik kuralları istedi. Şirket, Kongre harekete geçene kadar eyalet düzeyindeki bazı tasarıları da destekleyeceğini açıkladı. • OpenAI yapay zeka güvenliği için yeni bir politika çerçevesi istedi • Federal düzenlemede hangi başlıklar öne çıkıyor? • İnsan denetimi ve gelişimi yavaşlatma eşiği
Bu önizleme yalnızca sayfadaki editoryal veriyi yeniden biçimlendirir. Gerçek yapay zekâ üretimi Core tarafında güvenli bir sunucu endpoint’iyle bağlanacak.
