Meta yapay zekâ araçlarıyla neyi değiştiriyor?
Meta, Facebook ve Instagram’daki çocuk cinsel istismarı ve sömürüsüyle bağlantılı içeriklerle mücadele kapsamında yeni yapay zekâ araçlarını kullanıma sunduğunu açıkladı. Şirketin duyurduğu değişikliğin merkezinde, ilk bakışta zararsız görünen ancak kullanıcıyı platform dışındaki yasa dışı içeriklere yönlendirebilen reklamlar ve bu reklamlardan yararlanabilecek hesaplar bulunuyor.
Yeni yaklaşımda Meta yapay zekâ araçları, yalnızca reklamın kendi metni ya da görseliyle sınırlı bir değerlendirme yapmıyor. Şirket, reklamın kullanıcıyı götürdüğü internet adresini ve hedefi de incelemeye dahil ettiğini belirtiyor. Meta’ya göre bu yöntem, reklamın kendi içinde yasa dışı materyal barındırmadığı ancak böyle materyallerin yer aldığı sitelere geçiş noktası işlevi gördüğü durumları saptamaya yönelik.
Şirket, kuralları ihlal ettiği belirlenen internet sitelerini veya diğer hedefleri engelleyebileceğini, bu yönlendirmelerin arkasındaki hesaplar hakkında da işlem yapabileceğini söylüyor. Böylece duyurulan yenilik, reklam denetimini yalnızca platform üzerinde görünen yaratıcı içerikten, kullanıcının reklam sonrasında ulaştığı varış noktasına genişletiyor.
Signposting tespiti reklamın hedefini de inceliyor
Meta, bu amaçla “signposting” olarak adlandırdığı davranışı tespit etmek üzere yeni bir büyük dil modeli sistemi geliştirdiğini açıkladı. Şirket bu ifadeyi, normal görünen bir reklamın yasa dışı içeriklere ya da internet üzerindeki başka zararlı faaliyetlere yönlendirdiğinden şüphelenilen durumlar için kullanıyor.
Meta’nın açıklamasına göre kötü niyetli aktörler, tespitten kaçınmak için yöntemlerini değiştirmeyi sürdürüyor ve bu yönlendirme tekniği de şirketin yakın dönemde gözlemlediği yöntemler arasında yer alıyor. Bu nedenle yeni sistemin hedefi, reklamın görünürdeki içeriğinden ziyade reklam ile yönlendirdiği hedef arasındaki ilişkiyi de değerlendirmek.
Bu ayrım önem taşıyor çünkü şirketin tarif ettiği senaryoda reklamın içinde yasa dışı çocuk istismarı materyali bulunmuyor. Buna karşın reklam, söz konusu materyalin barındırıldığı bir web sitesine kapı açabiliyor. Meta’nın açıkladığı araçlar, tam olarak bu dolaylı yönlendirme biçiminde ek sinyaller üretmeyi amaçlıyor.
Daha önce gözden kaçan içerikler için ek taramalar
Duyurunun ikinci ayağında Meta, önceki sistemlerin kaçırmış olabileceği çocuk sömürüsü içeriklerini bulmak için ek yapay zekâ destekli taramalar kullandığını belirtti. Şirket, bu ağların nasıl çalıştığına dair daha fazla bilgi edindikçe sistemlerine yeni sinyaller eklemeye devam edeceğini ifade ediyor.
Bu açıklama, değişikliğin tek bir reklam modeliyle sınırlı olmadığını gösteriyor. Şirketin yaklaşımı; reklam yönlendirmelerinin incelenmesi, içerik taramalarında ek yapay zekâ kullanımı ve hesap davranışlarına ilişkin yeni sinyallerin sisteme katılması gibi birden fazla unsurdan oluşuyor.
Meta ayrıca, daha önce kaldırılan hesapların ardından yeni hesaplarla platforma dönmeye çalışan kişileri bulmaya yönelik sistemlerini geliştirdiğini bildirdi. Şirket, bu alandaki iyileştirmenin, hesap kaldırma kararlarından sonra yeniden ortaya çıkma girişimlerini tespit etmeye odaklandığını söylüyor.
Güvenlik önlemleri yapay zekâ ajanıyla test edilecek
Meta’nın açıkladığı yeni araçlardan biri de “red-teaming AI agent” olarak tanımlanan bir yapay zekâ ajanı. Bu sistem, şirketin kendi güvenlik önlemlerini test ederek kötü niyetli aktörlerin korumaları aşmak için kullanabileceği zayıflıkları arıyor.
Şirket, bu testlerin istismar yöntemleri daha yaygın hale gelmeden önce yeni riskleri ortaya çıkarmaya yardımcı olabileceğini belirtiyor. Buradaki değişiklik, yalnızca mevcut ihlalleri bulmaya değil, güvenlik sistemlerinin olası açıklarını şirket içinde sınamaya da dayanıyor.
Meta’nın açıklaması, aracın hangi senaryoları veya hangi teknik korumaları test ettiğine ilişkin ayrıntı vermiyor. Bununla birlikte şirket, ajanı kendi savunmalarındaki zayıf noktaları tespit etmek için konumlandırıyor.
Meta’nın açıkladığı uygulama verileri
Meta, 2026’nın ilk yarısında Facebook ve Instagram’da 33,2 milyon çocuk cinsel sömürüsü içeriği hakkında işlem yaptığını açıkladı. Şirketin verdiği bilgiye göre bu içeriklerin yüzde 97’sinden fazlası, kullanıcı bildirimi gelmeden önce şirket sistemleri tarafından bulundu.
Hindistan için açıklanan sayı 5,3 milyon içerik oldu. Meta, bu ülkede hakkında işlem yapılan içeriğin yüzde 98’inden fazlasının da kullanıcılar bildirimde bulunmadan önce tespit edildiğini belirtti.
Bu veriler, şirketin duyurduğu yeni araçların mevcut otomatik tespit altyapısına eklendiği bağlamı gösteriyor. Ancak Meta’nın açıklaması, yeni sistemlerin devreye alınmasından sonra bu araçlara özel ayrı bir tespit oranı ya da işlem sayısı paylaşmıyor.
Kullanıcılar ve platform denetimi açısından etkisi
Duyurulan sistemlerin kullanıcılar bakımından doğrudan sonucu, reklamın ekranda görünen kısmının ötesindeki yönlendirmelerin de denetim kapsamına alınması olacak. Meta’nın tanımına göre bu, zararsız görünümlü reklamların platform dışında ulaşılabilecek yasa dışı çocuk istismarı materyalleriyle bağlantısının incelenmesi anlamına geliyor.
Platform tarafında ise şirket, kuralları ihlal eden hedefleri engelleme ve bunlarla bağlantılı hesaplar hakkında işlem yapma imkânını öne çıkarıyor. Bu yaklaşım, reklam içeriği temiz görünse bile hedef bağlantının ayrı bir risk unsuru olarak ele alınacağını ortaya koyuyor.
Meta, çocuk güvenliği konusunda eleştiri ve hukuki baskıyla karşı karşıya kalmayı sürdürüyor. Şirket ayrıca bu yıl Meta AI için ebeveyn denetimleri, WhatsApp’ta ergenlik öncesi kullanıcı hesapları ve çocukların Instagram’da kendine zarar verme içerikleri aramasına ilişkin ebeveyn uyarıları gibi özellikler duyurdu. Yeni yapay zekâ araçları ise bu çerçevede, reklam yönlendirmeleri ve hesapların yeniden oluşturulması gibi farklı risk noktalarına odaklanıyor.
Bir içerik, dört format.
Okumaya vaktin yoksa özetle; paylaşacaksan platforma göre yeniden düzenle.
Meta, görünürde zararsız olan ancak kullanıcıları platform dışındaki yasa dışı çocuk istismarı materyallerine yönlendirebilen reklam ve hesapları tespit etmek için yeni yapay zekâ sistemleri devreye alıyor. Değişiklik, incelemenin yalnızca reklam içeriğine değil, reklamın yönlendirdiği hedefe de uzanmasını içeriyor. • Meta yapay zekâ araçlarıyla neyi değiştiriyor? • Signposting tespiti reklamın hedefini de inceliyor • Daha önce gözden kaçan içerikler için ek taramalar
Bu önizleme yalnızca sayfadaki editoryal veriyi yeniden biçimlendirir. Gerçek yapay zekâ üretimi Core tarafında güvenli bir sunucu endpoint’iyle bağlanacak.
