Haber Bülteni 26

DUYURULAR 🔊

​Yapay zekânın geleceğinden hem umutlu hem de kaygılı mısınız? Daha umutlu bakabilmemiz için sana, yapay zekâ geleceğine insanlık faydasına yön vermek isteyenlere ihtiyacımız var.

​AI Safety Türkiye olarak yapay zekâ güvenliği alanında çalışan araştırmacılar ve profesyonellerle bir araya gelerek hem alanın en önemli sorularını hem de bu alanda kariyer inşa etmenin nasıl göründüğünü konuşacağız.

​Kimler var?

​Etkinliğe iki kısa paylaşım ile başlayacağız:

​🎤 Bengüsu Özcan — AI Safety Türkiye Eş Kurucusu | Arq Foundation’da Frontier AI Governance Researcher
🎤 Ege Uğur Amasya — Koç Üniversitesi Doktora Öğrencisi | SPAR Fellow

​Bengüsu, yapay zeka yönetişimi üzerine kariyerini nasıl şekillendirdiğini, Ege ise SPAR Fellowship ile teknik yapay zeka güvenliği alanında nasıl bir proje üzerine çalıştığını paylaşacak. Kendi hikayelerinden kısaca bahsedecek olan katılımcılarımız kariyerini bu alana yönlendirmek isteyenlerin sorularını cevaplayacak, karşılaştıkları fırsatları ve zorlukları paylaşacaklar.

​Programımıza başka konuşmacılar eklenebilir. Türkçe konuşamayan katılımcılarımız için lightning talk’larımız İngilizce, soru-cevap bölümü ise tercihe göre Türkçe - İngilizce karışık düzenlenebilir.

​AI Safety Türkiye paydaşlarından ve Türkiye’nin en önde gelen yapay zeka geliştirici topluluklarından Inzva, bu etkinlik için bizleri ofisinde ağırlayacak.

​Katılmak için önceden bilgi sahibi olman gerekmiyor. Merakını getirmen yeterli.

Kayıt Ol

🌟 Constellation Visiting Fellowship: 2026 Sonbahar 🌟

Tam zamanlı yapay zeka güvenliği araştırmacılarının Constellation’ın Berkeley araştırma merkezinde çalışmaları için hafif yapılandırılmış, 3-6 aylık finanse edilen burs programı.

Bursiyerler diğer araştırmacılarla bağlantı kurar ve konaklama, seyahat, yemek ile çalışma alanı masrafları karşılanacaktır.

🗓️ Son başvuru: 12 Haziran 2026

🌟 CAMBRIA: Ağustos 2026 🌟

Teknik yapay zeka güvenliği araştırmacısı adayları için Cambridge Boston Alignment Initiative (CBAI) tarafından yürütülen tam zamanlı makine öğrenimi (ML) beceri geliştirme programı.

ARENA müfredatına dayanmakta; transformatörler, mekanistik yorumlanabilirlik ve hizalama bilimini kapsıyor. Yemek ve seyahat desteği sağlanacaktır.

🗓️ Son başvuru: 14 Haziran 2026

AI Policy Leaders Programme: 2026 Sonbahar

Talos Network tarafından sunulan ve yapay zeka yönetişimini şekillendirecek kariyerler için politika profesyoneli adaylarını eğiten burs programı.

Bir düşünce kuruluşu veya politika organizasyonuna olası yerleştirme de dahil olmak üzere mentorluk, eğitim ve uygulamalı politika deneyimi sağlıyor.

🗓️ Son başvuru: 14 Haziran 2026

Global South AIS Hackathon

Apart Research tarafından düzenlenen; yapay zeka güvenliği araçları, değerlendirmeleri ve politika araştırmaları üretmek üzere Latin Amerika, Afrika ve Asya’dan araştırmacıları, mühendisleri ve politika profesyonellerini bir araya getiren hackathon.

Ödüller ve Apart Fellowship’e olası davetler içeriyor.

🗓️ Son başvuru: 19 Haziran 2026

ÖNERDİĞİMİZ İÇERİKLER 📑 🎧

Öncü Yapay Zeka Modelleri İçin “Gönüllü” Hükümet İncelemesi

Pek çok yapay zeka güvenlik uzmanı uzun zamandır, güçlü yapay zeka modellerinin piyasaya sürülmeden önce hükümet tarafından test edilmesi gerektiğini savunuyordu. Ancak çok güçlü siber yeteneklere sahip olan günümüzün en yetenekli modelleri (Mythos veya GPT-5.5 gibi) için bile bugüne kadar böyle bir zorunluluk yoktu.

Artık var: Trump, yönetiminin önceki müdahaleci olmayan tutumunu tersine çevirerek, öncü modellerin piyasaya sürülmeden önce siber risklere karşı test edilmesini gerektiren bir kararname imzaladı. Zvi Mowshowitz, bunun pratikte nasıl uygulanacağını, arkasındaki “dramayı”, neden önemli olduğunu ve bazı endişeleri açıklıyor.

Üçüncü taraf denetimi, yapay zeka ajanlarının nasıl denetimsiz çalışabileceğini ortaya koyuyor

İlk kez bağımsız bir üçüncü taraf, büyük laboratuvarlardaki dahili yapay zeka ajanlarının doğrudan denetimini gerçekleştirerek bu ajanların makul bir şekilde denetimsiz operasyonlar başlatabileceğini gösterdi. Değerlendirme raporu, yetenekler geliştikçe bu güvenlik açığının daha da büyüyeceği konusunda uyararak üçüncü taraf gözetimini giderek daha kritik hale getiriyor.

HABER KÖŞESİ 🗞️

Anthropic, risklerin artması durumunda koordine bir öncü yapay zeka yavaşlatma planı çağrısında bulunuyor

• Reuters, 4 Haziran’da Anthropic’in, risklerin çok yükselmesi durumunda öncü yapay zeka gelişimini yavaşlatmak veya durdurmak için yapay zeka laboratuvarlarına koordineli bir plan geliştirmeleri çağrısında bulunduğunu bildirdi.
• Anthropic, rakip öncü laboratuvarlar birbirlerinin de yavaşladığını doğrulayamadığı sürece tek taraflı bir duraklamanın yetersiz kalacağını savunuyor.
• Şirket, yapay zeka sistemlerinin otonom görevleri tamamlama yeteneğinin kabaca her dört ayda bir iki katına çıktığını ve bunun da daha güçlü bir denetim aciliyetini artırdığını belirtiyor.

Beyaz Saray idari kararnamesi, gelişmiş yapay zeka modelleri için sürüm öncesi gönüllü bir inceleme yolu oluşturuyor

• ABD Hükûmeti, 2 Haziran’da “Gelişmiş Yapay Zeka İnovasyonunu ve Güvenliğini Teşvik Etmek” başlıklı bir idari kararname yayımladı.
• Kararname, en yetenekli yapay zeka modellerinin geliştiricilerinin, sürüm öncesi inceleme için modelleri federal hükümete sunabilecekleri gönüllü bir süreç oluşturuyor.
• İnceleme süreci, geniş çaplı dağıtımdan önce ulusal güvenlik, siber güvenlik ve kamu güvenliği risklerini değerlendirmeye yardımcı olmayı amaçlıyor.

Yapay zeka liderleri, biyogüvenlik risklerini azaltmak için zorunlu sentetik DNA ve RNA taramasını destekliyor

• 4 Haziran’da OpenAI, Anthropic, Google DeepMind, Microsoft AI ve diğer kuruluşlardan liderler, sentetik DNA ve RNA siparişlerinin daha sıkı taranması çağrısında bulunan bir mektup imzaladı.
• Mektupta, gelişmiş yapay zekanın tehlikeli biyolojik materyalleri tasarlama veya elde etme konusundaki bilgi engellerini azaltabileceği savunuluyor.
• İmzacılar, yapay zeka destekli biyolojik kötüye kullanım riskini azaltmak için sentetik nükleik asit siparişlerinin ve ilgili ekipmanların zorunlu olarak taranması çağrısında bulunuyor.

METR, öncü yapay zeka şirketleri içindeki hizalanmama ve izinsiz yayılma riski üzerine Öncü Risk Raporu’nu yayımladı

• METR, 19 Mayıs’ta öncü yapay zeka şirketleri içindeki hizalanmama ve izinsiz yayılma risklerine odaklanan Öncü Risk Raporu’nu yayımladı.
• Pilot süreç Anthropic, Google, Meta ve OpenAI’ı kapsadı ve öncü yapay zeka ajanlarının önde gelen yapay zeka geliştiricileri tarafından şirket içinde nasıl kullanılabileceğini inceledi.
• Rapor özellikle yapay zeka sistemlerinin yapay zeka araştırması, yazılım mühendisliği, değerlendirme ve dağıtım iş akışlarını hızlandırmak için kullanıldığında ortaya çıkan risklerle alâkalı.

Anthropic’e göre Claude Mythos, Project Glasswing kapsamında 10.000’in üzerinde kritik güvenlik açığı tespit etti

• Anthropic, 22 Mayıs’ta Project Glasswing hakkında ilk güncellemeyi yayımlayarak Claude Mythos’un savunma amaçlı siber güvenlik çalışmalarında kullanılmasından elde edilen sonuçları bildirdi.
• Anthropic, Claude Mythos’un partnerlerle yürütülen çalışmalar sonucunda 10.000’den fazla kritik güvenlik açığını belirlemeye yardımcı olduğunu iddia etti.
• Anthropic, darboğazın güvenlik açıklarını bulmaktan ziyade bunları doğrulama, sorumlu biçimde açıklama ve yamalama aşamalarına kaydığını söylüyor.

Araştırmacılar yapay zeka destekli uyarlanabilir bilgisayar solucanlarını tanıttı

• Toronto Üniversitesi’ndeki araştırmacılar, Haziran ayı başlarında yapay zeka destekli uyarlanabilir bir bilgisayar solucanının kavram kanıtını açıklayan bir makale yayımladı.
• Sistem, yalnızca sabit ve önceden yazılmış saldırı davranışlarına güvenmek yerine, çalışma zamanında saldırı mantığını dinamik olarak oluşturmak için bir yapay zeka ajanı kullanıyor.
• Yazarlar, araştırmanın çift kullanımlı doğasını göz önünde bulundurarak operasyonel ayrıntıları kasıtlı olarak gizli tutuyor.