Haber Bülteni 25

Yeni Kampüs Temsilcilerimizle Tanışın 🔊

Kampüs temsilcilerimiz, üniversitelerinde yapay zekâ güvenliği konusunda farkındalık oluşturmak, etkinlikler düzenlemek ve ilgilenen öğrencilerle bağlantı kurmak için çalışacaklar.

Bu üniversitelerden birindeyseniz ve yapay zeka güvenliği konusuna ilgi duyuyorsanız, temsilcilerimize doğrudan ulaşabilirsiniz.

Hatice Kübra Çetin - Boğaziçi Üniversitesi

Boğaziçi Üniversitesi Yönetim Bilişim Sistemleri 2. sınıf öğrencisi olan Hatice, kampüsünde AI Safety Türkiye kampüs temsilciliği görevini yürütmektedir. Özellikle yapay zekânın toplumsal ve ekonomik etkileri ile yapay zekâ yönetişimi alanlarına ilgi duyuyor.

Zehra Köse - Koç Üniversitesi

Koç Üniversitesi’nde Endüstri Mühendisliği ve Uluslararası İlişkiler çift anadal öğrencisi olan Zehra Köse, AI Safety Türkiye kampüs temsilciliği görevini yürütmektedir. İlgi alanları arasında güncel dünya siyaseti ve ülkelerin yapay zeka politikaları yer almaktadır.

Andrés Casas - Yıldız Teknik Üniversitesi

Aslen Kolombiyalı olup, şu anda YTÜ’de Bilgisayar Mühendisliği okumakta. Başkalarına yardım etmeye duyduğu derin tutkuyla, AI Safety Türkiye’deki çalışmaları aracılığıyla teknoloji ile toplum arasında aktif olarak köprü kuruyor.

DUYURULAR 🔊

🌟MAIA Yapay Zeka Güvenliği Temelleri Programı: Yaz 2026🌟

MIT AI Alignment tarafından sunulan; yapay zeka güvenliğinin neden önemli olduğu, teknik güvenlik, yapay zeka politikası, hizalanmama ve bu alandaki kariyerleri kapsayan çevrimiçi burs programı.

🗓️ Son başvuru: 22 Mayıs 2026

🌟PRISM Yapay Zeka Güvenliği Araştırma Programı: 2026🌟

Yorumlanabilirlik, yönetişim, değerlendirme ve hizalama alanlarında çalışmalar üreten, çıktıları konferans başvurularına veya yazılım sürümlerine yönelik olan 4 aylık yarı zamanlı araştırma burs programı.

🗓️ Son başvuru: 25 Mayıs 2026

🌟The Secure Program Synthesis Programı🌟

Apart Research ve Atlas Computing tarafından sunulan; spesifikasyon, doğrulama ve çekişmeli sağlamlık dahil olmak üzere biçimsel yöntemler, yapay zeka sistemleri ve güvenlik üzerine yarı zamanlı araştırma burs programı.

🗓️ Son başvuru: 26 Mayıs 2026

EleutherAI Açık Yapay Zeka Araştırmaları Yaz Programı 2026

EleutherAI tarafından sunulan, az veya hiç araştırma deneyimi olmayan kişilerin mentor gözetimindeki açık yapay zeka araştırma projelerine katkı sağlayarak öğrenebileceği çevrimiçi araştırma programı.

🗓️ Son başvuru: 15 Mayıs 2026

Dovetail Research Programı 2026

Etmen temelleri ve dünya modellerine odaklanan 10 haftalık matematiksel yapay zeka güvenliği araştırma burs programı. Katılımcılar haftalık toplantılar, kontroller ve dönem sonu sunumuyla araştırma projeleri üzerinde çalışır.

🗓️ Son başvuru: 17 Mayıs 2026

The Secure Program Synthesis Hackathonu

Yapay zeka doğrulamasına yardımcı olacak çözümleri prototiplemek için 3 günlük hackathona katılın. En iyi takımlar, ardından gelecek SPS Burs Programı’na başvurmaya davet edilecek.

🗓️ Son başvuru: 22 Mayıs 2026

Effective Thesis Programı: Yaz 2026

Öğrencileri ve kariyerinin başındaki araştırmacıları, tez projelerini gerçek dünyadaki araştırmalara dönüştürmeleri için yüksek etkili partner kuruluşlarla eşleştiren çevrimiçi burs programı.

🗓️ Son başvuru: 3 Haziran 2026

Vision Weekend Birleşik Krallık 2026

Araştırmacılar ve uygulayıcılar için Foresight Institute tarafından düzenlenen; Apollo Research liderliğinde gelişen yapay zeka paradigmalarına odaklanan bir yapay zeka güvenliği parkuru da içeren 3 günlük konferans.

🗓️ Son başvuru: 5 Haziran 2026

IAPP AI Governance Global Europe 2026

Yapay zeka regülasyonu ve uyumluluğu üzerine mi çalışıyorsunuz? Dublin’deki bu zirve, Avrupa genelindeki profesyonelleri AI Act uygulaması ve yapay zeka yönetişimindeki diğer konular hakkında uygulamalı en iyi pratikleri paylaşmak üzere bir araya getiriyor.

🗓️ Son başvuru: 1 Haziran 2026

ÖNERDİĞİMİZ İÇERİKLER 📑 🎧

Politika Yapıcılar Otomatikleştirilmiş Yapay Zeka Araştırmasının Ne Anlama Geldiğini Sonunda Fark Ediyor mu?

Yapay zeka kodlamanın büyük bir kısmını otomatikleştiriyor ve büyük ölçüde otomatikleştireceği karmaşık bir araştırma alanı da yapay zeka araştırmasının ta kendisi. Yapay zekadaki mevcut ilerlemeler çok hızlıysa, bu sadece daha da hızlanacaktır. Jack Clark, uzmanların yıllardır politika yapıcıları uyardığı bir gerçeklik olan bu durumu en son blog yazısında ayrıntılı olarak açıklıyor.

Claude’a Ahlâkî İlkeleri Öğretmek

Şantaj yapmak kendisine verilen hedefe ulaşmasına yardımcı olacaksa, bir yapay zeka modeli neden şantajdan kaçınsın? Anthropic’in yazısı, bu örneği ajan tabanlı uyumsuzluğu ve hizalama eğitiminin modellere yalnızca ne yapacaklarına dair örnekler değil, güvenli davranışın arkasındaki ilkeleri de öğretmesi gerekebileceğini açıklamak için kullanıyor.

HABER KÖŞESİ 🗞️

OpenAI, GPT5.5’i piyasaya sürdü

• OpenAI, 23 Nisan’da GPT5.5’i duyurdu ve 24 Nisan’da gönderiyi güncelleyerek GPT5.5 ve GPT5.5 Pro’nun API’de kullanıma sunulduğunu belirtti.
• Şirket, GPT5.5’i kodlama, çevrimiçi araştırma, veri analizi, belge ve elektronik tablo oluşturma, yazılım operasyonu ve araç kullanımı gibi uzun vadeli işler için bir model olarak tanımlıyor.
• OpenAI, en büyük kazanımların ajan tabanlı kodlama, bilgisayar kullanımı, bilgi çalışması ve erken bilimsel araştırmalarda olduğunu; aynı zamanda GPT5.4’ün token başına gecikme süresini yakaladığını ve Codex görevlerinde daha az token kullandığını söylüyor.
• Sürüm ayrıca dahili ve harici kırmızı takım (red-teaming) çalışmalarını, gelişmiş siber güvenlik ve biyoloji yetenekleri için hedeflenmiş testleri ve yaklaşık 200 güvenilir erken erişim ortağından gelen geri bildirimleri de içeriyordu.

Anthropic, Claude Mythos siber risklerini tespit ettikten sonra Project Glasswing’i başlattı

• Anthropic, genel amaçlı ve henüz piyasaya sürülmemiş bir öncü model olan Claude Mythos Preview’da siber yetenekler gözlemledikten sonra Project Glasswing’i duyurdu.
• Şirket, Mythos Preview’un yapay zeka modellerinin yazılım güvenlik açıklarını bulma ve bunlardan yararlanma konusunda en yetenekli insanlar dışındaki herkesi geride bırakabileceğini gösterdiğini söylüyor.
• Anthropic, Mythos Preview’un halihazırda her büyük işletim sistemi ve web tarayıcısındakiler de dahil olmak üzere binlerce yüksek ciddiyetli güvenlik açığı bulduğunu belirtiyor.
• Anthropic, Claude Mythos Preview’u genel kullanıma sunmayı planlamadığını söylüyor; bu da onu, güçlü bir modelin güvenlik nedenleriyle kısıtlanırken savunma amacıyla kontrollü erişim altında kullanılmasının son zamanlardaki en net örneklerinden biri yapıyor.

Anthropic, SpaceX veri merkezi anlaşması yaptı ve Claude’un “rüya görme” özelliğini tanıttı

• Reuters, 6 Mayıs’ta Anthropic’in SpaceX’in Memphis, Tennessee’deki Colossus 1 tesisinden bilgi işlem kaynaklarını kullanmak üzere bir anlaşmaya vardığını bildirdi.
• Reuters’a göre tesis, 220.000’den fazla Nvidia işlemciye ev sahipliği yapıyor ve bir ay içinde Anthropic’e 300 megavatlık yeni kapasite sağlaması bekleniyor.
• Anthropic ayrıca, yapay zeka sistemlerinin oturumlar arasındaki çalışmaları gözden geçirmesine, kalıpları belirlemesine ve kullanıcı tercihlerini ile bağlamı depolayan dosyaları güncellemesine yardımcı olmayı amaçlayan “rüya görme” (dreaming) adlı bir Claude özelliğini de tanıttı.
• Anlaşma önemli çünkü iki büyük yapay zeka trendini aynı anda birleştiriyor: büyük ölçekli bilgi işlem yarışı ve Claude Code gibi daha kalıcı, yetenekli kodlama ajanlarına yönelik itici güç.

CAISI; Google DeepMind, Microsoft ve xAI ile öncü yapay zeka güvenlik testi anlaşmaları imzaladı

• NIST, 5 Mayıs’ta Yapay Zeka Standartları ve İnovasyon Merkezi’nin (CAISI) Google DeepMind, Microsoft ve xAI ile yeni anlaşmalar imzaladığını duyurdu.
• Anlaşmalar, CAISI’nin öncü yapay zeka yeteneklerini daha iyi değerlendirmek ve yapay zeka güvenliğini ilerletmek için dağıtım öncesi değerlendirmeler ve hedeflenmiş araştırmalar yapmasına olanak tanıyor.
• NIST, anlaşmaların halka sunulmadan önce hükümet değerlendirmesine, dağıtım sonrası değerlendirmeye ve gizli ortamlarda test edilmesine olanak sağladığını söylüyor.
• Duyuru, yapay zeka güvenliği açısından büyük bir gelişme; çünkü CAISI halihazırda bu tür 40’tan fazla değerlendirmeyi tamamladığını ve geliştiricilerin ulusal güvenlik risk değerlendirmesi için genellikle azaltılmış veya kaldırılmış güvenlik önlemlerine sahip modeller sağladığını belirtiyor.

AB eş yasa koyucuları Yapay Zeka Yasası’nı basitleştirme anlaşmasına vardı ve “soyunma” uygulamalarını yasakladı

• Avrupa Parlamentosu ve Konsey müzakerecileri, dijital torba yasa paketinin bir parçası olarak AB Yapay Zeka Yasası’nın bazı kısımlarını değiştirmek üzere 7 Mayıs’ta geçici bir anlaşmaya vardı.
• Anlaşma, yüksek riskli yapay zeka yükümlülüklerini yüksek riskli kullanım durumları için 2 Aralık 2027’ye ve AB sektörel mevzuatı kapsamında güvenlik bileşenleri olarak kullanılan yapay zeka sistemleri için 2 Ağustos 2028’e erteliyor.
• Ayrıca, yapay zeka tarafından oluşturulan içeriklerdeki filigran yükümlülükleri için revize edilmiş bir uygulama tarihi olarak 2 Aralık 2026’yı belirliyor.
• Anlaşma, çocuk cinsel istismarı materyali veya rıza dışı mahrem veya cinsel içerikli görüntüler, videolar veya sesler oluşturan yapay zeka sistemlerini yasaklıyor; yasalaşmadan önce hala Parlamento ve Konsey tarafından resmi olarak kabul edilmesi gerekiyor.

OpenAI, yaşam bilimleri araştırmaları için GPTRosalind’i tanıttı

• OpenAI, 16 Nisan’da GPTRosalind’i biyoloji, ilaç keşfi ve translasyonel tıp için özel olarak oluşturulmuş öncü bir akıl yürütme modeli olarak tanıttı.
• Model; kimya, protein mühendisliği, genomik, literatür taraması, deneysel planlama ve veri analizini içeren bilimsel iş akışları için optimize edilmiştir.
• GPTRosalind, 50’den fazla bilimsel araç ve veri kaynağına bağlanan bir Yaşam Bilimleri araştırma eklentisinin yanı sıra, OpenAI’ın güvenilir erişim programı aracılığıyla nitelikli müşteriler için ChatGPT, Codex ve API’de bir araştırma önizlemesi olarak mevcuttur.
• OpenAI, başlangıçta erişimin nitelikli ABD Kurumsal müşterileriyle sınırlı olduğunu; uygunluk, erişim yönetimi, kurumsal yönetişim, kötüye kullanımı önleme ve biyolojik kötüye kullanıma karşı güvenlik önlemleri etrafında kontroller bulunduğunu söylüyor.