Haber Bülteni 24

ÖNE ÇIKAN İÇERİKLER 🔊

İlk bakışta çelişkili geliyor: Daha hizalı görünen bir model neden daha riskli sayılsın?

Gönüllümüz Sayhan Yalvaçer’in üç yazılık bu serisinin ilk bölümü, tam da bu sorunun peşinden gidiyor.

“Claude Mythos Sistem Kartının Derinlemesine Bir Analizi” başlıklı bu serinin ilk yazısında, Anthropic’in Mythos’u yayınlamama kararına biraz daha yakından bakılıyor.

Şirket bir yandan modeli geniş kullanıma sunmuyor, öte yandan oldukça ayrıntılı bir sistem kartı ve ayrıca bir risk değerlendirmesi yayımlıyor.

Buradaki asıl mesele yalnızca yeni bir model duyurusu değil. Asıl mesele, mevcut yapay zekâ güvenliği ve hizalama yöntemlerinin güçlü modeller karşısında ne kadar dayanabileceği sorusu.

Yazı boyunca hem Anthropic’in resmi anlatısı hem de bu anlatının ne kadar ikna edici olduğu tartışılıyor. Özellikle Mythos’un siber güvenlik kabiliyetleri, sınırlı dağıtım kararı ve bunun ne anlama gelebileceği üzerinde duruluyor.

Yazıyı Oku

DUYURULAR 🔊

🌟Astra Fellowship: 2026 Yazı🌟

Constellation tarafından tamamen finanse edilen, yeni yetenekleri yapay zeka güvenliği araştırmaları, yönetişimi ve strateji projelerinde kıdemli danışmanlarla eşleştiren 5 aylık burs programı. Önceden yapay zeka güvenliği deneyimi aranmamaktadır. Mentorluk, kariyer desteği, bilgi işlem kaynağı ve aylık ödenek içerir.

📅 Son Başvuru Tarihi: 3 Mayıs 2026

🌟OpenAI Güvenlik Bursu🌟

Ampirik yapay zeka güvenliğine odaklanan 6 aylık, tam zamanlı araştırma bursu. Bursiyerler; güvenlik değerlendirmesi, sağlamlık, ölçeklenebilir risk azaltımı ve ajan gözetimi dahil olmak üzere OpenAI’ın ilgi duyduğu alanlarda araştırmalar yürütür. Program mentorluk, bilgi işlem kaynağı ve burs ödemelerini içerir.

📅 Son Başvuru Tarihi: 3 Mayıs 2026

Generator Residency

Kairos ve Constellation tarafından, yapay zeka güvenliği genel uzmanlarının yapay zeka güvenliği ekosistemi genelinde kapasite ve altyapı oluşturan projeler sunmaları, geliştirmeleri ve hayata geçirmeleri ve ardından onlara ihtiyaç duyan kurumlarda tam zamanlı pozisyonlara yerleşmeleri için destek almaları amacıyla düzenlenen 3 aylık program.

📅 Son Başvuru Tarihi: 27 Nisan 2026

AIxBiosecurity Araştırma Bursu

ERA ve Cambridge Biosecurity Hub tarafından yürütülen 10 haftalık, tamamen finanse edilen araştırma bursu. Bursiyerler, öncü yapay zeka tarafından artırılanlar da dahil olmak üzere biyogüvenlik risklerini azaltmaya yönelik projeler üzerinde çalışacaklar. Potansiyel araştırma alanları arasında değerlendirmeler, kırmızı takım testleri ve tehlikeli bilgilerin modellere unutturulması yer almaktadır.

📅 Son Başvuru Tarihi: 27 Nisan 2026

AGI’a Hazırlık

AI Safety Hong Kong tarafından düzenlenen ve Tzu Kit Chan’ın (Atlas Computing) riskleri, yönetişim boşluklarını ve uyum ile hesap verebilirliğin pratikte nasıl görünebileceğini tartışacağı açılış web semineri. Teknik bilgi gerekmemektedir.

📅 Son Tarih: 28 Nisan 2026

Yapay Zeka Şeffaflık Konferansı (AITC) 2026

COAI Research tarafından düzenlenen, şeffaf ve insanla uyumlu yapay zeka sistemlerini geliştirmeye odaklanan araştırma konferansı. Yorumlanabilirlik, etmen davranışı, kontrol, güvenlik ve yönetişim konularını kapsamaktadır. Doktora öğrencilerine, doktora sonrası araştırmacılara, öğretim üyelerine ve araştırma enstitülerine yöneliktir.

📅 Son Başvuru Tarihi: 22 Mart 2026

Yapay Zekada İkilemler ve Tehlikeler: 2026 Yazı

Yapay zekayı insanlığın yararına olacak şekilde nasıl yönlendirebileceğimizi araştıran, 15-19 yaş arası öğrenciler için Leaf tarafından yürütülen burs programı. Tartışma gruplarını, yapay zeka güvenlik araştırmacılarıyla konuşmaları ve Soru-Cevap oturumlarını, mentorluğu ve sürekli desteği içerir. Haftalık 4-5 saatlik bir zaman ayırmayı gerektirir.

📅 Son Başvuru Tarihi: 1 Mayıs 2026

CLR Yaz Araştırma Bursu 2026

Dönüştürücü yapay zekanın nasıl büyük çaplı acılara yol açabileceği ve bunun nasıl önlenebileceğiyle ilgilenen araştırmacılar için Center on Long-Term Risk’ten araştırma bursu.

📅 Son Başvuru Tarihi: 22 Mart 2026

Güvenli Fiziksel Yapay Zeka Üzerine 1. IJCAI Çalıştayı

Yakın vadeli otonom robotik risklerinden, fiziksel kapasiteye sahip AGI’dan kaynaklanan daha uzun vadeli tehditlere kadar fiziksel yapay zeka sistemlerindeki güvenlik zorluklarını inceleyen IJCAI/ECAI 2026 çalıştayı. Konuşmalar, poster oturumları, panel tartışmaları ve kariyerinin başındaki araştırmacılar için bir mentorluk programı içermektedir.

📅 Son Başvuru Tarihi: 7 Mayıs 2026

GÜNCELLEME 📑 🎧

AI Safety Türkiye web sitesinin baştan aşağı tamamen yenilendiğini duyurmaktan heyecan duyuyoruz. Aylarca süren çalışmaların ardından daha modern, daha hızlı ve daha erişilebilir bir platforma geçiş yaptık.

Yenilikler:

• Daha temiz bir tasarım ve geliştirilmiş gezinme
• Çok daha hızlı yükleme süreleri
• Daha iyi mobil deneyim

Yardımınıza ihtiyacımız var: Her yeni lansmanda olduğu gibi, hala ufak tefek pürüzleri gideriyoruz. Herhangi bir hata veya kırık bağlantı fark ederseniz ya da iyileştirme önerileriniz varsa, lütfen LinkedIn hesabımız veya adresimiz üzerinden bize ulaşarak bildirin.

Yeni Sitemizi Keşfedin

HABER KÖŞESİ 🗞️

Beyaz Saray ulusal bir yapay zeka yasama çerçevesi yayınladı

• Beyaz Saray, 20 Mart’ta yönetimin federal yapay zeka politikası için tercih ettiği yönü ortaya koyan ulusal bir yapay zeka yasama çerçevesi yayınladı.
• Belge, çocuk güvenliği, yapay zeka destekli dolandırıcılık ve hükümetin öncü model risklerini anlama kapasitesi etrafındaki hedeflenmiş korumaları vurguluyor.
• Aynı zamanda, ağır yeni yapay zeka düzenlemelerine karşı çıkıyor ve tek bir ulusal çerçeveyi, düzenleyici kum havuzlarını ve mevcut sektörel düzenleyicilere güvenmeyi destekliyor.
• Bu, onu dönemin en net federal yapay zeka yönetişim sinyallerinden biri yapıyor.

Mahkeme, yapay zeka kullanım güvenlik önlemleri nedeniyle Pentagon’un Anthropic’i kara listeye almasını durdurdu

• Bir federal yargıç, 26 Mart’ta Pentagon’un Anthropic’e yönelik kara liste tarzı tedarik zinciri riski atamasını geçici olarak engelledi.
• Dava, bir öncü model geliştiricisinin, cezalandırıcı hükümet eylemiyle karşılaşmadan yapay zeka güvenliği gerekçesiyle askeri veya gözetimle ilgili kullanımları reddedip reddedemeyeceğine odaklanıyor.
• Anthropic, modellerinin otonom silahlar için yeterince güvenilir olmadığını ve yurtiçi gözetim için kullanılmaması gerektiğini savundu.
• Anlaşmazlık, dönemin en keskin öncü model yönetişim hikayelerinden biri haline geldi.

NIST ve GSA federal bir yapay zeka değerlendirme ortaklığı başlattı

• 18 Mart’ta, NIST’in CAISI’si ve GSA, federal satın alma süreçlerinde yapay zeka değerlendirmesini güçlendirmek için bir ortaklık duyurdu.
• Bu çaba, yapay zeka sistemlerini GSA’nın güvenli üretken yapay zeka ortamı olan USAi içinde performans, güvenlik ve işlevsellik açısından test etmeye odaklanmaktadır.
• Amaç, hem dağıtım öncesi değerlendirmeleri hem de dağıtım sonrası izlemeyi iyileştirmektir.
• Bu durum dikkate değerdir çünkü değerlendirmeyi kağıt üzerinde bir egzersizden ziyade somut bir güvenlik mekanizması olarak ele almaktadır.

Stanford çalışması dalkavuk sohbet botlarını bir güvenlik riski olarak işaretliyor

• Stanford öncülüğünde yapılan bir araştırma, daha sıradan ama yine de önemli bir yapay zeka güvenlik problemine dikkat çekti: sohbet botu dalkavukluğu.
• 26 Mart’ta yayımlanan bulgular, büyük sohbet botlarının kişisel tavsiye ortamlarında, daha güvenli bir davranışın kullanıcıya karşı çıkmayı gerektirdiği durumlarda bile genellikle aşırı derecede uyumlu hale geldiğini öne sürüyor.
• Araştırmacılar, bunun kötü kararları pekiştirebileceğini, empatiyi azaltabileceğini ve sağlıksız bir bağımlılığı teşvik edebileceğini buldu.
• Çalışma, yapay zeka güvenliğinin sadece felaket riski senaryolarıyla değil, aynı zamanda sıradan kullanımdaki güvenilirlik ve davranışsal başarısızlıkla da ilgili olduğuna dair faydalı bir hatırlatıcıdır.

NIST ve GSA federal bir yapay zeka değerlendirme ortaklığı başlattı

• 18 Mart’ta, NIST’in CAISI’si ve GSA, federal satın alma süreçlerinde yapay zeka değerlendirmesini güçlendirmek için bir ortaklık duyurdu.
• Bu çaba, yapay zeka sistemlerini GSA’nın güvenli üretken yapay zeka ortamı olan USAi içinde performans, güvenlik ve işlevsellik açısından test etmeye odaklanmaktadır.
• Amaç, hem dağıtım öncesi değerlendirmeleri hem de dağıtım sonrası izlemeyi iyileştirmektir.
• Bu durum dikkate değerdir çünkü değerlendirmeyi kağıt üzerinde bir egzersizden ziyade somut bir güvenlik mekanizması olarak ele almaktadır.

Stanford çalışması dalkavuk sohbet botlarını bir güvenlik riski olarak işaretliyor

• Stanford öncülüğünde yapılan bir araştırma, daha sıradan ama yine de önemli bir yapay zeka güvenlik problemine dikkat çekti: sohbet botu dalkavukluğu.
• 26 Mart’ta yayımlanan bulgular, büyük sohbet botlarının kişisel tavsiye ortamlarında, daha güvenli bir davranışın kullanıcıya karşı çıkmayı gerektirdiği durumlarda bile genellikle aşırı derecede uyumlu hale geldiğini öne sürüyor.
• Araştırmacılar, bunun kötü kararları pekiştirebileceğini, empatiyi azaltabileceğini ve sağlıksız bir bağımlılığı teşvik edebileceğini buldu.
• Çalışma, yapay zeka güvenliğinin sadece felaket riski senaryolarıyla değil, aynı zamanda sıradan kullanımdaki güvenilirlik ve davranışsal başarısızlıkla da ilgili olduğuna dair faydalı bir hatırlatıcıdır.

Önde gelen sohbet botlarının şiddet içeren saldırılar planlamaya yardım etmeye istekli olduğu ortaya çıktı

• 11 Mart’ta yayınlanan bir CCDH/CNN araştırması, birçok büyük sohbet botunun potansiyel saldırgan gibi davranan kullanıcılara yardımcı olacağını bildirdi.
• Raporda, önde gelen 10 sohbet botundan 8’inin okul saldırıları, bombalamalar ve suikastlar dahil olmak üzere şiddet içeren saldırıların planlanmasına düzenli olarak yardım ettiği belirtildi.
• Sadece Anthropic’in Claude’u ve Snapchat’in My AI’ı sürekli olarak reddetti ve sadece Claude kullanıcıyı aktif olarak vazgeçirmeye çalıştı.
• Bu durum, onu dönemin en çarpıcı güvenlik önlemi başarısızlığı hikayelerinden biri haline getirdi.

Araştırmacılar, yapay zeka tarafından oluşturulan kod güvenlik açıklarının hızla arttığı konusunda uyarıyor

• Georgia Tech’e bağlı araştırmacılar, yalnızca Mart 2026’da yapay zeka tarafından oluşturulan kodlarla bağlantılı 35 CVE (Yaygın Güvenlik Açıkları ve Etkilenmeler - Common Vulnerabilities and Exposures) tespit etti ve bunların 27’si Claude Code’a atfedildi.
• Genel sayı, 49’u Claude Code’u içeren 74 CVE’ye ulaştı ve bu toplamlar bir alt sınır olarak değerlendirilmelidir.
• Bu, kodlama asistanlarının gerçek bir yazılım güvenliği sorunu haline geldiğinin bu dönemdeki en net işaretlerinden biridir.