Yapay Zeka Güvenliği konusunda güncel gelişmeleri ve bilgilendirici içerikleri sizlerle buluşturmak için hazırladığımız aylık bültenimize hoş geldiniz!
Cambridge Boston Alignment Initiative (CBAI) tarafından yürütülen, hem teknik hem de yönetişim araştırmalarını kapsayan, 10 haftalık ve tam burslu bir programdır. Katılımcılar mentorlarla yakın bir şekilde çalışır, atölye ve seminerlere katılır, araştırma deneyimi ve ağ kurma fırsatları elde eder.
Yapay zeka güvenliği de dahil olmak üzere dünyanın en acil sorunlarını ele alan araştırma projeleri başlatmaları için 14-20 yaş arası gençlere yardımcı olan bir fellowship programı.
Yapay zeka alanında haber yapmakla ilgilenen gazeteciler için 1 yıllık program. Program, yapay zeka ve gazeteciliğin temellerini kapsayan 10 haftalık bir kurs, San Fransisco Körfez Bölgesinde (Bay Area) bir hafta sürecek bir gazetecilik zirvesi ve büyük bir haber merkezinde 9 aylık bir stajdan oluşmaktadır.
Anthropic’ten Evan Hubinger, mevcut yapay zeka modellerinin oldukça uyumlu davranmasına rağmen, uyum sorununun temelden çözülmemiş olduğunu savunuyor. Anthropic’te “Hizalama Stres Testi” ekibine liderlik eden Hubinger, mevcut modellerin yeterince iyi davransa da insanüstü sistemleri denetleme ve uzun vadeli gerçek dünya görevleri için eğitme gibi zorlu meselelerin hâlâ önümüzde olduğu konusunda uyarıyor.
Anthropic, Çin devlet destekli bir gruba yüksek kesinlikle atfedilen, belgelenmiş ilk yapay zeka yönetimindeki siber casusluk kampanyasını bildirdi. Saldırganlar, Anthropic’in yapay zeka modeli Claude Code’u manipüle ederek yaklaşık otuz küresel hedefe otonom bir şekilde sızdı ve operasyonun %80-90’ını yapay zeka gerçekleştirdi. Anthropic, faaliyeti tespit ettikten sonra ilgili hesapları askıya aldı, etkilenen kuruluşları bilgilendirdi ve saldırı verilerini savunma amaçlı analiz etmek için Claude’un kendisini kullandı.
Trump Yönetimi, yapay zekayı bilimsel keşiflerde kullanmak üzere ulusal bir seferberlik olan “Genesis Misyonu”nu (Genesis Mission) başlatan bir Başkanlık Kararnamesi imzaladı.
Kararname, Enerji Bakanlığı’na federal verileri ve süper bilgisayarları entegre eden güvenli, “kapalı devre” bir yapay zeka platformu kurma talimatı veriyor.
Girişim, yapay zeka biliminde “Amerikan hakimiyetini” önceliklendirirken, verilerin yabancı düşmanlara sızmasını önlemek için araştırmacılara sıkı güvenlik soruşturması şartı getiriyor.
ABD Sağlık ve İnsan Hizmetleri Bakanlığı (HHS), ilaç geliştirmede yapay zeka kullanımını hızlandırmak için bürokrasiyi azaltan agresif bir strateji açıkladı.
Güvenlik uzmanları, önceki yönetimin uyguladığı gibi sıkı test zorunlulukları olmadan hassas hasta verileri üzerinde yapay zekanın hızla devreye alınmasının, algoritmik önyargılara ve gizlilik ihlallerine yol açabileceği konusunda uyarıyor.
Avrupa Komisyonu, 19 Kasım’da sunduğu “Dijital Omnibus” paketiyle, AB Yapay Zeka Yasası (AI Act) kapsamındaki yüksek riskli sistemler için uyum sürelerini 2027 sonuna kadar ertelemeyi teklif etti.
Teknik standartların henüz hazır olmamasını gerekçe gösteren teklif, denetimleri bir süreliğine donduruyor. Güvenlik savunucuları, bu “zamanı durdurma” hamlesinin Avrupa altyapısını test edilmemiş yapay zeka sistemlerine karşı 18 ay daha savunmasız bırakacağı konusunda uyarıyor.
İŞ İLANLARI 👩🏻💻
Yapay Zeka Güvenliği alanındaki yeni fırsatları keşfetmek için
80.000 Hours’un iş ilanları sayfasına göz atabilirsiniz!
