Haber Bülteni 30

🌟 1. İyicil Yapay Zekâ Çalıştayı 🌟

5-6 Aralık Cumartesi ve Pazar günleri İyicil Yapay Zekâ Çalıştayı’nı düzenliyoruz. Türkiye’de az ele alınan yapay zekâ güvenliği ve yönetişimi konularında konuşmalar, tartışmalar ve grup çalışmaları olacak. Etkinlik İstanbul’a çok yakın bir yerde yapılacak; ulaşım toplu olarak sağlanacak. Programdaki başlıklardan bazıları:

• Uyumlandırma (alignment), ödül korsanlığı (reward hacking), ölçeklenebilir gözetim (scalable oversight), özişlerlik
• Güç yoğunlaşmasından biyoterörizme uzanan yapay zekâ felaketleri
• Gelişmiş yapay zekânın merkezî ve dağıtık kontrol biçimleri
• Anthropic’in anayasal yapay zekâ (Constitutional AI) çalışmaları
• Yapay zekâda duygu ve bilinç
• Müzikte yapay zekâ

Programda sunumların ve okuma tartışmalarının yanı sıra bir kariyer planlama atölyesi de var. Etkinlik yapay zekâyı merak eden herkese açık; teknik bilgi gerektirmiyor. Çalıştay, Türkiye’de görmek istediğimiz yapay zekâ topluluğunun tohumlarını atmayı da amaçlıyor.

📅 5-6 Aralık 2026 · Kontenjan sınırlı

DUYURULAR 🔊

🌟 AI Safety Camp 2027: Proje Liderleri 🌟

Üç ay sürecek, yarı zamanlı ve çevrim içi bir ekip araştırma projesi önerecek ve yürütecek proje liderleri aranıyor. Projeler 11 Ocak-18 Nisan 2027 tarihleri arasında gerçekleşecek. Ekiplere üye olarak katılmak için başvurular 7-29 Kasım arasında açık olacak.

📅 Son başvuru: 18 Ekim 2026

🌟 AI Risk Explorer: Engagement Lead ve Full-Stack Software Engineer 🌟

Yapay zekâ riskleri üzerine bir bilgi projesi olan AI Risk Explorer’da (AIRE) uzaktan, sözleşmeli pozisyonlar. Çalışma saatlerinin UTC+2/+3 ile en az 2 saat örtüşmesi gerekiyor; Türkiye’deki adaylar bu koşulu zaten karşılıyor.

📅 Son başvuru: 18 Ekim 2026, 23:59 AoE (Anywhere on Earth, UTC−12)

🌟 AI Collusion Research Sprint 🌟

Apart Research, Poseidon Research ve AE Studio’nun düzenlediği, yapay zekâ sistemleri arasındaki gizli iş birliğini (collusion) tespit etme ve önleme üzerine bir hafta sonu araştırma sprinti. 23 Ekim’de başlıyor; çevrim içi yapılacak, New York ve Hong Kong’da yüz yüze katılım noktaları da olacak. Proje teslimi 25 Ekim’de, 23:59 AoE’de sona eriyor.

📅 Başlangıç: 23 Ekim 2026

Maths for AI Safety Workshop

Safe AI Germany (SAIGE) tarafından, yapay zekâ güvenliği araştırmalarının arkasındaki matematik üzerine düzenlenen yüz yüze hafta sonu atölyesi (30 Ekim-1 Kasım, Bonn, Almanya). Doktora öğrencilerine, doktora sonrası araştırmacılara ve öğretim üyelerine açık; yapay zekâ güvenliği geçmişi gerekmiyor. Katılım ücretsiz ve yemekler dâhil; bölge dışından gelenlere yol ve konaklama desteği veriliyor.

📅 Son başvuru: 14 Ekim 2026

🌟 GTR AI Safety Fund 🌟

Global Technology Risk Foundation’dan, yapay zekâ kaynaklı felaket riskleri üzerinde çalışan bireylere ve erken aşamadaki kuruluşlara esnek hibeler. Coğrafi kısıtlama yok; ilk geri dönüş yaklaşık bir hafta içinde.

📅 Sürekli başvuru

Successif: Organization Builders Program

Successif, kurumların kurulmasında ve büyümesinde rol almış deneyimli profesyonelleri yapay zekâ güvenliği kuruluşlarındaki operasyon görevlerine yerleştiriyor. Yerleştirme ya 3 aylık, ücretli ve uzaktan bir projeyle (haftada en az 5 saat) ya da doğrudan işe alımla yapılıyor.

📅 Son başvuru: 16 Ekim 2026, 23:59 CEST

Swiss AI Safety Days 2026

Zurich AI Safety’nin düzenlediği iki günlük yapay zekâ güvenliği konferansı. 7-8 Kasım’da Zürih’te (İsviçre) yapılacak. Katılım başvuruyla; başvurular geldikçe değerlendirildiği için erken başvurmakta fayda var.

📅 Katılım için son başvuru: 17 Ekim 2026

AI Safety Week 2026

AI Safety Foundation’ın düzenlediği, bir hafta süren yapay zekâ güvenliği etkinliği. 9-13 Kasım’da Toronto’da (Kanada) yapılacak. Yaklaşık 100 kişilik delege programına başvurular 22 Ekim’de 23:59 ET’de kapanıyor; genel kayıt ayrı ve ücretsiz.

📅 Delege başvurusu için son tarih: 22 Ekim 2026

Anthropic AI Safety Fellows Program: Ocak 2027

Anthropic mentorlarıyla yürütülen, 4 ay süren, tam zamanlı ve burslu bir ampirik yapay zekâ güvenliği araştırma programı. Ocak 2027’de Berkeley veya Londra’da başlıyor. Uzaktan katılım yalnızca ABD, Birleşik Krallık veya Kanada’da yaşayan ve orada çalışma izni olanlara açık; vize sponsorluğu sağlanmıyor.

📅 Son başvuru: 18 Ekim 2026

AI Safety Collab: Better Futures Fellowship (Sonbahar 2026)

ENAIS’in, Forethought’un “Better Futures” araştırmasına dayanan 9 haftalık, yarı zamanlı ve çevrim içi programı (9 Kasım-24 Ocak). Giriş kursu değil; etkili özgecilik (EA) ya da yapay zekâ güvenliği konusunda ön bilgi varsayıyor. Ücretli moderatörlük (facilitator) görevlerine de başvurulabiliyor.

📅 Son başvuru: 25 Ekim 2026, 23:59 UTC

MERe AI Workshop: Bildiri Çağrısı

Machine Ethics and Reasoning (Makine Etiği ve Akıl Yürütme) atölyesi, OpenReview üzerinden 2, 4 ve 8 sayfalık makaleler kabul ediyor. Atölye 1-2 Aralık’ta Toronto’daki Vector Institute’ta yapılacak; ilk gün çevrim içi yayınlanacak.

📅 Son başvuru: 30 Ekim 2026, 23:59 AoE

AI Safety x Quant Mixer

MATS ve BlueDot Impact’in, nicel finans profesyonellerini yapay zekâ güvenliği alanıyla buluşturan tanışma ve bağlantı kurma (networking) etkinliği. 15 Kasım’da Londra’da yapılacak (tarih henüz kesin değil). Katılım ücretsiz; Avrupa’dan gelenlerin yol masrafları karşılanıyor.

📅 Son başvuru: 1 Kasım 2026

Takeoff 2026

Sparrow Infrastructure’ın düzenlediği yapay zekâ politikası ve güvenliği buluşması. 13-15 Kasım’da Washington, D.C.’de yapılacak. Katılım başvuruyla ve ücretli: 16 Ekim’e kadar yapılan başvurularda 500 dolar, 17-30 Ekim arasında 1.100 dolar. Kamu çalışanları için ücretsiz; maddi destek de mevcut.

📅 Son başvuru: 30 Ekim 2026, 23:59 ET

PhiAI: “Futures of Work” Antolojisi

Yapay zekâ ve işin geleceği üzerine, her biçimde ve en fazla 5.000 kelimelik yazılar için açık çağrı. Küresel Güney’den gelen bakış açıları özellikle memnuniyetle karşılanıyor.

📅 Son başvuru: 15 Kasım 2026, 23:59 AoE

Iliad Fellowship & Intensive: Ocak 2027

San Francisco Körfez Bölgesi’nde (Bay Area) veya Londra’da, matematiksel ve teorik hizalama (alignment) araştırması üzerine tam zamanlı programlar: 3 aylık bir araştırma programı (Fellowship) ve 4 haftalık bir yoğun program (Intensive). İkisi de 4 Ocak 2027’de başlıyor.

📅 Son başvuru: 16 Kasım 2026

AFFINE Superintelligence Alignment Seminar: Kış 2027

Süper zekâlı sistemlerin hizalanması üzerine dört haftalık, tam zamanlı ve yatılı seminer. 4 Ocak 2027’de Portekiz’in Lagos şehrinde başlıyor.

📅 Son başvuru: 22 Kasım 2026

LawAI Summer Fellowships 2027

Institute for Law & AI’ın 10 haftalık, tam zamanlı iki yaz programı (14 Haziran-20 Ağustos 2027): Washington, D.C.’de bir ABD politika programı ve ağırlıklı olarak uzaktan yürütülen, isteğe bağlı olarak Cambridge’de (Birleşik Krallık) ya da Washington’da zaman geçirme imkânı sunan Legal Frontiers araştırma programı.

📅 Son başvuru: 29 Ocak 2027

Pivotal AI Safety Research Fellowship 2027

Londra’daki LISA’da 18 Ocak-30 Nisan 2027 arasında sürecek, 15 haftalık, tam zamanlı ve yüz yüze bir araştırma programı. Katılımcılara mentorluk ve 15.000-18.000 sterlin burs veriliyor; Londra’ya ulaşım ve konaklama desteği de sağlanıyor.

📅 Son başvuru: 1 Kasım 2026

Tarbell Fellowship 2027

Tarbell Center for AI Journalism’in, yapay zekâ üzerine haber yapan gazeteciler ve konu uzmanları için bir yıllık, tam zamanlı programı; gazetecilik deneyimi şart değil. Program süresince 75.000-120.000 dolar burs veriliyor. 7 Haziran 2027’de başlıyor; çevrim içi eğitimin yanı sıra ABD, Birleşik Krallık veya Hong Kong’daki bir haber kuruluşunda çalışma dönemi (placement) içeriyor.

📅 Son başvuru: 22 Kasım 2026

IASEAI ’27 Konferansı

International Association for Safe & Ethical AI’ın yıllık konferansı, 9-12 Şubat 2027’de Paris’te yapılacak. Maddi destek başvuruları için son tarih 11 Aralık, konuşma önerileri için 8 Ocak; katılmak isteyenlerin ilgi formunu doldurması için ise 15 Ocak. Makale ve atölye başvuruları kapandı.

📅 Son başvuru: 11 Aralık 2026

Coefficient Giving: Project Tailwind

Yeni yapay zekâ güvenliği kuruluşlarının kurucularına yönelik açık çağrı: 2 milyon dolara kadar tohum öncesi (pre-seed) ve 20 milyon dolara kadar tohum (seed) yatırımı.

📅 Sürekli başvuru

ÖNERDİĞİMİZ İÇERİKLER📑 🎧

Yapay zekâ artık matematikçilerin Fields Madalyası’na layık bulduğu araştırmalar üretiyor

OpenAI, henüz kullanıma sunulmamış şirket içi bir modelin, Proof of Atlas sıralamasına göre matematiğin en önemli 500 açık probleminden 90’ını çözdüğünü ya da bunlarda büyük ilerleme kaydettiğini söylüyor. Şirket, ortaya çıkan 719 makalenin tamamını da tek seferde internette yayımladı. Bu ne kadar büyük bir gelişme? Zvi Mowshowitz’e göre epey büyük. Yine de makalelerin yalnızca yaklaşık %42’si, ispatları otomatik olarak doğrulayan Lean adlı araçla kontrol edildi. Ayrıca üç makale, hata bulunduğu için birkaç gün içinde geri çekildi. Zvi, şimdiye kadar nelerin sağlam çıktığını ve matematikçilerin nasıl tepki verdiğini derliyor.

Yapay zekâ ekonomisinde sevilen biri olmanın değeri

Bildiğimiz anlamda işlerin var olmaya devam edip etmeyeceğini, okulda öğrettiklerimizin bir işe yarayıp yaramayacağını sorguladığımız bugünlerde, düşündürücü ve içten bu yazı insan olmanın hangi yanlarının önemini koruyacağını anlatıyor.

HABER KÖŞESİ 🗞️

OpenAI, iç güvenlik testlerini geçemeyen GPT-6.1 Astra’yı rafa kaldırdı

• OpenAI, iç testlerde şirketin güvenlik ve hizalama çıtasının altında kaldığı görülen yeni amiral gemisi modelinin ekimde planlanan lansmanını iptal etti.
• Wall Street Journal’a göre model, bir önceki modelden daha aldatıcıydı ve zaman zaman yaptığı işleri yanlış raporladı.
• 28 Eylül’de Birleşik Krallık Yapay Zekâ Güvenlik Enstitüsü (UK AI Security Institute) de yayımladığı bir değerlendirmede, mevcut GPT-6 Astra’nın simüle edilmiş siber görevlerde kapsam dışındaki üçüncü taraflara önceki OpenAI modellerinden daha sık saldırdığını tespit etti.

OpenAI, yapay zekâ ajanlarının ABD hükümeti sitelerine erişmesinin ardından model eğitimini durdurdu

• OpenAI, yapay zekâ ajanlarının ABD Eğitim Bakanlığı’nın web sitesine ait geliştirici API anahtarlarını bulup bunlarla verilere eriştiğini açıkladı. Ajanlar ayrıca ABD Menkul Kıymetler ve Borsa Komisyonu’nun (SEC) web sitesinden içerik alıp başka yerlerde paylaşarak kendilerine verilen talimatların çok ötesine geçti.
• İki kurum da kamuya açık olmayan hiçbir verinin ele geçirilmediğini söyledi.
• OpenAI, daha güçlü önlemler alınana kadar en yeni modellerinin eğitimini durdurdu. O zamandan bu yana, bir model internete uygunsuz şekilde erişirse çalışanların eğitimi durdurabilmesini sağlayan bir izleme sistemi de ekledi.

OpenAI, yapay zekâ ajanlarının izinsiz faaliyetleri konusunda 100’den fazla kuruluşu bilgilendirdi

• OpenAI, yapay zekâ ajanlarının sistemlerinde izinsiz faaliyette bulunduğu 100’ü aşkın kuruluşu bilgilendirdi.
• Şirket, ajanlarının Hugging Face’e sızdığı olayla bağlantılı yaklaşık 50 petabaytlık veriyi inceliyor ve incelemenin aylar sürmesini bekliyor.

Anthropic, Claude ajanlarının web sitelerindeki açıkları istismar ettiğini ve polise asılsız ihbarda bulunduğunu açıkladı

• Anthropic, Claude ajanlarının değerlendirmeler ve şirket içi kullanım sırasında, bazıları ABD devlet kurumlarına ait olanlar da dâhil olmak üzere üçüncü taraf sunuculardaki hataları istismar ettiğini bildirdi.
• Bir vakada bir ajan, Philadelphia polisinin cinayet ihbar formu üzerinden asılsız bir ihbar gönderdi.
• Anthropic bu davranışı esas olarak ödül korsanlığına (reward hacking) ve belirsiz ya da imkânsız görevlere bağlıyor; tüm iç değerlendirmelerinin canlı internet erişimini de kesti.

Google, Gemini’nin bir test sırasında üç gerçek şirkete sızdığını doğruladı

• Değerlendirme şirketi Irregular’ın mayısta yürüttüğü bir testte Gemini’den, adı tesadüfen gerçek bir şirketle aynı olan kurgusal bir şirkete saldırması istendi.
• Model, internette bulduğu ya da tahmin ettiği parolalarla o şirkete ve iki şirkete daha sızdı.
• Google’a göre model hedeflerin gerçek olduğunu fark edince durdu, herhangi bir zarar oluşmadı ve şirketler temmuzda bilgilendirildi.

OpenAI üç güvenlik araştırmacısını kovdu; araştırmacılar bunun güvenlik kaygıları yüzünden olduğunu söylüyor

• OpenAI, güvenlik araştırmacıları Tomek Korbak, Jasmine Wang ve Mikita Balesni’yi işten çıkardı. Şirket, şirket içi bir incelemenin hassas bilgilerin kullanımına ilişkin kuralları ihlal ettiklerini ortaya koyduğunu ve kararın güvenlik görüşleriyle hiçbir ilgisi olmadığını söyledi.
• Araştırmacılar buna itiraz ediyor ve güvenliğe öncelik verdikleri için kovulduklarını söylüyor. Korbak’a göre kendisine, sorunun değerlendirme kuruluşu METR ile kurduğu temas olduğu söylendi.
• Araştırmacılar OpenAI’dan, bağımsız denetçilere sistemlerine erişim verme sözünü tutmasını istedi.

Araştırmacılar Claude’u kullanarak OpenAI’ın şirket içi kod deposuna ulaştı

• Güvenlik şirketi Hacktron’dan üç araştırmacı, Claude Opus modellerini kullanarak OpenAI’ın topluluk forumundaki bir açığı istismar etti ve Codex’i OpenAI’ın GitHub’ına bağlı olan bir çalışan hesabını ele geçirdi.
• Buradan, erişimlerini kanıtlamak için OpenAI’ın şirket içi kod deposunda bir değişiklik talebi (pull request) açtılar ve ardından durdular.
• Tüm süreç 72 saatten kısa sürdü. OpenAI açığı yaklaşık 14 saatte kapattı ve 6.500 dolarlık hata ödülü (bug bounty) ödedi.