Yapay Zeka Güvenliği konusunda güncel gelişmeleri ve bilgilendirici içerikleri sizlerle buluşturmak için hazırladığımız aylık bültenimize hoş geldiniz!
🙋🏻♀️Editörün Notu:
Websitemiz aisafetyturkiye.org yapım aşamasında. Bu süre zarfında bize aisafetyturkiye@gmail.com üzerinden ulaşabilirsiniz.
Yapay Zeka Güvenliği alanındaki mentörlerle 3 ay. boyunca yürütülecek olan bu disiplinlerarası program, doğal ve sosyal sistemlerdeki karmaşık ve zeki davranışları inceleyen veya matematik, felsefe ve mühendislik gibi alanlarda çalışan araştırmacılar için tasarlandı.
Yapay Zeka sistemlerini güvenli ve faydalı hale getirme misyonuna ilgi duyan herkes için tarih ve yer yakında duyurulacak!
Araştırmacıları, geliştiricileri ve meraklı zihinleri, Yapay Zeka Uyumu’nu ölçme (ve geliştirme) sorununu çözmek için bir araya getiriyoruz.
AI-Plans tarafından düzenlenen bu hackathon, eleştirel düşünme, fikirler üzerinde denemeler yapma ve bu kritik sorunda ilerleme kaydetme fırsatı sunuyor.
Yapay Zeka Güvenliği araştırmalarını hızlandırmayı ve araştırma yeteneklerini geliştirmeyi amaçlayan bu girişim 10-15 bursiyere, Yapay Zeka Güvenliği araştırmaları üzerinde tam zamanlı çalışmaları için finansman ve mentörlük sağlayacak.
Anthropic’ten Sam Marks, felaket riski azaltmak isteyen ancak nereden başlayacaklarını bilmeyen yapay zeka araştırmacılarına rehberlik etmeyi anlatıyor ve bugün yapılacak ilerlemelerin, gelecekteki yapay zeka sistemlerinin güvenli ve kontrol edilebilir kalmasını sağlamak için önemli teknik alanları özetliyor.
OpenAI, en son akıl yürütme modeli o3’ü yayımladı; bu model, tüm karşılaştırma testlerinde rekorlar kırarak yapay zeka dünyasında pek çok uzmanın hayran kalmasına neden oldu. Peki, bu, yapay genel zekaya giden yol için ne anlama geliyor?
Yapay zeka alanının öncülerinden ve Nobel Fizik Ödülü sahibi Geoffrey Hinton, yapay zeka kaynaklı insan neslinin tükenmesi riskini önümüzdeki 30 yıl içinde %10-20’ye yükseltti.
Hinton, yapay zekanın hızlı gelişiminden ve insan zekasından üstün sistemleri (ASI) kontrol etmenin zorluğundan endişe duyuyor.
Yapay zeka gelişiminin hızı, Hinton’ın orijinal tahminlerini aştı ve insan zekasını aşan sistemlerin yaklaşık 20 yıl içinde ortaya çıkmasını bekliyor.
Hinton, daha az zeki varlıkların daha zeki olanları kontrol ettiği örneklerin doğada nadir olduğunu ve insan-yapay zeka ilişkisinin benzersiz bir zorluk oluşturduğunu belirtiyor.
Hinton, yapay zekanın güvenli bir şekilde geliştirilmesini sağlamak için devlet müdahalesini savunuyor ve şirketlerin tek başına yeterli olmayacağını öne sürüyor.
OpenAI’nin o3 sistemi, ARC-AGI-1 testinde standart hesaplama kısıtlamaları altında %75,7 ve genişletilmiş kaynaklarla %87,5 puan alarak eşi görülmemiş bir performans elde etti.
o3 sistemi, yapay genel zekaya (AGI) doğru ilerlemede kritik bir adımı temsil ediyor ve yapay zekanın geleceği için önemli sonuçlar doğuruyor.
OpenAI, gelişmiş metinden videoya yapay zeka modeli Sora’ya erişimi ChatGPT Plus ve Pro abonelerine genişletti.
Bu hamle, OpenAI’yi çok modlu yapay zeka alanında Meta, Google ve Stability AI gibi yerleşik oyuncularla rekabete sokuyor.
Sora’nın yeni sürümü, 1080p çözünürlük, 20 saniyelik video oluşturma ve çeşitli en-boy oranlarını destekleme gibi özellikler sunuyor.
OpenAI, kötüye kullanım malzemelerini hedefleyen içerik filtreleme sistemleri, deepfake önleme protokolleri ve kontrollü insan konusu işleme gibi güvenlik önlemleri uyguladı.
