Yıldız Teknik Üniversitesi’nde yapay zekâ güvenliği söyleşisi
MATE ile birlikte Yıldız Teknik Üniversitesi’nde yapay zekânın bugün geldiği noktayı, riskleri ve yapay zekâ güvenliği alanına nereden başlanabileceğini konuştuk.
Yapay zekâ sistemleri birkaç yıl içinde metin tamamlayan araçlardan kendi başına karar verebilen sistemlere dönüştü. Bu gelişmenin hızı ortada; nereye varacağı ise çok daha az tartışılıyor.
23 Ekim Cuma günü MATE (Modern Akıllı Teknolojiler ve Enformasyon Kulübü) ile birlikte Yıldız Teknik Üniversitesi’nde bu soruyu ele aldık. İlk bölümde bugünkü duruma baktık: Bu sistemler gerçekte neler yapabiliyor ve bu noktaya nasıl gelindi? Ardından daha az konuşulan kısma geçtik. Bir modelin neden belirli bir şekilde davrandığını çoğu zaman onu geliştirenler bile tam olarak açıklayamıyor. Kendi başına hareket edebilen ve nasıl karar verdiğini bilmediğimiz sistemler bu hızla gelişmeye devam ederse bizi nereye götürür? Bu sorudan yola çıkarak riskleri, yapay zekâ güvenliğinin (AI safety) ne olduğunu ve bu alanda çalışmak isteyenlerin nereden başlayabileceğini konuştuk.
Konuşmacılar Berke Çelik (AI Safety Türkiye eş kurucusu) ve Ege Uğur Amasya (Koç Üniversitesi doktora öğrencisi, SPAR Research Fellow) oldu.