Ülkemizde “yapay zeka güvenliği” olarak adlandırdığımız AI safety kavramı, Türkiye’de “güvenlik” kelimesi çoğunlukla siber güvenlik bağlamında kullanıldığından, eskiden daha çok kavram karmaşısı yaratıyordu. Yapay zekanın günlük hayatımıza hızla entegre olduğu son birkaç senede, yapay zeka güvenliğinin geniş kapsamı da daha iyi anlaşılır oldu. Yapay zeka güvenliği, yapay zeka teknolojilerinin bireyler, toplumlar ve geniş anlamda insanlık üzerinde oluşturabileceği risklere karşı güvenlik önlemleri geliştirmeyi ve bu teknolojinin insanlara en faydalı şekilde geliştirilmesini amaçlar. Bu, hem yapay zekanın güvenle kullanılabilecek bir teknik altyapıya sahip olmasını hem de toplumun gelişmekte olan yapay zeka teknolojisine uyum sağlamasını kapsar.

Yapay zeka, eksponansiyel gelişen bir teknoloji. Bu, yapay zekanın ona daha fazla kaynak ayrıldıkça sabit bir hızla değil gittikçe katlanarak, yani bizim takip edemeyeceğimiz bir hızla gelişen bir teknoloji olduğu anlamına geliyor. Bu yüzden yapay zeka güvenliği yalnızca mevcut sistemlerin değil; aynı zamanda gelecekteki yapay zeka sistemlerinin de güvenli olmasını hedefler. Bu bağlamı bazen ‘yakın dönem riskler’ ve ‘uzak dönem riskler’ veya ‘dar (narrow) yapay zeka uygulamaları’ ve ‘genel yapay zeka (AGI)’ riskleri olarak ikiye ayrılmış, bazen birbiriyle çatışan iki kavram olarak görebilirsiniz. Biz, farklı önceliklere sahip olsa da bu iki alanın birbiriyle kol kola çalışabileceğini, yapay zeka için bütüncül bir güvenlik çerçevesi sunabileceğini düşünüyoruz.

Bu iki farklı risk alanına örnekler verip kavramı biraz daha pekiştirelim