Temmuz 2023’te dört teknoloji devi Open AI, Microsoft, Google ve Anthropic, Frontier Model Forum adında bir platform kurduklarını duyurdu.Forum, üretken yapay zekanın, özellikle de uç yapay zeka modellerinin güvenli ve sorumlu bir şekilde geliştirilmesini sağlamayı amaçladı.
Ve şimdi şirketler, Frontier Model Forum’un ilk Yönetici Direktörü olarak Chris Meseroleyapay zeka güvenliği alanında araştırmaları ilerletmek üzere atandı. Değeri 10 milyon doları aşan bir girişimle ortak açıklamayla yapay zeka güvenlik fonu kurulduğunu duyurdu. Yapay Zeka Güvenlik Fonu’na dört teknoloji devinin yanında Patrick J. McGovern Vakfı, David ve Lucile Packard Vakfı, Eric Schmidt( Eski Google CEO’su ve hayırsever) Ve Jaan Tallinn( Estonyalı milyarder) değerli katkılarda bulunmaktadır.
Fon, kırmızı gruplar olarak yapay zeka modellerinin kullanımına yönelik yeni model değerlendirmeleri ve tekniklerin geliştirilmesine öncelik verecek. Dolayısıyla bunlar, sınır sistemlerinin potansiyel olarak tehlikeli yeteneklerine yönelik değerlendirme tekniklerinin geliştirilmesine ve test edilmesine yardımcı olacaktır.
En son çalışan küme güncellemesinde küme şu şekilde değiştirildi: ” Kötü amaçlı yetenekleri, teslimatları veya altyapı tehditlerini belirlemek amacıyla yapay zeka sistemlerini ve ürünlerini araştırmaya yönelik yapılandırılmış bir süreç“. Ayrıca konuyu öne çıkaran vaka çalışmaları da paylaşılmaktadır.
Yayınlanan blog yazısında Forum’un son dönemde devam eden bazı projelerinden de bahsedildi. Forum, önde gelen yapay zeka laboratuvarları önde gelen yapay zeka modellerindeki güvenlik açıklarının veya potansiyel olarak tehlikeli yeteneklerin keşfedilmesine ve azaltılmasına ilişkin bilgilerin paylaşılmasına olanak sağlayacak yeni bir süreç üzerinde çalışıyor. Aynı zamanda gelecekte stratejiler oluşturmaya yardımcı olacak bir araçtır. Danışma Kurulu Oluşturulmasıplanlanıyor.
