Anthropic, güçlü yapay zeka sistemlerinin toplumlarımıza getireceği en önemli zorluklarla yüzleşmek amacıyla "The Anthropic Institute"u kurduğunu duyurdu. Şirket, yapay zeka alanındaki ilerlemenin son beş yılda inanılmaz bir hızla gerçekleştiğini ve önümüzdeki iki yıl içinde çok daha dramatik gelişmelerin yaşanacağını öngörüyor. Anthropic, yapay zeka gelişiminin zamanla katlanarak hızlandığına inanıyor ve bu durumun, beklediğimizden çok daha erken bir zamanda son derece güçlü yapay zeka sistemlerinin ortaya çıkmasına neden olacağını belirtiyor.
Enstitü, güçlü yapay zeka sistemlerinin işleri ve ekonomileri nasıl yeniden şekillendireceği, toplumsal dayanıklılık için ne tür fırsatlar sunacağı, hangi tehditleri büyüteceği veya ortaya çıkaracağı gibi kritik sorulara yanıt arayacak. Ayrıca, yapay zeka sistemlerinin "değerleri" ve bu sistemlerin nasıl yönetilmesi gerektiği gibi etik ve idari konulara da odaklanacak. The Anthropic Institute'un temel amacı, öncü yapay zeka sistemleri geliştirirken edindikleri bilgileri dünya ile paylaşmak ve dış paydaşlarla iş birliği yaparak bu riskleri ele almak.
Enstitüye Anthropic'in kurucu ortağı Jack Clark liderlik edecek ve makine öğrenimi mühendisleri, ekonomistler ve sosyal bilimcilerden oluşan disiplinler arası bir ekibe sahip olacak. Mevcut Frontier Red Team (yapay zeka sistemlerini zorlayan), Societal Impacts (yapay zekanın gerçek dünyadaki kullanımını inceleyen) ve Economic Research (işler ve ekonomi üzerindeki etkisini takip eden) ekiplerini bir araya getirecek ve genişletecek. Ayrıca, yapay zeka ilerlemesini tahmin etme ve güçlü yapay zekanın hukuk sistemiyle nasıl etkileşime gireceğini anlama gibi yeni çabalara da ev sahipliği yapacak. Enstitü, öncü yapay zeka sistemlerini inşa edenlerin sahip olduğu benzersiz bilgilere erişimi sayesinde, bu zorluklara karşı dürüst ve kapsamlı raporlamalar sunmayı hedefliyor.
Güçlü yapay zekanın toplumsal etkilerini anlamak ve yönetmek için sektör lideri bir şirketin doğrudan bilgi paylaşımı ve araştırma yapması, gelecekteki risklere proaktif bir yaklaşım sergileyecek.