Anthropic, NSA ile Siber Operasyonlarda Çalışırken Yapay Zekâ İçin Uyarı Yayınladı
Claude’un geliştiricisi Anthropic’in, NSA bünyesinde saldırı amaçlı siber operasyonlar için mühendisler görevlendirdiği bildirildi. Şirket ayrıca, yapay zekânın kısa vadede insan müdahalesi olmadan kendi kendini geliştirebileceği uyarısında bulundu.
Claude’un arkasındaki şirket Anthropic, bir yandan ABD Ulusal Güvenlik Ajansı’nda (NSA) saldırı amaçlı siber operasyonlara destek verecek şekilde mühendisler görevlendirirken, diğer yandan yapay zekâ risklerine ilişkin yeni bir uyarı yayımladı. Decrypt’in aktardığına göre şirketin yaklaşımı, savunma ve güvenlik kullanım alanları ile uzun vadeli yapay zekâ riskleri arasındaki gerilimi yeniden gündeme taşıdı.
Şirketin yayımladığı rapor, yapay zekânın yakında insan döngüsüne ihtiyaç duymadan kendi kendini geliştirebileceği ihtimaline dikkat çekiyor. Anthropic, bu senaryonun güvenlik ve kontrol açısından ciddi sonuçlar doğurabileceğini savunuyor.
Bu durum, şirketin devlet kurumlarıyla yürüttüğü güvenlik odaklı çalışmaları ve aynı zamanda daha temkinli bir yapay zekâ geliştirme yaklaşımını birlikte sürdürdüğünü gösteriyor. Anthropic’in açıklamaları, yapay zekâ sistemlerinin yetenekleri arttıkça denetim ve sınırlandırma tartışmalarının da hızlandığı bir döneme denk geliyor.
Decrypt’in haberine göre, şirketin NSA içindeki rolü ve yayımladığı uyarı, yapay zekâ şirketlerinin ulusal güvenlik uygulamalarıyla etik ve güvenlik kaygıları arasında nasıl konumlandığına dair daha geniş bir tartışma yaratıyor.