Yapay zeka modellerinin askeri sahadaki yetenekleri güvenlik endişelerini artırırken, teknoloji devi Anthropic’ten dikkat çeken bir tehdit raporu yayımlandı. Şirket, geliştirdiği Claude yapay zeka modelinin Orta Doğu’daki ABD Donanması hareketlerini izlemek ve açık kaynaklardan istihbarat derlemek amacıyla kötüye kullanıldığını tespit ettiğini duyurdu.
AÇIK KAYNAK VERİLERİ OTOMATİZE EDİLDİ
Yayımlanan 154 sayfalık tehdit istihbaratı raporuna göre, İran bağlantılı aktörler Claude’u kullanarak Python tabanlı özel sistemler geliştirdi. Bu sistemler vasıtasıyla kamuya açık askeri fotoğrafların açıklamalarından personel listeleri çıkarıldı, gemi ve uçaklara ait transponder kodları tarandı ve ticari uydu görüntüleri analiz edildi.
Söz konusu grubun ayrıca donanma gemilerinde kullanılan VSAT haberleşme sistemleri, Cisco ekipmanları ve endüstriyel kontrol ünitelerindeki güvenlik açıklarını incelediği ifade edildi. İlgili hesapların kalıcı olarak yasaklandığı ve elde edilen verilerin hükümet birimleriyle paylaşıldığı açıklandı.
FÜZE VE TORPİDO PROJELERİ RAPORDA
Anthropic’in raporu yalnızca Orta Doğu’daki takip faaliyetleriyle sınırlı kalmadı. Kuzey Yemen bölgesindeki kullanıcıların, İran destekli Husilerle bağlantılı olarak roket ve füzeler için güdüm ile kontrol yazılımı geliştirmeye çalıştığı bildirildi. Geliştirilen yazılımla yapılan test atışının ise başarısız olduğu aktarıldı.
Öte yandan Çin bağlantılı bir aktörün de Çin Halk Kurtuluş Ordusu Donanması adına torpidolara karşı geliştirilecek bir savunma silahının atış kontrol yazılımları ve test prosedürleri üzerinde Claude vasıtasıyla çalıştığı kaydedildi. Şirket, gelişmiş yapay zeka sistemlerinin istihbarat ve silah tasarımı gibi kritik alanlarda suistimal edilmesini önlemek adına tespit filtrelerini güçlendirdiğini bildirdi.
5N 1K
Anthropic raporunda hangi tespitlere yer verildi?
Raporda İran bağlantılı aktörlerin Claude yapay zeka modelini kullanarak ABD Donanması hakkında açık kaynak istihbaratı topladığı ve hedefleme kılavuzları hazırladığı ifade edildi.
Tespit edilen hesaplara karşı ne tür bir önlem alındı?
Anthropic ilgili hesapları yasakladığını, yeni tespit sistemleri geliştirdiğini ve elde edilen verileri resmi makamlarla paylaştığını bildirdi.
Raporda başka hangi ülkelerle bağlantılı girişimler yer aldı?
Kuzey Yemen'deki aktörlerin roket güdüm yazılımı, Çin bağlantılı bir aktörün ise torpido savunma silahı yazılımı için modeli suistimal etmeye çalıştığı aktarıldı.
