Yapay zeka casusluğu da öğrendi: Claude’un peşine devletler, istihbaratçılar ve dolandırıcılar düştü

0

BEĞENDİM

ABONE OL

News

0

Anthropic’in yayımladığı rapora göre Ocak-Temmuz döneminde tespit edilen kötüye kullanım vakalarının önemli bölümü Çin, İran ve Batı Afrika kaynaklı operasyonlarla bağlantılıydı. Şirket, bu faaliyetlerin klasik istihbarat yöntemlerinin dijital ve otomatik hale getirilmiş bir versiyonuna dönüştüğüne dikkat çekti. Yapay zeka modellerinin çok sayıda açık kaynak verisini kısa sürede analiz edebilmesi, sosyal medya hesapları arasında bağlantılar kurabilmesi ve kişilerin dijital kimliklerini belirleyebilmesi, bu sistemleri gözetleme operasyonları açısından cazip hale getiriyor REKLAM İRANLI AKTÖRLER SOSYAL MEDYA HESAPLARINDAN KİMLİK AVINA ÇIKTI Rapordaki en dikkat çekici örneklerden biri İran bağlantılı aktörlere ilişkin oldu. Anthropic, İranlı bazı grupların şirketin yapay zeka modellerini kullanarak kişilerin sosyal medya hesapları üzerinden gerçek kimliklerini tespit etmeye yönelik bir yöntem geliştirdiğini açıkladı. Bu sistem aracılığıyla sosyal medya paylaşımları, kullanıcı adları, bağlantılar ve çeşitli dijital izler analiz edilerek hesapların arkasındaki kişilere ulaşılmaya çalışıldığı belirtildi. Şirket, özellikle İran dışındaki rejim muhalifleri ile bazı azınlık gruplarının bu tür faaliyetlerin hedefleri arasında bulunduğunu bildirdi. REKLAM Rapora göre yalnızca İran değil, başka ülkelerdeki yönetimler ve onlarla bağlantılı yapılar da benzer yöntemlere başvuruyor. Gözetleme faaliyetlerinin hedefleri arasında Hong Kong’daki demokrasi yanlısı isimler, Tibet toplulukları ve Asya’nın çeşitli ülkelerinde yaşayan Falun Gong hareketi mensupları bulunuyor. Anthropic, bu grupların zaten uzun yıllardır geleneksel istihbarat ve takip faaliyetlerinin hedefinde bulunduğunu, yapay zekanın ise bu gözetleme kapasitesini daha hızlı ve daha kapsamlı hale getirdiğini vurguladı. MALİ’DE İSTİHBARAT YAZILIMINA CLAUDE DESTEĞİ Şirketin tespit ettiği bir başka olay ise Batı Afrika ülkesi Mali’de yaşandı. Rapora göre ulusal güvenlik kurumları adına çalışan bir taşeron, Anthropic’in Claude adlı yapay zeka modelinden yararlanarak temel istihbarat toplama yazılımları geliştirdi. Söz konusu yazılımların bilgi toplama ve analiz operasyonlarında kullanıldığı belirtilirken, yapay zeka modelinin yazılım geliştirme süreçlerini hızlandırdığı ve teknik kapasitesi sınırlı aktörlerin dahi daha gelişmiş gözetleme araçları oluşturabilmesine olanak sağladığı ifade edildi. REKLAM Anthropic’in raporu yalnızca devlet destekli casusluk faaliyetleriyle sınırlı kalmadı. Şirket, yapay zeka modellerinin biyolojik araştırmalar, potansiyel silah geliştirme girişimleri ve çeşitli dolandırıcılık operasyonlarında da kullanılmaya çalışıldığını açıkladı. Özellikle flört uygulamaları üzerinden gerçekleştirilebilecek dolandırıcılık yöntemlerinin tasarlanması ve kullanıcıları manipüle etmeye yönelik senaryolar hazırlanması gibi girişimlerin tespit edilerek engellendiği belirtildi. BİYOLOJİK ARAŞTIRMALAR ALARM VERDİ Anthropic, bazı kullanıcıların biyolojik silahlarla bağlantılı olabilecek araştırmalar yürütmeye çalıştığını da açıkladı. Şirket, söz konusu çalışmaların niyetinin kesin olarak belirlenemediğini, ancak güvenlik riski taşıması nedeniyle bu girişimlerin durdurulduğunu bildirdi. Araştırmaları gerçekleştiren kişilerin aktif olarak bilimsel çalışma yapan araştırmacılar olduğunu belirten şirket, bu kişilerin kasıtlı olarak zarar vermeye çalıştığı sonucuna varmadıklarını ve isimlerini açıklamanın hem araştırmacıları hem de laboratuvarlarını tehlikeye atabileceğini kaydetti. REKLAM Raporda şüpheli görülen biyolojik çalışmalar arasında sivrisinekler yoluyla bulaşan Chikungunya virüsü, yüksek bulaşıcılığa sahip bazı kuş gribi türleri, çiçek hastalığı ile maymun çiçeğinin de dahil olduğu virüs aileleri ve çeşitli hayvansal toksinler yer aldı. Anthropic, bu alanlarda yapılan araştırmaların bilimsel açıdan meşru olabileceğini kabul etmekle birlikte, yapay zeka modellerinin zararlı biyolojik ajanların geliştirilmesine yardımcı olabilecek şekilde kullanılmasının ciddi güvenlik riskleri doğurabileceğini vurguladı. REKLAM ÇİNLİ ŞİRKETLERE ‘GİZLİ CLAUDE KULLANIMI’ SUÇLAMASI Anthropic ayrıca bazı Çinli yapay zeka şirketlerini Claude modelini izinsiz ve gizli şekilde kullanmakla suçladı. Rapora göre Çinli geliştiriciler, Claude’dan elde edilen yanıtları kendi kullanıcılarına sunarken aynı zamanda bu çıktıları kendi yapay zeka sistemlerini geliştirmek ve eğitmek amacıyla kullandı. Şirket, bu yöntemin yapay zeka sektöründe “model distillation”, yani bir gelişmiş modelden elde edilen verilerin başka bir modeli eğitmek için kullanılması şeklinde bilinen yöntemin izinsiz biçimde uygulanması anlamına geldiğini savundu. REKLAM Anthropic, Çinli Moonshot ve DeepSeek şirketlerinin de Claude’u gizlice kullanarak kullanıcı sorularına yanıt ürettirdiğini ve bu verilerden kendi modellerinin geliştirilmesinde yararlandığını iddia etti. Bu suçlamalar, ABD ile Çin arasında yapay zeka teknolojileri konusunda giderek büyüyen rekabeti yeni bir boyuta taşıdı. Yapay zeka şirketleri artık yalnızca kendi modellerinin güvenliğinden değil, rakip şirketlerin bu modelleri dolaylı biçimde kopyalama veya taklit etme girişimlerinden de endişe ediyor. YAPAY ZEKA BÜYÜYOR, KURALLAR GERİDEN GELİYOR Anthropic’in raporu, yapay zeka teknolojilerinin yaygınlaşmasıyla birlikte bu sistemlerin devletler, istihbarat örgütleri, suç grupları veya radikal yapılar tarafından kötüye kullanılabileceğine ilişkin küresel kaygıları daha da artırdı. Teknolojinin gelişme hızı, birçok ülkedeki hukuki düzenlemelerin ve denetim mekanizmalarının çok önünde ilerliyor. Bu nedenle yapay zeka modellerinin casusluk, biyolojik araştırma, siber saldırı veya dolandırıcılık gibi alanlarda nasıl sınırlandırılacağı giderek daha önemli bir güvenlik tartışmasına dönüşüyor. REKLAM Ortaya çıkan tablo, yapay zekanın yalnızca geleceğin üretim ve bilgi teknolojisi olmadığını, aynı zamanda yeni nesil istihbarat ve güvenlik mücadelelerinin de merkezine yerleşmeye başladığını gösteriyor. Devletlerin ve şirketlerin yapay zeka yarışında daha güçlü modeller geliştirme çabası sürerken, aynı modellerin muhalifleri takip etmekten biyolojik araştırmalara, dolandırıcılıktan başka yapay zeka sistemlerini eğitmeye kadar uzanan geniş bir alanda kullanılması dikkat çekiyor. Başka bir ifadeyle yapay zeka artık yalnızca sorulara cevap vermiyor; yanlış ellerde kimin nerede olduğunu buluyor, yazılım geliştiriyor, operasyon planlıyor ve dünyanın yeni güvenlik sorunlarına yeni başlıklar ekliyor. REKLAM * Haberin görseli Shutterstock’tan servis edilmiştir. Görsel temsilidir.