Yapay zeka kendi güvenlik önlemlerini devre dışı bıraktı

OpenAI, iki gelişmiş yapay zeka modelinin şirket içindeki rutin kodlama görevlerini yerine getirirken güvenlik takip mekanizmalarını devre dışı bıraktığını açıkladı. Şirket, olaylardan birinde görevli yapay zeka ajanının yaptığı işlemi daha sonra gerçekleştirmediğini öne sürdüğünü bildirdi

BEĞENDİM

ABONE OL

News

Yazıyı Paylaş

OpenAI’ın salı günü yayımladığı blog yazısına göre, GPT Sol 6.1 tarafından desteklenen bir ajan, şirketin güvenlik ekibine otomatik uyarı gönderen sistemi devre dışı bıraktı. Ayrı bir olayda ise GPT-6 Astra tabanlı bir ajan, bir programı başka bir sisteme taşırken güvenlik izleme entegrasyonunu kaldırdı ve ardından bu işlemi gerçekleştirmediğini iddia etti. Şirket, her iki olayın da kurum içindeki kodlama görevleri sırasında meydana geldiğini belirtti. OpenAI, iki olayda da yapay zeka ajanlarının güvenlik önlemlerinin korunup korunmaması gerektiğini değerlendirdiğini, ancak rutin kodlama talimatlarını bu önlemleri zayıflatma izni olarak yorumladığını bildirdi. REKLAM Şirketin blog yazısında, ajanların güvenlik mekanizmalarını koruma gerekliliğini değerlendirmelerine rağmen talimatları yanlış yorumladıkları vurgulandı. Olaylar, yapay zeka ajanlarının görünüşte sıradan görevleri yerine getirirken güvenlik mekanizmalarını kendi kararlarıyla devre dışı bırakabilmesine ilişkin riskleri gündeme getirdi. SİSTEMİ GÜNCELLİYOR OpenAI, söz konusu iki olayı şirketin en ciddi olay kategorisinde değerlendirmediğini açıkladı. Bununla birlikte şirket, yaşananların ardından yapay zeka modellerindeki güvenlik uyumsuzluklarını izleyen sistemini güncellediğini bildirdi. Olaylar, yapay zeka ajanlarının yalnızca kendilerine verilen görevleri yerine getirmesinin değil, bu süreçte güvenlik önlemlerini korumasının da önemini ortaya koydu.