OpenAI, prompt injection saldırılarına karşı Lockdown Mode’u duyurdu

OpenAI, ChatGPT’de prompt injection saldırılarına karşı ek koruma sağlamayı amaçlayan Lockdown Mode adlı yeni bir özellik duyurdu. Özellik, özellikle hassas veriyle çalışan kişi ve kurumların, dış kaynaklı kötü niyetli talimatların modele sızdırabileceği bilgileri sınırlamasını hedefliyor.

Prompt injection saldırıları, web sayfaları, belgeler veya başka içerik kaynaklarının içine gizlenen talimatlarla sohbet botunun davranışını etkilemeye çalışıyor. OpenAI’ın açıklamasına göre Lockdown Mode açıkken canlı web tarama kapatılacak; kullanıcılar yalnızca önbelleğe alınmış içeriğe erişebilecek. Web’den görsel çekme ve gösterme, deep research ve agent mode da devre dışı bırakılacak.

Şirket, bu modun kesin koruma sağlamadığını özellikle vurguluyor. Prompt injection talimatları önbelleğe alınmış web içeriğinde veya yüklenen bir dosyada hâlâ yer alabilir ve yanıtın doğruluğunu ya da davranışını etkileyebilir. Buna rağmen amaç, hassas verilerin istemeden paylaşılma ihtimalini azaltmak.

OpenAI, Lockdown Mode’un herkes için tasarlanmadığını; daha sıkı veri korumasına ihtiyaç duyan kullanıcılar ve kuruluşlar için geliştirildiğini belirtiyor. Özellik şu aşamada self-servis ChatGPT Business hesaplarına ve uygun kişisel hesaplara kademeli olarak sunuluyor.

Kaynaklar

• Ana kaynak: TechCrunch