Taze Hafıza

ChatGPT Connectors Sisteminde Güvenlik Açığı

Siber güvenlik araştırmacıları, ChatGPT’nin farklı hizmetlerle bağlantı kurmasını sağlayan OpenAI’nin Connectors sisteminde ciddi bir güvenlik açığı keşfetti. Bu açık sayesinde, kullanıcı hiçbir işlem yapmadan Google Drive hesabındaki hassas veriler dışarı sızdırılabiliyor.

Artık yapay zekâ sohbet robotları sadece metin üretmekle sınırlı değil; kişisel verilerinize bağlanarak daha özelleştirilmiş yanıtlar sunabiliyorlar. OpenAI’nin ChatGPT’si, Gmail gelen kutunuza erişebiliyor, GitHub kodlarınızı inceleyebiliyor ya da Microsoft takviminizden randevularınızı bulabiliyor. Ancak bu tür bağlantılar, kötü niyetli kişiler tarafından suistimal edilebilecek yeni riskler de barındırıyor.

Zehirli Dokümanlarla Saldırı Senaryosu

Araştırmacılar, yalnızca zehirli bir dokümanla bu sistemin nasıl kandırılabileceğini ortaya koydu. Las Vegas'ta düzenlenen Black Hat siber güvenlik konferansında konuşan güvenlik uzmanları Michael Bargury ve Tamir Ishay Sharbat, ChatGPT’nin Connectors altyapısındaki zayıflığın, dolaylı bir yönlendirme enjeksiyonu (indirect prompt injection) saldırısıyla Google Drive'dan veri sızdırılmasına yol açabileceğini gösterdi.

“AgentFlayer” adını verdikleri saldırı senaryosunda, bir Google Drive hesabında bulunan API anahtarları gibi geliştirici sırları bu yöntemle ele geçirilebildi.

Yapay Zekânın Güvenlik Açıkları

Bu açık, yapay zekâ sistemlerinin dış kaynaklara bağlanmasının saldırı yüzeyini nasıl genişlettiğini ve yeni güvenlik açıklarına zemin hazırladığını gözler önüne seriyor.

Zenity güvenlik firmasının CTO’su olan Bargury, WIRED dergisine verdiği demeçte:

“Kullanıcının zarar görmesi için herhangi bir işlem yapması gerekmiyor. Verilerin dışarı çıkması için de bir şey yapmasına gerek yok. Sadece e-posta adresiniz yeterli. Size bir belge paylaşıyoruz ve işlem tamam. Evet, bu gerçekten çok ciddi bir durum.”

OpenAI ve Google'dan Açıklamalar

OpenAI, Connectors sistemindeki bu güvenlik açığıyla ilgili olarak WIRED’ın yorum talebine yanıt vermedi. Şirketin bu yıl beta olarak sunduğu Connectors özelliğiyle, ChatGPT en az 17 farklı hizmetle entegre edilebiliyor. OpenAI, bu sistemin “araçlarınızı ve verilerinizi ChatGPT’ye taşımanızı” ve “dosya arama, canlı veri çekme, içerik referansı” gibi işlevler sunduğunu belirtiyor.

Bargury, bu güvenlik açığını yılın başlarında OpenAI’ye ilettiğini ve şirketin saldırıyı engellemek amacıyla hızlıca önlemler aldığını söyledi. Saldırı her ne kadar tam belgeleri kopyalayamasa da, az miktarda hassas verinin dışarı çıkarılabildiği belirtildi.

Google Workspace Güvenlik Ürün Yönetimi Kıdemli Direktörü Andy Wen ise, olayın doğrudan Google ile ilgili olmadığını vurgulamakla birlikte:

“Bu durum, yönlendirme enjeksiyonu saldırılarına karşı güçlü koruma önlemleri geliştirmenin neden önemli olduğunu gösteriyor,”

diyerek şirketin yakın zamanda artırılan yapay zekâ güvenlik önlemlerine dikkat çekti.