24 Ekim 2024 tarihinde Ege Bilişim Zirvesi’nde, teknoloji ve güvenlik profesyonellerini bir araya getiren çok önemli bir etkinlikte konuşma fırsatı buldum. "LLM Güvenliği ve Riskleri" başlıklı oturumda, derin öğrenme modellerinin (LLM) güvenlik perspektifinden ele alınması, bu modellerin getirdiği tehditler ve çözüm önerileri üzerinde durduk.
Oturumun Ana Konu Başlıkları:
Deepfake Teknolojileri:
Derin öğrenme modellerinin, sahte görüntü ve videolar oluşturmadaki kullanımı, bireylerin ve kurumların itibarına zarar verme potansiyeli.
ChatGPT ve Diğer Ünlü Chatbot’lar:
Chatbot teknolojilerinin siber güvenlik açıklarını ve dolandırıcılık yöntemlerini nasıl etkilediği, özellikle sosyal mühendislik süreçlerinde kullanılması.
Güncel Saldırı Teknikleri:
LLM tabanlı sistemlerin manipüle edilerek yanlış bilgi yayma veya hassas bilgileri ele geçirme senaryoları.
Güvenlik Önlemleri ve Öneriler:
Bu modellerin güvenli bir şekilde kullanılması için geliştirilmesi gereken politikalar, izleme mekanizmaları ve teknolojik çözümler.
Zirveden Öne Çıkanlar
Katılımcılar, LLM teknolojilerinin faydalarının yanında getirdiği riskler konusunda farkındalıklarını artırma şansı buldular. Özellikle şu sorular öne çıktı:
ChatGPT gibi modeller, şirket içi hassas bilgilerin sızdırılmasında nasıl bir tehdit oluşturabilir?
Deepfake’ler ile mücadelede hangi teknolojiler ve yöntemler öne çıkıyor?
Bu tehditlere karşı bir kurumsal strateji nasıl geliştirilmeli?
