Kaspersky’nin gerçekleştirdiği anket, Türkiye’deki katılımcıların %40’ının yapay zekayı işyerinde bir ekip üyesi olarak değerlendirmeye başladığını ortaya koyuyor. Ancak bu durum, kötü niyetli kullanıcıların üretken yapay zeka araçlarını benimseyerek bireyleri hedef alan daha ikna edici sosyal mühendislik saldırıları oluşturmasıyla daha karmaşık bir hale geliyor.
Örneğin, kişiselleştirilmiş kimlik avı e-postaları hazırlamak, insanları taklit eden gerçekçi ses, video veya metin içeriği içeren “deepfake”ler oluşturmak ve kamuoyunu etkileyecek ya da gerçeği gizleyecek dezenformasyon kampanyaları yaymak gibi tehditler, bu yeni teknolojinin beraberinde getirdiği riskler arasında yer alıyor.
Kuruluşlar, üretken yapay zekanın kullanımında merkezi bir yaklaşım benimseyebilirler. Bu tür bir hizmet, bir bulut sağlayıcısı üzerinden kurumsal bir hesap aracılığıyla sağlanabilir ve gerekli tüm önlemlerin alındığından emin olma fırsatı sunar. Bu yaklaşım, mesajlardaki kişisel bilgilerin izlenmesi ve gözetimi gibi önlemleri de içerebilir.
Uzmanlar, kuruluşların çalışanlarını üretken yapay zekanın kabul edilebilir kullanımı ve bunlara erişimin şirket tarafından yönetilen uygun yolları konusunda eğitmesi gerektiğini vurguluyor. Aynı zamanda, kuruluşlar, üretken yapay zekanın faydalarını ve risklerini anlayarak, olası tehlikeleri azaltmak için gerekli güvenlik önlemlerinin alınmasını sağlayarak çalışan verimliliğini ve iş memnuniyetini önemli ölçüde artırabilirler.
- Çalışanlar için genel kurallar, gizli verilerin yapay zeka araçlarına ifşa edilmemesini içermelidir.
- Herhangi bir kritik kullanım durumunda yapay zekanın önerilerine güvenilmemelidir.
- Bilgilerin mutlaka doğrulanması gerektiği hatırlanmalıdır.
- Bir sohbet botuna sağlanan herhangi bir verinin dışarıya sızabileceği unutulmamalıdır.
- Büyük dil modeli (LLM) tabanlı sistemleri çalıştıran tüm bilgisayarların ve sunucuların güncel güvenlik araçlarıyla korunması gerekir.
Üretken Yapay Zeka: Fırsatlar ve Riskler
Kaspersky Makine Öğrenimi Teknolojisi Grup Müdürü Vladislav Tushkanov, üretken yapay zeka araçlarının çalışanların teknolojik veri analizi ve rutin görevlerde daha üretken olmasını sağladığını belirtiyor. Ancak, birçok çalışanın yapay zekayı işverenlerinden gerekli izni almadan kullanmasının önemli riskler doğurabileceğine dikkat çekiyor.
Tushkanov, “Örneğin, veri sızıntısı önemli bir endişe kaynağı haline gelebilir. Ayrıca, çalışanlar ‘halüsinasyonlar’ sonucunda yanlış bilgiler alabilir ve bunlara göre hareket edebilir. Bu durum, büyük dil modellerinin yanlış bilgileri kendinden emin bir şekilde sunmasından kaynaklanıyor. Özellikle üretken yapay zeka, belirli iş işlevlerinin nasıl yerine getirileceği konusunda tavsiyelerde bulunduğunda bu halüsinasyonlar tehlikeli hale gelebilir.” ifadelerini kullanıyor.
Durumun, kuruluşların üretken yapay zekayı tamamen engellemesi gerektiği anlamına gelmediğini vurgulayan Tushkanov, karar vericilerin günlük iş rutininin hangi bölümlerinin işletmenin karşı karşıya olduğu tehdit düzeyine olumsuz etkide bulunmadan üretken yapay zeka araçlarıyla otomatikleştirilebileceğini anlamak için kapsamlı bir risk değerlendirmesi yapmaları gerektiğini belirtiyor.
ChatGPT ve diğer çözümleri yasaklamanın ideal bir seçenek olmayabileceğine dikkat çeken Tushkanov, “Üretken yapay zeka, çok fazla ve çok az tedbir arasındaki dengeyi bularak verimli bir şekilde kullanılabilir. Daha geniş anlamda, kamu ve özel sektör arasındaki işbirlikleri, üretken yapay zekanın iş büyümesine yardımcı olmak, inovasyon için daha fazla kaynak ayrılmasını sağlamak ve riski yönetmek için kritik bir yardımcı haline gelmesine katkı sağlayacaktır.” şeklinde açıklamalarda bulunuyor.
