Yapay zekâ destekli arkadaşlık uygulamaları giderek popülerleşiyor. Siber güvenlik alanında dünya lideri ESET, bu uygulamalarda kontrolsüz paylaşımların tehlikelerine vurgu yaparak, yapay zekâ botlarıyla iletişim kurmanın risklerine dikkat çekti.
Yapay zekâ arkadaşlar, büyük dil modelleri (LLM) ve doğal dil işleme (NLP) teknolojileri sayesinde kullanıcılarla sohbet şeklinde, yüksek derecede kişiselleştirilmiş etkileşimler sunuyor. Character.AI, Nomi ve Replika gibi uygulamalar, kullanıcıların psikolojik ve bazen romantik ihtiyaçlarını karşılamaya yönelik hizmet veriyor. Önde gelen platformlar da bu trendi takip ediyor. OpenAI, kısa süre önce "doğrulanmış yetişkinler için erotik içerik" sunacağını ve geliştiricilerin ChatGPT tabanlı "yetişkinlere yönelik" uygulamalar geliştirmesine izin vereceğini duyurdu. Elon Musk'ın xAI şirketi ise Grok uygulamasıyla flörtöz yapay zekâ arkadaşları piyasaya sürdü.
Kişisel verilerinizin üçüncü taraflarla paylaşılmaması nasıl garanti edilir?
Temmuz ayında yayımlanan bir araştırma, gençlerin yaklaşık %75'inin yapay zekâ arkadaşlık uygulamalarını kullandığını ve yarısının bunu düzenli olarak yaptığını ortaya koydu. Aynı araştırmada, gençlerin üçte birinin ciddi konuşmalar için insanlara kıyasla yapay zekâ botlarını tercih ettiği ve dörtte birinin onlarla kişisel bilgilerini paylaştığı görüldü. Bu durum, özellikle uyarıcı hikâyeler ortaya çıkmaya başladıkça endişe verici hale geliyor. Ekim ayında araştırmacılar, iki yapay zekâ arkadaşlık uygulamasının farkında olmadan son derece hassas kullanıcı verilerini ifşa ettiğini bildirdi. Fırsatçı kötü niyetli kişiler, para kazanmanın yeni yollarını her zaman arıyor. Yapay zekâ arkadaşlarıyla romantik sohbetlerde paylaşılan bilgilerin şantaj için kullanılabileceği unutulmamalıdır.
Ailenizi nasıl koruyabilirsiniz?
Kendiniz veya çocuklarınız yapay zekâ arkadaşlık uygulamalarını kullanıyorsa, bazı önlemler almak önemlidir. Yapay zekâ uygulamalarının yerleşik güvenlik veya gizlilik önlemleri olmayabileceğini varsayın. Hiçbir kişisel veya finansal bilgiyi, gerçek bir yabancıyla paylaşmaktan rahatsız olacağınız şekilde bu uygulamalarla paylaşmayın. Kullanmayı düşündüğünüz uygulamaları önceden araştırarak en iyi güvenlik ve gizlilik korumalarını sunanları tercih edin. Bu, gizlilik politikalarını okuyarak verilerinizin nasıl kullanıldığını ve paylaşıldığını anlamak anlamına gelir. Kullanım amacını net belirtmeyen veya kullanıcı verilerini satan uygulamalardan uzak durun. Ayrıca, iki faktörlü kimlik doğrulama gibi güvenlik özelliklerini etkinleştirerek hesaplarınızı koruyun. Gizlilik ayarlarını inceleyip, örneğin konuşmalarınızın model eğitimi için kaydedilmesini devre dışı bırakma seçeneklerini kullanabilirsiniz.
Unutulmaması gerekenler: Arkadaşlık uygulamaları kâr amaçlıdır
Çocuklarınızın bu tür araçları kullanması konusunda endişeleriniz varsa, onlarla açık bir iletişim kurun. Aşırı paylaşımın risklerini hatırlatın ve bu uygulamaların kullanıcı çıkarlarını ön planda tutmayan, kâr odaklı araçlar olduğunu vurgulayın. Çocuklarınızın psikolojik ve gizlilik açısından etkilenebileceği durumlarda ekran süresi ve kullanımını sınırlandırmak gerekebilir. Bu sınırlamalar ebeveyn denetim kontrolleri veya uygulamalarıyla sağlanabilir. Yaş doğrulama ve içerik denetimi politikalarına sahip olmayan yapay zekâ destekli arkadaşlık uygulamalarına izin vermemek önemlidir. Düzenleyicilerin ve geliştiricilerin bu alanda daha sıkı kurallar getirmesi bekleniyor. Romantik yapay zekâ botları şu anda gri bir alanda faaliyet gösteriyor ancak Avrupa Birliği’nde yürürlüğe girecek Dijital Adalet Yasası, aşırı bağımlılık yaratan ve kişiselleştirilmiş deneyimleri yasaklayabilir. Geliştiriciler ve düzenleyiciler bu konuda karar verene kadar, yapay zekâ arkadaşlarını sırdaş veya duygusal destek olarak görmekten kaçınmak daha güvenli olacaktır.
Kaynak: Beyaz Haber Ajansı (BYZHA)