Yapay zekâ arkadaşlık uygulamaları hızla yaygınlaşıyor. Siber güvenlik çözümlerinde dünya lideri ESET, kontrolsüz yapılan paylaşımlara dikkat çekerek  yapay zekâ botuyla iletişim kurmanın risklerine dikkat çekti.

Yapay zekâ arkadaşlar, LLM'lerin ve doğal dil işleme (NLP) teknolojisinin gücünü kullanarak kullanıcılarıyla sohbet tarzında, son derece kişiselleştirilmiş bir şekilde etkileşim kuruyor. Character.AI, Nomi ve Replika gibi uygulamalar, kullanıcılarının psikolojik ve bazen de romantik ihtiyaçlarını karşılıyor. Büyük platformlar bile bu trendi yakalamaya başladı. OpenAI kısa süre önce "doğrulanmış yetişkinler için erotik içerik" sunacağını ve geliştiricilerin ChatGPT üzerine kurulu "yetişkinlere yönelik" uygulamalar oluşturmasına izin verebileceğini açıkladı. Elon Musk'ın xAI şirketi de Grok uygulamasında flörtöz yapay zekâ arkadaşları piyasaya sürdü.

Kişisel bilgilerinizin üçüncü şahıslarla paylaşılmayacağından nasıl emin olabilirsiniz?
Temmuz ayında yayımlanan bir araştırma, gençlerin yaklaşık dörtte üçünün yapay zekâ arkadaşlarını kullandığını ve yarısının bunu düzenli olarak yaptığını ortaya koydu. Aynı araştırmada gençlerin üçte birinin ciddi konuşmalar için insanlara göre yapay zekâ botlarını tercih etmesi ve dörtte birinin onlarla kişisel bilgilerini paylaşması dikkat çekti. Bu durum, uyarıcı hikâyeler ortaya çıkmaya başladıkça özellikle endişe verici hâle geliyor. Ekim ayında, araştırmacılar iki yapay zekâ arkadaş uygulamasının farkında olmadan son derece hassas kullanıcı bilgilerini ifşa ettiğini paylaştı. Fırsatçı tehdit aktörleri, para kazanmanın yeni bir yolunu her zaman keşfedebiliyor. Kurbanların yapay zekâ arkadaşlarıyla romantik sohbetlerinde paylaştıkları bilgilerin şantaj için biçilmiş kaftan olduğunu her zaman göz önüne almaları gerekir.

Ailenizi nasıl güvende tutabilirsiniz?
İster kendiniz bir yapay zekâ arkadaşlık uygulaması kullanın ister çocuklarınızın kullanmasından endişe duyuyor olun  şu noktalara dikkat etmelisiniz. Yapay zekânın yerleşik güvenlik veya gizlilik önlemleri olmadığını varsayın. Bir yabancıyla paylaşmaktan rahatsız olacağınız hiçbir kişisel veya finansal bilgiyi onunla paylaşmayın.  Siz veya çocuklarınız bu uygulamalardan birini denemek istiyorsanız önceden araştırma yapın ve en iyi güvenlik ve gizlilik korumalarını sunan uygulamaları bulun. Bu, gizlilik politikalarını okuyarak verilerinizi nasıl kullandıklarını veya paylaştıklarını anlamak anlamına gelir. Kullanım amacını açıkça belirtmeyen veya kullanıcı verilerini sattığını paylaşan uygulamalardan kaçının. Uygulamanızı bulduktan sonra, iki faktörlü kimlik doğrulama gibi güvenlik özelliklerini etkinleştirmeyi unutmayın. Bu, çalınan veya brute force saldırısıyla ele geçirilen parolaların kullanılarak hesapların ele geçirilmesini önlemeye yardımcı olacaktır. Gizlilik ayarlarını inceleyerek korumayı artırın. Örneğin, model eğitimi için konuşmalarınızın kaydedilmesini devre dışı bırakma seçeneği olabilir.

Arkadaşlık uygulamalarının kâr amaçlı uygulamalar olduğunu unutmayın
Çocuklarınızın bu araçları kullanmasının güvenlik, gizlilik ve psikolojik etkileri konusunda endişeleriniz varsa daha fazla bilgi edinmek için onlarla diyalog kurun. Aşırı paylaşımın risklerini hatırlatın ve bu uygulamaların, kullanıcılarının çıkarlarını ön planda tutmayan, kâr amaçlı araçlar olduğunu vurgulayın. Bu uygulamaların çocuklarınız üzerinde yaratabileceği etkiden endişe duyuyorsanız ekran süresini ve kullanımı sınırlamak gerekebilir. Bu sınırlama, ebeveyn denetim kontrolleri veya uygulamaları aracılığıyla uygulanabilir. Çocuklarınız için yaş doğrulama ve içerik denetimi politikalarına sahip yeterli koruma sağlayamayan hiçbir yapay zekâ destekli arkadaşlık uygulamasına izin vermemeniz gerektiği unutmayın. Düzenleyicilerin, geliştiricilerin bu alanda neler yapıp yapamayacağına dair daha katı kurallar uygulamak için müdahale edip etmeyeceği henüz belli değil. Romantik botlar şu anda bir nevi gri alanda faaliyet gösteriyor ancak AB'de yakında yürürlüğe girecek olan Dijital Adalet Yasası, aşırı derecede bağımlılık yaratan ve kişiselleştirilmiş deneyimleri yasaklayabilir. Geliştiriciler ve düzenleyiciler bu konuda bir sonuca varana kadar, yapay zekâ arkadaşlarını sırdaş veya duygusal destek olarak görmemek daha iyi olabilir.