Apple Intelligence’ın kimlik avı mesajlarını “öncelikli” olarak sınıflandırdığı ve dolandırıcılık içeriklerini daha güvenilir gösterdiği bildirildi

Apple’ın 2024 yılı sonlarında kullanıma sunduğu "Apple Intelligence" yapay zekâ özelliklerinin, kimlik avı (phishing) ve dolandırıcılık amaçlı e-postaları yanlışlıkla "öncelikli" (Priority) olarak sınıflandırdığı öne sürüldü. Sistemin, Mail uygulamasında aciliyet veya zaman hassasiyeti içeren ifadeleri analiz ederek, sahte içerikleri kritik bildirimler olarak kullanıcının karşısına çıkardığı rapor edildi.

Kullanıcı deneyimlerine göre, yapay zekâ tarafından oluşturulan bildirim özetleri, dolandırıcılık mesajlarındaki şüpheli biçimlendirme gibi geleneksel ipuçlarını gizleyebilmektedir. Örneğin; Avustralya Vergi Dairesi (ATO), Xfinity veya USPS (kargo) adına gönderilen sahte mesajların, sistem tarafından sadeleştirilerek resmi birer bildirim gibi sunulduğu paylaşıldı. La Trobe Üniversitesi’nden Profesör Daswin De Silva, bu özetleme sürecinin mesajın meşruiyetine dair bağlamsal ipuçlarını yok ederek kullanıcıların dolandırıcılık girişimlerine karşı savunmasız kalmasına yol açabileceğini belirtti.

Uzmanlar, sistemin gönderici adresi veya alan adı doğrulaması gibi temel güvenlik kontrollerini önceliklendirme aşamasına tam olarak entegre etmediğini iddia etmektedir. GPTZero CEO’su Edward Tian, yapay zekanın genel olarak metinlerdeki insan hatalarını (yazım yanlışları vb.) azaltarak phishing mesajlarını daha inandırıcı kıldığını, Apple'ın algoritmasının ise gönderici bilgisinden ziyade metnin yapısına ve aciliyet tonuna odaklandığını ifade etti.

Apple, bu spesifik iddialara doğrudan yanıt vermedi; ancak şirket daha önce BBC'ye yaptığı bir açıklamada, gösterilen metnin yapay zekâ tarafından özetlendiğini netleştirecek güncellemeler yapacağını belirtmişti. Özelliklerin şu an için geliştiricilere yönelik beta aşamasında olduğu ve hataların bu süreçte tespit edilip düzeltilmesinin hedeflendiği vurgulanmaktadır.