Otter.ai ve benzeri yapay zekâ toplantı asistanlarının, özel görüşmeleri yetkisiz kişilere sızdırarak ticari sırların ve hasta verilerinin ifşasına yol açtığı bildirildi

Araştırmacı ve mühendis Alex Bilzerian, Eylül 2024’te bir risk sermayesi (VC) firmasıyla yaptığı Zoom toplantısının ardından, Otter.ai adlı yapay zekâ deşifre servisinden otomatik bir e-posta aldığını bildirdi. Bilzerian’ın iddiasına göre, iletilen döküm sadece toplantıyı değil, kendisi görüşmeden ayrıldıktan sonra yatırımcıların kendi aralarında yaptığı ve "hatalı metrikler" ile "stratejik başarısızlıklar" gibi hassas konuları içeren saatlerce süren özel konuşmaları da kapsamaktaydı. Bu sızıntı nedeniyle Bilzerian’ın ilgili yatırım anlaşmasından çekildiği ve yatırımcıların olay nedeniyle özür dilediği aktarıldı.

Benzer bir veri ihlali vakası, Ontario Bilgi ve Gizlilik Komiserliği (IPC) tarafından Ekim 2025’te yayımlanan bir mektupla belgelendi. Rapora göre, bir hastaneden Haziran 2023 yılında ayrılmış olan eski bir hekimin kişisel takvimine erişimi olan Otter.ai aracı, hekimin hâlâ davetli listesinde bulunduğu bir hastane toplantısına (hepatoloji toplantısı) Eylül 2024'te otomatik olarak katıldı. Yapay zekâ asistanının, yedi hastaya ait tanı ve tedavi bilgilerini içeren hassas sağlık verilerini kaydettiği ve toplantı dökümünü 65 kişilik bir katılımcı listesine e-posta ile gönderdiği tespit edildi.

Olayların temelinde, yapay zekâ tabanlı toplantı asistanlarının takvim entegrasyonu ve otomatik paylaşım özelliklerinin kullanıcılar tarafından tam olarak kontrol edilmemesi veya sistemin "toplantı bitti" algısının insan beklentileriyle örtüşmemesi yatmaktadır. Otter.ai, konuya ilişkin açıklamasında kullanıcıların paylaşım izinleri üzerinde tam kontrole sahip olduğunu ve dökümlerin otomatik paylaşımının her zaman kapatılabileceğini belirtti. Şeket, toplantılarda araç kullanımı için mutlaka rıza alınmasını tavsiye etmektedir. Ancak uzmanlar, "agentic AI" (eylemci yapay zekâ) olarak adlandırılan bu araçların bağımsız hareket etme kapasitesinin, kullanıcıların teknolojik yetkinlik eksikliğiyle birleştiğinde ciddi gizlilik riskleri oluşturduğunu vurgulamaktadır.

İhlalin ardından ilgili hastanenin, Otter.ai gibi onaylanmamış araçlara erişimi güvenlik duvarı (firewall) üzerinden engellediği ve personel eğitimlerini güncellediği bildirildi. Ayrıca IPC, benzer ihlallerin önüne geçilmesi amacıyla sanal toplantı odalarında "bekleme salonu" (lobby) özelliğinin zorunlu kılınmasını hastaneye tavsiye etti.