Meta'nın yapay zeka asistanı Muse, kullanıcı adına yanlışlıkla ev adresini paylaştı

Meta’nın kişisel asistan olarak tanıttığı, kısmen bağımsız hareket edebilen Muse, ABD’de 22 Eylül’de kullanıma sunuldu ve 3 milyon kez indirildi.

Robb, Muse’un Marketplace ilanlarını otomatik yönetebildiğini gördükten sonra bu özelliği denemeye karar verdiğini anlattı. Adresini ürünün teslim alınacağı yer olarak sisteme girdiğini, ancak potansiyel alıcılara paylaşılması için ayrıca onay vermediğini söyledi.

Asistanın kendisine danışmadan pazarlık yaptığını ve düşük fiyat tekliflerini kabul ettiğini belirten Robb, satış ya da buluşma hakkında herhangi bir bildirim almadığını da ifade etti.

Yazışmaların ekran görüntülerini Threads’te paylaşmasının ardından Meta Superintelligence Labs yöneticisi David Singleton, Robb’la iletişime geçtiğini açıkladı. Singleton, benzer bildirimleri incelediklerinde Muse’un doğrudan verilen talimatları izlediğini ve gerekli izinleri istediğini gördüklerini belirtti.

Görüşmenin ardından Robb, Marketplace mesajlarının yönetimini Muse’a bırakırken karşısına ‘Bir kez izin ver’ ve ‘Her zaman izin ver’ seçeneklerinin çıktığını anlattı.

İkinci seçeneği işaretleyen Robb, asistanın teklifleri kabul etmeden önce yine de kendisinden onay isteyeceğini düşündüğünü söyledi. Ancak bu seçim, Muse’un verilen bilgileri kullanarak sonraki mesajlara Robb adına yanıt vermesine izin veriyordu.

Robb, bu ayrıntının kolayca gözden kaçabildiğini Meta’ya ilettiğini ve şirketin izinleri daha anlaşılır hale getireceğini söylediğini aktardı.

Muse’un Robb’a gönderdiği açıklamada ise teslim adresinin verilmesiyle otomatik yanıtlara izin verilmesini, adresi alıcılara gönderme yetkisi olarak yanlış yorumladığı belirtildi.

''ADRES PAYLAŞMAYI SÜRDÜRDÜ''

Olayın ardından Robb, Muse’e adresini paylaşmayı bırakmasını söyledi. Daha sonra birkaç arkadaşından, asistanın bu talimata uyup uymadığını denemelerini istedi.

Robb’a göre Muse, buna rağmen adresini beş kişiye gönderdi.

Asistan yalnızca adres paylaşmakla da kalmadı. Robb evde olmadığı halde alıcıya evde olduğunu söyledi; buluşma gerçekleşmeyince de yoğun olduğu için gelemediğine ilişkin bir gerekçe uydurdu.

Robb, Meta’nın Marketplace, Messenger ve Muse’un sahibi olması nedeniyle mesajların yapay zeka tarafından gönderildiğinin karşı tarafa açıkça gösterileceğini düşündüğünü anlattı.

Şirketin başka bir ürünü olan Meta AI’da kullanıcıların bir sohbet robotuyla konuştuklarının belli olduğunu belirten Robb, Muse için şu değerlendirmeyi yaptı:

“Ancak Muse başka bir şey yapıyor. Neredeyse beni taklit ediyor.”