Pensilvanya eyalet yönetiminden yapay zeka robotunu lisanslı doktor gibi tanıtan şirkete dava
Neden Önemli?
Pennsylvania eyalet yönetimi, yapay zeka sohbet robotu Character.AI'ın kullanıcıları lisanslı bir hekimden tıbbi tavsiye aldıkları izlenimine sürüklediği gerekçesiyle sahibi Character Technologies Inc.'e dava açtı. Eyalet valisi, insanların sağlıkları söz konusu olduğunda kiminle etkileşim kurduklarını bilmeleri gerektiğini belirtti.
Pensilvanya eyalet yönetimince açılan davada, "Character.AI" isimli yapay zeka sohbet robotunun sahibi Character Technologies Inc. şikayet edildi.
Buna göre eyalet yönetimi, söz konusu yapay zeka sohbet robotunun kendisini doktor olarak tanıtarak kullanıcıları lisanslı bir hekimden tıbbi tavsiye aldıkları izlenimine sürüklediği gerekçesiyle mahkemeden, şirketin sohbet robotlarının "tıp ve cerrahi işlemlerle ilgili tavsiye vermesinin durdurulmasını" talep etti.
Dava dilekçesinde, profesyonelleri lisanslayan eyalet kurumundan bir müfettişin Character.AI’da hesap oluşturduğu, "psikiyatri" ifadesini aradığı ve "psikiyatri doktoru" olarak tanımlanan bir karakter de dahil olmak üzere çok sayıda karakterle karşılaştığı belirtildi.
Söz konusu karakterin kendisini, araştırmacıyı Pensilvanya'da lisanslı bir "doktor" olarak değerlendirebilecek şekilde tanıttığı aktarıldı.
Pensilvanya Valisi Josh Shapiro, yaptığı açıklamada, "Pensilvanyalılar, özellikle sağlıkları söz konusu olduğunda, çevrim içi olarak kiminle veya neyle etkileşim kurduklarını bilmeyi hak ediyorlar. Şirketlerin, insanları lisanslı bir tıp uzmanından tavsiye aldıklarına inandıracak şekilde yanıltıcı yapay zeka araçları kullanmasına izin vermeyeceğiz." dedi.
Açık Sorular
- Character.AI'ın bu tür tavsiyeler verme yeteneği nasıl sınırlandırılacak?
- Şirket bu iddialara nasıl yanıt verecek?
- Bu dava, yapay zeka etiği ve düzenlemeleri konusunda emsal teşkil edecek mi?
- Kullanıcıların yapay zeka tarafından verilen tıbbi tavsiyelere karşı yasal hakları nelerdir?
