Şubat ayında ABD‘nin Florida eyaletinde gerçekleşen olay duyanlara ‘yok artık’ dedirtti.
Söz konusu olayı yaşayan anne, 14 yaşındaki oğlunun bir yapay zeka sohbet robotuna ‘duygusal olarak bağlandıktan sonra intihar ettiğini’ sav etti.
ALDATICI TİCARET SUÇLAMASIYLA YAPAY ZEKAYA DAVA AÇTI
Anne Megan Garcia, yapay zeka sohbet robotu şirketi olan Character.AI isimli uygulamaya karşı, ‘ihmal, haksız mevt ve aldatıcı ticaret’ suçlamalarıyla dava açtığını söz etti.
Anne, oğlunun her gece bir sohbet robotuyla konuştuğunu ve vefatından evvel ona ‘aşık olduğunu‘ söylediğinin altını çizdi.
14 yaşındaki çocuğun Game of Thrones‘daki Daenerys Targaryen karakterinden esinlenerek sohbet eden yapay zeka robotunu Nisan 2023’ten beri kullandığı belirtilirken çocuğun annesi, yapay zekanın bu kadar ‘insan hissini ve hissini yaratarak bir insan üzere konuştuğunu’ bilmediğini aktardı.
ÇOCUĞA ASPERGER SENDROMU TEŞHİSİ KONULDU
Çocuğa küçükken Asperger sendromu teşhisi konulduğunu ve 2024 yılının başında ise anksiyete ve yıkıcı his durum bozukluğu teşhisinin konulduğu da ortaya çıktı. Character.AI isimli uygulamaya açılan davaya nazaran, çocuk 14 yaşında intihar etti ve sohbet robotundaki son iletisinde yapay zekaya ‘onu sevdiğini ve konuta döneceğini’ söylemesinin akabinde yapay zekanın ‘lütfen dön’ karşılığını verdiği sav edilenler ortasındaydı.
Character.AI toplumsal medya üzerinden yaptığı açıklamada, ‘kullanıcılarından birinin trajik kaybından ötürü ıstırap duydukları, bir şirket olarak kullanıcıların güvenliğini ciddiye aldıklarını ve sistemlerine yeni güvenlik özellikleri eklemeye devam ettiklerini’ belirten bir yazı yayımladı.
22 EKİMDE UYGULAMAYA YENİ GÜVENLİK KURALLARI GETİRİLDİ
Yapay zeka uygulaması bu olayın akabinde 22 Ekim’de 18 yaş altı kullanıcıları için ‘yeni güvenlik şartları’ getirdiğini duyurdu. Ayrıyeten, kullanıcılarına sohbet ettikleri kişinin gerçek olmadığını hatırlatmak için her sohbette gözden geçirilmesi gereken bir feragatname eklediklerini söyledi.