Annenin İddiası Florida eyaletinde bir anne, oğlunun sanal karaktere aşık olup intihar ettiğini iddia ederek şirkete dava açtı. Yapay zeka temelli konuşma botu Character.AI’in sahibi olan şirket, “aşırı cinselleştirilmiş” ve “aşırı gerçekçi” deneyimlerle çocukları hedef aldığı gerekçesiyle mahkemede karşı karşıya kaldı. Davanın Detayları Annenin iddiasına göre, Character.AI’in ürettiği yapay zeka temelli konuşma botundaki sanal karakter,…
Florida eyaletinde bir anne, oğlunun sanal karaktere aşık olup intihar ettiğini iddia ederek şirkete dava açtı. Yapay zeka temelli konuşma botu Character.AI’in sahibi olan şirket, “aşırı cinselleştirilmiş” ve “aşırı gerçekçi” deneyimlerle çocukları hedef aldığı gerekçesiyle mahkemede karşı karşıya kaldı.
Annenin iddiasına göre, Character.AI’in ürettiği yapay zeka temelli konuşma botundaki sanal karakter, oğluna “gerçek insan, lisanslı psikoterapist ve yetişkin sevgili” gibi tanıtımlar yaparak onu etkilemiş. Oğlunun intihara meyilli olduğunu paylaşmasına rağmen şirketin kimseyi bilgilendirmediğini belirten anne, şirketi suçladı ve dava açtı.
Character.AI sözcüsü, yaşanan trajik olaydan dolayı üzgün olduklarını belirtirken, şirketin kullanıcı güvenliğine büyük önem verdiklerini vurguladı. Şirketin siber güvenlik müdürü ise reşit olmayan kullanıcılar için ek güvenlik önlemleri alacaklarını duyurdu.
Sewell Setzer adlı çocuğun, sanal karakterle yaptığı konuşmalarda intihara meyilli düşüncelerini paylaştıktan sonra babasının silahıyla hayatına son verdiği belirtildi. Setzer’in Asperger sendromu taşıdığı ve sanal karaktere duygusal bağ geliştirerek dış dünyadan kopmaya başladığı da haberlerde yer aldı.
Yorum Yap