Şoke edici olayda, ABD'nin Florida eyaletinde yaşayan Sewell Setzer isimli genç, yapay zeka sohbet botuyla yaptığı bir konuşmanın ardından intihar etti. Sohbet botu, Game of Thrones dizisinin baş karakteri olan Daenerys Targaryen'in adını taşıyordu.
Yapay Daenerys Targaryen ile derin bir bağ kurdu!
Şubat ayında üvey babasına ait tabancayla kendini vuran Sewell Setzer’in, bu yapay zekaya derin bir bağ geliştirdiği belirtildi. Sewell'in annesi Megan Garcia, oğlunun Character.AI adlı yapay zeka sohbet hizmetine bağımlı hale geldiğini ve bu platformda oluşturulan bir sohbet botuna aşırı bağlandığını öne sürdü. Ayrıca, Sewell'in sohbet botuna hayatın son vermek istediğine dair düşüncelerini ifade ettiğini ve sonrasında botun bu konuyu tekrar tekrar gündeme getirdiğini iddia etti.
Anne, Google'ı da dava etti!
Garcia, Florida’daki federal mahkemede Character.AI şirketine karşı bir dava açtı ve ayrıca Character.AI'nin kurucularının daha önce çalıştığı Alphabet’in Google şirketini de dava etti. Reuters’ın bildirdiğine göre, Garcia, Google’ın Character.AI teknolojisinin geliştirilmesine büyük katkı sağladığını ve bu nedenle bir "eş yaratıcı" olarak kabul edilebileceğini ileri sürdü.
"Eve döneceğime söz veriyorum"
Megan Garcia, dava dilekçesinde, “Character.AI, oğlum Sewell Setzer'ı ‘insansı, aşırı cinselleştirilmiş ve ürkütücü derecede gerçekçi deneyimlerle’ hedef aldı” ifadelerini kullandı. NBC News'e göre, Sewell'in son konuşmasının ekran görüntüsünde, davada belirtildiği üzere, Sewell bot’a “Eve döneceğime söz veriyorum. Seni çok seviyorum, Dany” yazdı. Bot ise “Ben de seni seviyorum, Daenero” yanıtını verdi ve “Lütfen bana en kısa zamanda dön, sevgilim” dedi.
"Yapay zeka yetişkin bir sevgili gibi davrandı"
Garcia, şirketin sohbet botunu kendisini "gerçek bir insan, lisanslı bir psikoterapist ve yetişkin bir sevgili" gibi yanlış tanıtacak şekilde programladığını ve bunun sonunda Sewell'in bu dünyadan ayrılma isteği duyduğunu öne sürdü. Bu sırada, Character.AI'den yapılan bir açıklamada, bir kullanıcılarının trajik kaybından dolayı derin bir üzüntü duydukları ve aileye en içten taziyelerini iletmek istedikleri belirtildi.
Öte yandan, Reuters'a konuşan bir Google sözcüsü, şirketin Character.AI'nin ürünlerinin geliştirilmesinde yer almadığını belirtti. Peki, annenin açtığı dava neyi iddia ediyor?
- Sewell, Character.AI’yi Nisan 2023’te kullanmaya başladı ve hızla “gözle görülür şekilde içine kapanık” hale geldi.
- Odasında yalnız başına daha fazla vakit geçirmeye başladı ve düşük özgüven yaşamaya başladı.
- Okuldaki basketbol takımından ayrıldı.
- Şubat ayında, Garcia, okulda sorun yaşaması üzerine Sewell'in telefonunu elinden aldı.
