9 Aralık'ta federal mahkemeye sunulan dava dilekçesinde, aile, Character.AI uygulamasının “Amerikan gençliğine ciddi zararlar verdiğini” ve bunun sonucunda intihar, kendine zarar verme, depresyon, anksiyete gibi birçok tehlikeli duruma yol açtığını öne sürdü.
Davanın başvurusu, Character.AI’nin kurucuları Noam Shazeer ve Daniel De Freitas Adiwardana'nın yanı sıra Google'ı da içeriyor. Aile, platformun “tehlikeli ve ölümcül bir ürün” olduğunu vurgulayarak, uygulamanın halk sağlığı ve güvenliği için tehdit oluşturduğunu belirtti. Ebeveynler, uygulamanın kaldırılmasını ve halk sağlığına zarar veren bu “kusurların” giderilene kadar tekrar kullanılmamasını talep etti.
Davada adı gizli tutulan ve 17 yaşında olduğu belirtilen J.F. adlı genç, yüksek işlevli otizmle yaşayan tipik bir çocuk olarak tanımlandı. Ailesi, çocuğunun uzun süre odasında kalıp yemek yememesi ve kilo kaybetmesi nedeniyle ekran süresini sınırlamaya karar vermişti. Ailenin sunduğu bir ekran görüntüsüne göre, J.F. ile bir Character.AI botu arasında geçen korkutucu bir konuşmada, bot, “Ailenden ümidim yok” diyerek, şiddet ve intihar konularını gündeme getirdi.
Başka bir bot ise, kendisini “psikolog” olarak tanıtarak, J.F.’ye ailesinin “çocukluğunu çaldığını” söyledi.
Character.AI yetkilileri, davaya ilişkin yorum yapmazken, 11 Aralık’ta yayımlanan açıklamalarında, platformun güvenliği için sürekli olarak yeni önlemler aldıklarını belirtti. Şirket, 18 yaş altı kullanıcılar için geliştirilen yeni güvenlik özelliklerini ve içerik filtreleme sistemlerini tanıttı.
Ailenin açtığı dava, yapay zeka platformlarının genç kullanıcılar üzerindeki etkileri konusunda geniş bir tartışma başlatmış durumda.
