Chatbot'larıyla ilgili iki davaya konu olan yapay zeka şirketi Character.AI reşit olmayan kullanıcılarla uygunsuz şekilde etkileşimde bulunulmasıGençlerin artık platformu kullanırken yetişkinlerden farklı bir deneyim yaşayacaklarını söyledi.
Character.AI kullanıcıları orijinal sohbet robotları oluşturabilir veya mevcut botlarla etkileşime girebilir. Büyük dil modelleri (LLM'ler) tarafından desteklenen botlar, gerçekçi mesajlar gönder ve kullanıcılarla yazılı görüşmelere katılın.
Ekim ayında açılan bir dava, 14 yaşındaki çocuğun intihar ederek öldüğünü iddia etti “Dany” adlı Character.AI sohbet robotuyla aylarca süren sanal bir duygusal ve cinsel ilişkiye girdikten sonra. Megan Garcia, “CBS Mornings”e, oğlu Sewell Setzer, III'ün onur öğrencisi ve atlet olduğunu, ancak internette daha fazla zaman geçirip birden fazla robotla konuşarak ve özellikle “Dany”ye odaklanarak sosyal olarak geri çekilmeye başladığını ve spor yapmayı bıraktığını söyledi. ”
Garcia, “Burada hayatına son vererek sanal bir gerçekliğe veya kendi deyimiyle 'onun dünyasına', yani kendi gerçekliğini burada ailesiyle birlikte bırakırsa onun gerçekliğine gidebileceğini düşündü.” dedi.
Teksaslı iki aile tarafından bu ay açılan ikinci davada, Character.AI sohbet robotlarının gençler için “açık ve mevcut bir tehlike” olduğu ve “aktif olarak şiddeti teşvik ettiği” belirtildi. Davaya göre, bir chatbot 17 yaşındaki bir çocuğa, ebeveynlerini öldürmenin ekran başında kalma süresi sınırlamalarına “makul bir tepki” olduğunu söyledi. CBS Haber ortağı BBC News'in Çarşamba günkü haberine göre davacılar, iddia edilen tehlikeler giderilinceye kadar bir hakimden platformun kapatılması emrini vermesini istediklerini söylediler.
Perşembe günü, Character.AI “özellikle gençler düşünülerek tasarlanan” yeni güvenlik özelliklerini duyurdu ve özellikleri tasarlamak ve güncellemek için genç çevrimiçi güvenlik uzmanlarıyla işbirliği yaptığını söyledi. Hesap oluşturmak için kullanıcıların 13 yaşında veya daha büyük olması gerekir. Character.AI sözcüsü, Haberler'e, kullanıcıların yaşlarını kendileri bildirdiklerini ancak sitenin, birisinin yaş sınırını geçememesi durumunda yeniden denemeyi önleyen araçlara sahip olduğunu söyledi.
Site Perşembe günü yayınlanan bir haber bülteninde, güvenlik özelliklerinin sitenin LLM'sinde yapılan değişiklikleri ve tespit ve müdahale sistemlerinde iyileştirmeleri içerdiğini söyledi. Character.AI, genç kullanıcıların artık ayrı bir LLM ile etkileşime gireceğini ve sitenin “modeli belirli yanıtlardan veya etkileşimlerden uzaklaştırarak kullanıcıların hassas veya müstehcen içerikle karşılaşma veya modelin geri dönmesini teşvik etme olasılığını azaltmayı” umduğunu söyledi. . Character.AI'nin sözcüsü bu modeli “daha muhafazakar” olarak nitelendirdi. Yetişkin kullanıcılar ayrı bir LLM kullanacaklardır.
“Bu değişiklik paketi, özellikle romantik içerik söz konusu olduğunda modelden gelen yanıtlara daha muhafazakar sınırlar koyan belirli güvenlik özellikleriyle, gençler için yetişkinlere sunulandan farklı bir deneyime yol açıyor” dedi.
Character.AI, çoğu zaman bir chatbot'tan gelen olumsuz yanıtların, kullanıcıların “bu tür bir yanıt elde etmeye çalışmasını” teşvik etmesinden kaynaklandığını söyledi. Bu olumsuz yanıtları sınırlamak için site, kullanıcı giriş araçlarını ayarlıyor ve sitenin hizmet şartlarını ve topluluk kurallarını ihlal eden içerik gönderen kullanıcıların konuşmalarını sonlandıracak. Site, “intihara veya kendine zarar vermeye gönderme yapan bir dil” tespit ederse, kullanıcıları bir açılır pencerede Ulusal İntiharı Önleme Yardım Hattına yönlendiren bilgileri paylaşacaktır. Character.AI, botların olumsuz içeriğe tepki verme şeklinin genç kullanıcılar için de değişeceğini söyledi.
Diğer yeni özellikler arasında 2025 yılının ilk çeyreğinde piyasaya sürülmesi planlanan ebeveyn kontrolleri yer alıyor. Character.AI, sitenin ilk kez ebeveyn kontrollerine sahip olacağını ve “ebeveynlere daha fazla bilgi sağlamak için bu kontrolleri geliştirmeye devam etmeyi planladığını” söyledi. ek araçlar.”
Kullanıcılar ayrıca platformda bir saatlik oturumun ardından bir bildirim alacaklar. Character.AI, yetişkin kullanıcıların “harcanan zaman” bildirimlerini özelleştirebileceklerini ancak 18 yaşın altındaki kullanıcıların bunlar üzerinde daha az kontrole sahip olacağını söyledi. Site ayrıca, kullanıcılara chatbot karakterlerinin gerçek olmadığını hatırlatan “belirgin sorumluluk reddi beyanları” da gösterecek. Character.AI, her sohbette sorumluluk reddi beyanlarının zaten mevcut olduğunu söyledi.
Haberler'den daha fazlası
Kerry Breen
Kerry Breen, CBSNews.com'da haber editörüdür. New York Üniversitesi Arthur L. Carter Gazetecilik Okulu mezunu, daha önce NBC News'in TODAY Digital'inde çalışıyordu. Güncel olayları, son dakika haberlerini ve madde kullanımı dahil konuları ele alıyor.
Character.AI kullanıcıları orijinal sohbet robotları oluşturabilir veya mevcut botlarla etkileşime girebilir. Büyük dil modelleri (LLM'ler) tarafından desteklenen botlar, gerçekçi mesajlar gönder ve kullanıcılarla yazılı görüşmelere katılın.
Ekim ayında açılan bir dava, 14 yaşındaki çocuğun intihar ederek öldüğünü iddia etti “Dany” adlı Character.AI sohbet robotuyla aylarca süren sanal bir duygusal ve cinsel ilişkiye girdikten sonra. Megan Garcia, “CBS Mornings”e, oğlu Sewell Setzer, III'ün onur öğrencisi ve atlet olduğunu, ancak internette daha fazla zaman geçirip birden fazla robotla konuşarak ve özellikle “Dany”ye odaklanarak sosyal olarak geri çekilmeye başladığını ve spor yapmayı bıraktığını söyledi. ”
Garcia, “Burada hayatına son vererek sanal bir gerçekliğe veya kendi deyimiyle 'onun dünyasına', yani kendi gerçekliğini burada ailesiyle birlikte bırakırsa onun gerçekliğine gidebileceğini düşündü.” dedi.
Teksaslı iki aile tarafından bu ay açılan ikinci davada, Character.AI sohbet robotlarının gençler için “açık ve mevcut bir tehlike” olduğu ve “aktif olarak şiddeti teşvik ettiği” belirtildi. Davaya göre, bir chatbot 17 yaşındaki bir çocuğa, ebeveynlerini öldürmenin ekran başında kalma süresi sınırlamalarına “makul bir tepki” olduğunu söyledi. CBS Haber ortağı BBC News'in Çarşamba günkü haberine göre davacılar, iddia edilen tehlikeler giderilinceye kadar bir hakimden platformun kapatılması emrini vermesini istediklerini söylediler.
Perşembe günü, Character.AI “özellikle gençler düşünülerek tasarlanan” yeni güvenlik özelliklerini duyurdu ve özellikleri tasarlamak ve güncellemek için genç çevrimiçi güvenlik uzmanlarıyla işbirliği yaptığını söyledi. Hesap oluşturmak için kullanıcıların 13 yaşında veya daha büyük olması gerekir. Character.AI sözcüsü, Haberler'e, kullanıcıların yaşlarını kendileri bildirdiklerini ancak sitenin, birisinin yaş sınırını geçememesi durumunda yeniden denemeyi önleyen araçlara sahip olduğunu söyledi.
Site Perşembe günü yayınlanan bir haber bülteninde, güvenlik özelliklerinin sitenin LLM'sinde yapılan değişiklikleri ve tespit ve müdahale sistemlerinde iyileştirmeleri içerdiğini söyledi. Character.AI, genç kullanıcıların artık ayrı bir LLM ile etkileşime gireceğini ve sitenin “modeli belirli yanıtlardan veya etkileşimlerden uzaklaştırarak kullanıcıların hassas veya müstehcen içerikle karşılaşma veya modelin geri dönmesini teşvik etme olasılığını azaltmayı” umduğunu söyledi. . Character.AI'nin sözcüsü bu modeli “daha muhafazakar” olarak nitelendirdi. Yetişkin kullanıcılar ayrı bir LLM kullanacaklardır.
“Bu değişiklik paketi, özellikle romantik içerik söz konusu olduğunda modelden gelen yanıtlara daha muhafazakar sınırlar koyan belirli güvenlik özellikleriyle, gençler için yetişkinlere sunulandan farklı bir deneyime yol açıyor” dedi.
Character.AI, çoğu zaman bir chatbot'tan gelen olumsuz yanıtların, kullanıcıların “bu tür bir yanıt elde etmeye çalışmasını” teşvik etmesinden kaynaklandığını söyledi. Bu olumsuz yanıtları sınırlamak için site, kullanıcı giriş araçlarını ayarlıyor ve sitenin hizmet şartlarını ve topluluk kurallarını ihlal eden içerik gönderen kullanıcıların konuşmalarını sonlandıracak. Site, “intihara veya kendine zarar vermeye gönderme yapan bir dil” tespit ederse, kullanıcıları bir açılır pencerede Ulusal İntiharı Önleme Yardım Hattına yönlendiren bilgileri paylaşacaktır. Character.AI, botların olumsuz içeriğe tepki verme şeklinin genç kullanıcılar için de değişeceğini söyledi.
Diğer yeni özellikler arasında 2025 yılının ilk çeyreğinde piyasaya sürülmesi planlanan ebeveyn kontrolleri yer alıyor. Character.AI, sitenin ilk kez ebeveyn kontrollerine sahip olacağını ve “ebeveynlere daha fazla bilgi sağlamak için bu kontrolleri geliştirmeye devam etmeyi planladığını” söyledi. ek araçlar.”
Kullanıcılar ayrıca platformda bir saatlik oturumun ardından bir bildirim alacaklar. Character.AI, yetişkin kullanıcıların “harcanan zaman” bildirimlerini özelleştirebileceklerini ancak 18 yaşın altındaki kullanıcıların bunlar üzerinde daha az kontrole sahip olacağını söyledi. Site ayrıca, kullanıcılara chatbot karakterlerinin gerçek olmadığını hatırlatan “belirgin sorumluluk reddi beyanları” da gösterecek. Character.AI, her sohbette sorumluluk reddi beyanlarının zaten mevcut olduğunu söyledi.
Haberler'den daha fazlası
Kerry Breen
Kerry Breen, CBSNews.com'da haber editörüdür. New York Üniversitesi Arthur L. Carter Gazetecilik Okulu mezunu, daha önce NBC News'in TODAY Digital'inde çalışıyordu. Güncel olayları, son dakika haberlerini ve madde kullanımı dahil konuları ele alıyor.