Anna McAdams, 15 yaşındaki kızı Elliston Berry'nin internetteki hayatını her zaman yakından takip etti. Bu nedenle, 15 ay önce Pazartesi sabahı Aledo, Teksas'ta Eve Dönüş'ün ardından yaşananları kabullenmek zordu.
Bir sınıf arkadaşı, Elliston'ın Instagram hesabından bir fotoğraf çekti, onu elbisesini çıkaran bir yapay zeka programından geçirdi ve ardından dijital olarak değiştirilmiş fotoğrafı Snapchat'e gönderdi.
McAdams, “'Anne, az önce olanlara inanamayacaksın' diyerek ağlayarak yatak odamıza geldi” dedi.
Geçen yıl 21.000'den fazla kişi vardı. derin sahte pornografik videolar çevrimiçi – önceki yıla göre %460'tan fazla artış. Manipüle edilmiş içerik çoğalan İnternette web siteleri rahatsız edici konuşmalar yaparken – “Soyunacak biri var mı?” diye soran bir hizmet gibi.
Elliston, “PSAT testlerim vardı ve voleybol maçlarım vardı” dedi. “Ve odaklanmam ve endişelenmem gereken son şey sahte çıplak fotoğraflarımın okulda dolaşması. Bu görüntüler dokuz ay boyunca Snapchat'te dolaşıyordu.”
San Francisco'da Başsavcı Yardımcısı Yvonne Mere, Elliston'ınkine benzer hikayeler duymaya başlamıştı ve bu da çok etkiledi.
Mere, “Kolaylıkla benim kızım da olabilirdi” dedi.
San Francisco Şehir Savcılığı'nın ofisi artık dava açmak yetişkinlerin ve çocukların müstehcen olmayan fotoğraflarını pornografiye dönüştürmek için yapay zekanın kullanıldığı “derin sahte çıplaklar” oluşturan 16 web sitesinin sahibi.
Mere, “Bu dava teknolojiyle ilgili değil. Yapay zekayla ilgili değil. Bu cinsel istismar” dedi.
Davaya göre bu 16 site yılın yalnızca ilk altı ayında 200 milyon ziyaret aldı.
Şehir Savcısı David Chiu, davadaki 16 sitenin sadece başlangıç olduğunu söyledi.
Chiu, “Bu web sitelerinden en az 90 tanesinin farkındayız. Yani bu çok büyük bir evren ve durdurulması gerekiyor” dedi.
Cumhuriyetçi Teksas Senatörü Ted Cruz, Demokrat Minnesota Senatörü Amy Klochubar ile birlikte başka bir saldırı açısının sponsorluğunu üstleniyor. Aşağı Al Yasası sosyal medya şirketlerinin ve web sitelerinin yapay zeka ile oluşturulan rıza dışı, pornografik görselleri kaldırmasını gerektirecektir.
Cruz, “Bu, herhangi bir teknoloji platformuna yasal bir yükümlülük getiriyor; onu hemen kaldırmanız gerekiyor” dedi.
Tasarı bu ay Senato'dan geçti ve şimdi daha büyük bir yasaya bağlı hükümet finansman kanunu Meclis oylamasını bekliyorum.
Snap'in bir sözcüsü yaptığı açıklamada Haberler'e şunları söyledi: “Topluluğumuzun güvenliğini ve refahını derinden önemsiyoruz. Reşit olmayanlar da dahil olmak üzere, ister gerçek ister yapay zeka tarafından oluşturulmuş çıplak görüntüleri paylaşmak, Topluluk Kurallarımızın açık bir ihlalidir. Bu tür içerikleri bildirmek için etkili mekanizmalarımız var, bu yüzden endişelerinin dikkate alınmadığını hisseden ailelerin hikayelerini duymak bizi bu kadar üzüyor ve bu tür içeriklere karşı sıfır tolerans politikamız var ve son şeffaflığımızda da belirtildiği gibi. rapor ediyoruz, harekete geçiyoruz rapor edildikten sonra hızla çözüme kavuşturulacaktır.”
Elliston artık bugüne odaklandığını ve Kongre'yi tasarıyı geçirmeye çağırdığını söyledi.
Elliston, “Geriye dönüp onun yaptığını tekrar yapamam ama bunun yerine bunun diğer insanların başına gelmesini engelleyebilirim” dedi.
Daha
Jim Akselrod
Jim Axelrod, “Norah O'Donnell ile CBS Akşam Haberleri”nin bir parçası olan Haberler'in “Eye on America” serisinin baş muhabiri ve yönetici editörüdür. Ayrıca “CBS Sabahları”, “Haberler Pazar Sabahı” ve Haberler 7/24 için haber yapıyor.
Bir sınıf arkadaşı, Elliston'ın Instagram hesabından bir fotoğraf çekti, onu elbisesini çıkaran bir yapay zeka programından geçirdi ve ardından dijital olarak değiştirilmiş fotoğrafı Snapchat'e gönderdi.
McAdams, “'Anne, az önce olanlara inanamayacaksın' diyerek ağlayarak yatak odamıza geldi” dedi.
Geçen yıl 21.000'den fazla kişi vardı. derin sahte pornografik videolar çevrimiçi – önceki yıla göre %460'tan fazla artış. Manipüle edilmiş içerik çoğalan İnternette web siteleri rahatsız edici konuşmalar yaparken – “Soyunacak biri var mı?” diye soran bir hizmet gibi.
Elliston, “PSAT testlerim vardı ve voleybol maçlarım vardı” dedi. “Ve odaklanmam ve endişelenmem gereken son şey sahte çıplak fotoğraflarımın okulda dolaşması. Bu görüntüler dokuz ay boyunca Snapchat'te dolaşıyordu.”
San Francisco'da Başsavcı Yardımcısı Yvonne Mere, Elliston'ınkine benzer hikayeler duymaya başlamıştı ve bu da çok etkiledi.
Mere, “Kolaylıkla benim kızım da olabilirdi” dedi.
San Francisco Şehir Savcılığı'nın ofisi artık dava açmak yetişkinlerin ve çocukların müstehcen olmayan fotoğraflarını pornografiye dönüştürmek için yapay zekanın kullanıldığı “derin sahte çıplaklar” oluşturan 16 web sitesinin sahibi.
Mere, “Bu dava teknolojiyle ilgili değil. Yapay zekayla ilgili değil. Bu cinsel istismar” dedi.
Davaya göre bu 16 site yılın yalnızca ilk altı ayında 200 milyon ziyaret aldı.
Şehir Savcısı David Chiu, davadaki 16 sitenin sadece başlangıç olduğunu söyledi.
Chiu, “Bu web sitelerinden en az 90 tanesinin farkındayız. Yani bu çok büyük bir evren ve durdurulması gerekiyor” dedi.
Cumhuriyetçi Teksas Senatörü Ted Cruz, Demokrat Minnesota Senatörü Amy Klochubar ile birlikte başka bir saldırı açısının sponsorluğunu üstleniyor. Aşağı Al Yasası sosyal medya şirketlerinin ve web sitelerinin yapay zeka ile oluşturulan rıza dışı, pornografik görselleri kaldırmasını gerektirecektir.
Cruz, “Bu, herhangi bir teknoloji platformuna yasal bir yükümlülük getiriyor; onu hemen kaldırmanız gerekiyor” dedi.
Tasarı bu ay Senato'dan geçti ve şimdi daha büyük bir yasaya bağlı hükümet finansman kanunu Meclis oylamasını bekliyorum.
Snap'in bir sözcüsü yaptığı açıklamada Haberler'e şunları söyledi: “Topluluğumuzun güvenliğini ve refahını derinden önemsiyoruz. Reşit olmayanlar da dahil olmak üzere, ister gerçek ister yapay zeka tarafından oluşturulmuş çıplak görüntüleri paylaşmak, Topluluk Kurallarımızın açık bir ihlalidir. Bu tür içerikleri bildirmek için etkili mekanizmalarımız var, bu yüzden endişelerinin dikkate alınmadığını hisseden ailelerin hikayelerini duymak bizi bu kadar üzüyor ve bu tür içeriklere karşı sıfır tolerans politikamız var ve son şeffaflığımızda da belirtildiği gibi. rapor ediyoruz, harekete geçiyoruz rapor edildikten sonra hızla çözüme kavuşturulacaktır.”
Elliston artık bugüne odaklandığını ve Kongre'yi tasarıyı geçirmeye çağırdığını söyledi.
Elliston, “Geriye dönüp onun yaptığını tekrar yapamam ama bunun yerine bunun diğer insanların başına gelmesini engelleyebilirim” dedi.
Daha
Jim Akselrod
Jim Axelrod, “Norah O'Donnell ile CBS Akşam Haberleri”nin bir parçası olan Haberler'in “Eye on America” serisinin baş muhabiri ve yönetici editörüdür. Ayrıca “CBS Sabahları”, “Haberler Pazar Sabahı” ve Haberler 7/24 için haber yapıyor.