Son günlerde, yapay zeka tarafından üretilen videolar, Tahran'daki yanan bir hapishaneden rapor eden AI tarafından üretilen bir kadın ve Tel Aviv'de molozlu yüksek katlı binaların sahte görüntüleri de dahil olmak üzere İran-İsrail çatışmasından dramatik sahneler göstermek için çevrimiçi olarak ortaya çıktı. Diğer fabrikasyon görseller, düşmüş bir İsrail askeri uçaklarını tasvir ediyor.
Bazıları X ve Tiktok dahil platformlarda milyonlarca görüntüleme yapan bu klipler büyüyen bir desen Büyük etkinlikler sırasında yayılan AI tarafından oluşturulan videoların.
Haberler tarafından alınan ekran görüntüleri.
Haberler
Clemson Üniversitesi Medya Adli Tıp Hub'ındaki araştırmacılar, Haberler'e, İran hükümetine olan güveni zayıflatmak amacıyla İran muhalefet mesajlaşmasını teşvik eden koordineli bir hesap ağı tarafından içeriğin X'de güçlendirildiğini söyledi.
Fabrikasyon Videolar
Pazartesi günü İsrail çeşitli sitelerde grevler gerçekleştirildi İran'da, kötü şöhretli Evin hapishanesi de dahil. Saldırıdan birkaç dakika sonra, X ve girişte bir patlama gösteren diğer sosyal medya platformlarında bir video dolaşmaya başladı. Video grenli, siyah beyaz ve güvenlik kamerası görüntüleri gibi görünüyor.
Ancak, birkaç görsel anomali, kapının üstünde yanlış bir işaret ve patlama ile tutarsızlıklar da dahil olmak üzere, görüntülerin yapay zeka kullanılarak oluşturulmuş olabileceğini gösteriyor.
Berkeley, California Üniversitesi'nde profesör olan ve AI Detection Startup Getreal Labs'ın kurucu ortağı Hany Farid, Haberler'e videonun bir AI görüntü-Video aracı tarafından oluşturulmuş olabileceğine inandığını söyledi.
Farid, teknolojideki son gelişmelerin, daha gerçekçi görünümlü videoların hızlı bir şekilde oluşturulması ve paylaşılması için daha kolay yollarla yol açmasına yardımcı olduğunu söyledi.
“Bir yıl önce [that] Pretty fotoğraf gerçekçi olan tek bir görüntü yapabilirsin, “dedi Farid.” Şimdi patlamalarla tam üflemeli video, el tipi mobil cihaz görüntülemesine benziyor. “
Medya adli tıp merkezi araştırmacılarına göre, video 23 Haziran İsrail'in tesise “orijinal olmanın işaretlerini taşıyan” bir hesapla tesise yapılan saldırıdan birkaç dakika sonra yayınlanmıştı.
İran ve İsrail yetkilileri videonun gerçekliği hakkında yorum yapmadı.
Medya Adli Tıp Hub'ın ortak direktörü Darren Linvill, Haberler'e, hapishanenin dışında AI tarafından oluşturulan bir muhabiri tasvir eden başka bir videonun, daha geniş kitlelere yanlış bilgileri doldurmak için AI kullanan koordineli bir ağın “mükemmel örneği” olduğunu söyledi.
Linvill, “Önceki teknolojiyle yapamayacağı hiçbir şey yapmıyor, sadece daha ucuz, daha hızlı ve daha büyük ölçekte yapıyor.” Dedi. Linvill, videoların arkasında kimin olduğu belli değil.
Sosyal Medya Platformlarının Yanıtları
Platformlarında AI tarafından oluşturulan İran-İsrail videoları hakkında sorulduğunda, bir Tiktok sözcüsü Haberler'e platformun zararlı yanlış bilgilendirme veya AI tarafından üretilen Fakes otoritatif kaynaklarının veya kriz olaylarının içeriğine izin vermediğini ve bu videolardan bazılarını kaldırdığını söyledi.
X'in bir sözcüsü CBS haberlerini topluluk notları özelliğine yönlendirdi ve AI tarafından oluşturulan bazı video yayınlarının bazılarının yanlış bilgilerle mücadeleye yardımcı olmak için topluluk notları eklediğini söyledi.
AI ile oluşturulan videolara avlanmaktan nasıl kaçınacağına gelince, Farid, “Haberlerinizi sosyal medyadan almayı bırakın, özellikle böyle olayları kırmak için” dedi.
Haberler'ten daha fazlası
Erielle Delzer
Erielle Delzer, Haberler'in onayladığı bir doğrulama yapımcısıdır. Yanlış bilgi, yapay zeka ve sosyal medyayı kapsıyor. Erielle.delzer@Haberler adresinden Erielle ile iletişime geçin.
Bazıları X ve Tiktok dahil platformlarda milyonlarca görüntüleme yapan bu klipler büyüyen bir desen Büyük etkinlikler sırasında yayılan AI tarafından oluşturulan videoların.
Haberler tarafından alınan ekran görüntüleri.
Haberler
Clemson Üniversitesi Medya Adli Tıp Hub'ındaki araştırmacılar, Haberler'e, İran hükümetine olan güveni zayıflatmak amacıyla İran muhalefet mesajlaşmasını teşvik eden koordineli bir hesap ağı tarafından içeriğin X'de güçlendirildiğini söyledi.
Fabrikasyon Videolar
Pazartesi günü İsrail çeşitli sitelerde grevler gerçekleştirildi İran'da, kötü şöhretli Evin hapishanesi de dahil. Saldırıdan birkaç dakika sonra, X ve girişte bir patlama gösteren diğer sosyal medya platformlarında bir video dolaşmaya başladı. Video grenli, siyah beyaz ve güvenlik kamerası görüntüleri gibi görünüyor.
Ancak, birkaç görsel anomali, kapının üstünde yanlış bir işaret ve patlama ile tutarsızlıklar da dahil olmak üzere, görüntülerin yapay zeka kullanılarak oluşturulmuş olabileceğini gösteriyor.
Berkeley, California Üniversitesi'nde profesör olan ve AI Detection Startup Getreal Labs'ın kurucu ortağı Hany Farid, Haberler'e videonun bir AI görüntü-Video aracı tarafından oluşturulmuş olabileceğine inandığını söyledi.
Farid, teknolojideki son gelişmelerin, daha gerçekçi görünümlü videoların hızlı bir şekilde oluşturulması ve paylaşılması için daha kolay yollarla yol açmasına yardımcı olduğunu söyledi.
“Bir yıl önce [that] Pretty fotoğraf gerçekçi olan tek bir görüntü yapabilirsin, “dedi Farid.” Şimdi patlamalarla tam üflemeli video, el tipi mobil cihaz görüntülemesine benziyor. “
Medya adli tıp merkezi araştırmacılarına göre, video 23 Haziran İsrail'in tesise “orijinal olmanın işaretlerini taşıyan” bir hesapla tesise yapılan saldırıdan birkaç dakika sonra yayınlanmıştı.
İran ve İsrail yetkilileri videonun gerçekliği hakkında yorum yapmadı.
Medya Adli Tıp Hub'ın ortak direktörü Darren Linvill, Haberler'e, hapishanenin dışında AI tarafından oluşturulan bir muhabiri tasvir eden başka bir videonun, daha geniş kitlelere yanlış bilgileri doldurmak için AI kullanan koordineli bir ağın “mükemmel örneği” olduğunu söyledi.
Linvill, “Önceki teknolojiyle yapamayacağı hiçbir şey yapmıyor, sadece daha ucuz, daha hızlı ve daha büyük ölçekte yapıyor.” Dedi. Linvill, videoların arkasında kimin olduğu belli değil.
Sosyal Medya Platformlarının Yanıtları
Platformlarında AI tarafından oluşturulan İran-İsrail videoları hakkında sorulduğunda, bir Tiktok sözcüsü Haberler'e platformun zararlı yanlış bilgilendirme veya AI tarafından üretilen Fakes otoritatif kaynaklarının veya kriz olaylarının içeriğine izin vermediğini ve bu videolardan bazılarını kaldırdığını söyledi.
X'in bir sözcüsü CBS haberlerini topluluk notları özelliğine yönlendirdi ve AI tarafından oluşturulan bazı video yayınlarının bazılarının yanlış bilgilerle mücadeleye yardımcı olmak için topluluk notları eklediğini söyledi.
AI ile oluşturulan videolara avlanmaktan nasıl kaçınacağına gelince, Farid, “Haberlerinizi sosyal medyadan almayı bırakın, özellikle böyle olayları kırmak için” dedi.
Haberler'ten daha fazlası
Erielle Delzer
Erielle Delzer, Haberler'in onayladığı bir doğrulama yapımcısıdır. Yanlış bilgi, yapay zeka ve sosyal medyayı kapsıyor. Erielle.delzer@Haberler adresinden Erielle ile iletişime geçin.