Elon Musk'un deepfake'leri ABD'de milyarlarca dolarlık dolandırıcılık kaybına neden oluyor

Farrah

New member
Elon Musk'un deepfake'leri ABD'de milyarlarca dolarlık dolandırıcılık kaybına neden oldu









Elon Musk'un deepfake'leri ABD'de milyarlarca dolarlık dolandırıcılık kaybına neden oldu

05:31


Reklamı ilk kez Facebook'ta gördü. Ve sonra tekrar TikTok'ta. Elon Musk gibi görünen şeyi gördükten sonra Tekrar tekrar bir yatırım fırsatı sunan Heidi Swan, bunun doğru olması gerektiğini düşündü.

Swan, “Tıpkı Elon Musk'a benziyordu, tıpkı Elon Musk'a benziyordu ve ben de o olduğunu düşündüm” dedi.

Sahanın arkasındaki şirketle temasa geçti ve 10.000 dolardan fazla bir hesap açtı. 62 yaşındaki sağlık çalışanı, bir işadamı ve yatırımcıdan milyarlarca dolar değerinde kripto para birimine akıllı bir yatırım yaptığını düşünüyordu.


Ancak Swan çok geçmeden, yapay zekayı kullanarak yeni bir yüksek teknoloji hırsızları dalgası tarafından dolandırıldığını öğrenecekti. derin sahtekarlıklar.

Artık videolara dönüp baktığında bile sahte olduklarını bilen Swan, bunların hâlâ ikna edici göründüğünü düşünüyor.

“Hala Elon Musk'a benziyorlar” dedi. “Hala Elon Musk gibi konuşuyorlar.”

Heidi Kuğu


CBS Haber Teksas


ABD'de Deepfake dolandırıcılığı artıyor


Yapay zeka teknolojisi gelişip daha erişilebilir hale geldikçe bu tür dolandırıcılıklar daha yaygın hale geliyor.

Önde gelen bir finansal araştırma grubu olan Deloitte'a göre, yapay zeka tarafından oluşturulan içerik geçen yıl dolandırıcılık kayıplarına 12 milyar dolardan fazla katkıda bulundu ve 2027 yılına kadar ABD'de 40 milyar dolara ulaşması bekleniyor.

Hem Federal Ticaret Komisyonu hem de Better Business Bureau, deepfake dolandırıcılıklarının yükselişte olduğuna dair uyarılarda bulundu.

AI firması Sensity tarafından yapılan bir araştırma, Elon Musk'un deepfake dolandırıcılıklarında en yaygın kullanılan ünlü olduğunu ortaya çıkardı. Olası sebeplerden biri zenginliği ve girişimciliğidir. Diğer bir neden ise yaptığı röportajların miktarıdır; Birinin çevrimiçi içeriği ne kadar fazlaysa, ikna edici deepfake'ler oluşturmak o kadar kolay olur.

Bir deepfake'in anatomisi


Denton'daki Kuzey Teksas Üniversitesi'nden Profesör Christopher Meerdo da yapay zekayı kullanıyor. Ama bunu sanat yaratmak için kullanıyor.

Meerdo, “Yaratıcı sanatların yerini almayacak” dedi. “Bu sadece onları geliştirecek ve yaratıcılık alanında yapabileceğimiz şeyleri anlama şeklimizi değiştirecek.”

Meerdo, yapay zekayı yenilikçi olmanın bir yolu olarak görse de onun tehlikelerini de görüyor.

Meerdo, Haberler Texas I-Team'e dolandırıcıların nasıl gerçek bir video çekebileceğini ve bir kişinin sesini ve ağız hareketlerini değiştirmek için yapay zeka araçlarını kullanarak tamamen farklı bir şey söylüyormuş gibi görünmelerini sağlayabileceğini gösterdi.




Elon Musk'un örnek deepfake videosu

00:19


Teknolojideki ilerlemeler deepfake videolar oluşturmayı kolaylaştırıyor. Yapay zekaya aşina olan bir kişinin tek yapması gereken, tek bir fotoğraf ve bir video kaydıdır.

Bunu göstermek için Meerdo, Elon Musk'un derin sahtesini oluşturmak için araştırmacı muhabir Brian New'in videosunu çekti.




Haberler Texas I-Team deepfake teknolojisini gösteriyor

00:27


Yapay zeka tarafından oluşturulan bu videolar pek mükemmel değil ancak hiçbir şeyden haberi olmayan bir kurbanı kandırmaya yetecek kadar ikna edici olmaları gerekiyor.

Meerdo, “Eğer gerçekten insanları dolandırmaya çalışıyorsanız, bununla çok kötü şeyler yapabileceğinizi düşünüyorum” dedi.

Bir deepfake'i nasıl tespit edebilirsiniz?


Bazı deepfake'lerin fark edilmesi diğerlerinden daha kolaydır; doğal olmayan dudak hareketleri veya tuhaf vücut dili gibi belirtiler olabilir. Ancak teknoloji geliştikçe sadece bakarak bunu anlamak zorlaşacak.

Deepfake'leri tespit edebildiklerini iddia eden giderek artan sayıda web sitesi var. Haberler Texas I-Team, bilinen üç deepfake videosunu ve üç orijinal videoyu kullanarak bu web sitelerinden beşini bilimsel olmayan bir teste tabi tuttu: Deepware, Attestiv, DeepFake-O-Meter, Sensity ve Deepfake Detector.

Toplamda bu beş çevrimiçi araç, test edilen videoları neredeyse %75 oranında doğru bir şekilde tanımladı. I-Team sonuçlarla şirketlere ulaştı; yanıtları aşağıdadır.




Yapay zeka tarafından oluşturulan bir videoyu nasıl fark edebilirsiniz? 5 aleti teste tabi tutuyoruz

03:52


Derin yazılım

Kullanımı ücretsiz bir web sitesi olan Deepware, başlangıçta I-Team'in test ettiği sahte videolardan ikisini işaretlemede başarısız oldu. Şirket, bir e-postada, kullanılan kliplerin çok kısa olduğunu ve en iyi sonuçlar için yüklenen videoların 30 saniye ile bir dakika arasında olması gerektiğini söyledi. Deepware, daha uzun olan tüm videoları doğru bir şekilde tanımladı. Şirkete göre tespit oranı %70 ile sektör için iyi kabul ediliyor.

Deepware'in web sitesinin sık sorulan sorular bölümünde şu ifadeler yer alıyor: “Deepfake'ler henüz çözülmüş bir sorun değil. Sonuçlarımız belirli bir videonun deepfake olup olmama ihtimalini gösteriyor.”

Deepfake Dedektörü

Aylık 16,80 dolar ücret alan bir araç olan Deepfake Detector, sahte videolardan birinin “%97 doğal ses” olduğunu tespit etti. Yapay zeka tarafından üretilen sesleri tespit etme konusunda uzmanlaşmış şirket, bir e-postada arka plan gürültüsü veya müzik gibi faktörlerin sonuçları etkileyebileceğini ancak yaklaşık %92'lik bir doğruluk oranına sahip olduğunu söyledi.

Ortalama tüketicilere yönelik rehberlikle ilgili bir soruya yanıt olarak şirket şunu yazdı: “Aracımız kullanıcı dostu olacak şekilde tasarlandı. Ortalama tüketiciler, içeriği doğrudan analiz etmek için web sitemize kolayca bir ses dosyası yükleyebilir veya tarayıcı uzantımızı kullanabilir. Araç, olasılıkları kullanarak bir videonun derin sahte öğeler içerip içermediğinin belirlenmesine yardımcı olacak bir analiz sunarak yapay zeka teknolojisine aşina olmayanlar için bile videonun erişilebilir olmasını sağlıyor.”

Onaylı

Attestiv gerçek videolardan ikisini “şüpheli” olarak işaretledi. Şirketin CEO'su Nicos Vekiarides'e göre yanlış pozitifler grafikler ve düzenlemeler gibi faktörler tarafından tetiklenebiliyor. “Şüpheli” olarak işaretlenen her iki orijinal video da grafikler ve düzenlemeler içeriyordu. Site ücretsiz bir hizmet sunuyor ancak aynı zamanda tüketicilerin daha derinlemesine analiz için ayarları ve kalibrasyonları düzenleyebileceği ücretli bir katmana da sahip.

Attestiv'in mükemmel olmadığını kabul eden Vekiarides, deepfake'lerin çıplak gözle tespit edilmesi zorlaştıkça, çözümün bir parçası olarak bu tür web sitelerine ihtiyaç duyulduğunu söyledi.

Vekiarides, “Aracımız bir şeyin şüpheli olup olmadığını belirleyebilir ve ardından bunu kendi gözlerinizle doğrulayarak 'Bunun şüpheli olduğunu düşünüyorum' diyebilirsiniz.” dedi.

DeepFake-O-Meter

DeepFake-O-Meter, Buffalo Üniversitesi ve Ulusal Bilim Vakfı tarafından desteklenen bir başka ücretsiz araçtır. Gerçek videolardan ikisinin yüksek oranda yapay zeka tarafından oluşturulduğunu belirledi.

Açık platformun yaratıcısı bir e-postada, deepfake tespit modellerinin sınırlamasının, video sıkıştırmanın video ve ses ile senkronizasyon sorunlarına ve tutarsız ağız hareketlerine yol açabileceğini söyledi.

Şirket, günlük kullanıcıların aracı nasıl kullanabileceğine ilişkin bir soruya yanıt olarak şu e-postayı gönderdi: “Şu anda kullanıcılara gösterilen ana sonuç, bu örneğin farklı algılama modellerinde oluşturulmuş bir örnek olma olasılık değeridir. Bu bir referans olarak kullanılabilir.” birden fazla model aynı cevapta güvenle aynı fikirdeyse (örneğin yapay zeka tarafından oluşturulanlar için %80'in üzerinde veya gerçek video için %20'nin altında) Şu anda sonuçları göstermenin daha anlaşılır bir yolunun yanı sıra çıktı alabilen yeni modeller geliştiriyoruz. kapsamlı tespit sonuçları.”

Duyarlılık

Sensity'nin deepfake dedektörü altı klibin tamamını doğru bir şekilde tanımladı ve yapay zeka manipülasyonunun en muhtemel olduğu yeri gösteren bir ısı haritası gösterdi.

Şirket, hizmetini kullanmak için ücretsiz bir deneme süresi sunuyor ve I-Team'e, hizmetin şu anda özel ve kamu kuruluşlarına yönelik olmasına rağmen gelecekteki hedefinin teknolojiyi herkes için erişilebilir kılmak olduğunu söyledi.


I-Takım Araştırmaları


Daha

Daha




Brian Yeni




Brian New, 2013'ten beri CBS 11 Haber ekibinin bir üyesidir. 2017'de en iyi araştırmacı muhabir dalında Lone Star Emmy ödülüne layık görülmüştür. Bu, Brian'ın kariyeri boyunca onurlandırıldığı 10 Emmy ödülünden biri.