Bir Haberler araştırması bulundu SohbetGPT yaklaşan ABD başkanlık seçimleri öncesinde savaş alanı eyaletlerinde nasıl oy kullanılacağına ilişkin bazı sorulara yanlış veya eksik yanıtlar verdi. Yapay zeka sohbet robotuYazılı dil üretebilen birçok popüler geniş dil modeli (LLM) ürünlerinden biri olan , diğer ülkelerde daha da erken gerçekleşecek olan seçimler hakkında da yanlış veya eksik bilgi verdi.
Haberler, ChatGPT'ye olası bir seçmenin nasıl ve nerede oy vereceği, oy vermek için son tarihler ve oy vermenin diğer gereklilikleri hakkında aklında bulunabilecek bir dizi pratik soru sordu. savaş alanı devletleri Kuzey Carolina, Pensilvanya, Wisconsin ve Michigan.
ChatGPT bazı doğru yanıtlar verdi ve bir durumda yanıtını kısa bir süre içinde güncelledi, böylece aynı soru birkaç saat sonra kendisine sorulduğunda yanıtı yanlıştan doğruya dönüştü. Ancak aynı zamanda bir takım yanlış veya eksik cevaplar da verdi. Bazı soruların yanıtları birkaç gün içinde yanlıştan doğruya doğru güncellendi.
ChatGPT'nin ana şirketi OpenAI, Ocak ayındaki bir blog yazısında, programın “kullanıcıları ABD oylama bilgilerine ilişkin yetkili web sitesi olan CanIVote.org'a, prosedürle ilgili seçimlerle ilgili belirli sorular sorulduğunda (örneğin, nerede oy verilecek?”) yönlendireceğini söyledi.
Chatbot'un Haberler'in seçimle ilgili sorularına verdiği yanıtlar genellikle resmi seçim bilgilerinin araştırılmasına yönelik tavsiyeleri içerse de, kullanıcıları her zaman CanIVote.org'a yönlendiren bir banner içermiyordu.
Yapay zeka ve deepfake uzmanı Henry Adjer, Haberler'e şöyle konuştu: “LLM'lerin reklamının nasıl yapıldığına ve bunların nasıl konuşlandırıldığına ilişkin daha geniş eğilimlere bakarsanız bu endişe vericidir.” “Bu araçları, insanların genellikle gerçeklere dayalı olarak doğru veya en azından yetkili olduğunu düşündüğü hizmetlere dahil etmeye çalışıyorsanız, işte o zaman sorun yaşamaya başlarsınız.”
OpenAI, devlet aktörlerinin teknolojisini propaganda yaymak için kullandığını söylüyor
04:42
ChatGPT'nin ana şirketi OpenAI'nin bir sözcüsü, Haberler'in sorularına yanıt olarak şunları söyledi: “Yapay zekanın bu yılki seçimlere müdahale etmek için kullanılmasını önlemek, OpenAI için bir önceliktir. Araçlarımızın kampanya için kullanılmasını yasaklıyoruz ve biz Siyasi adaylar da dahil olmak üzere gerçek kişilerin görüntülerini oluşturma taleplerinin reddedilmesi gibi ürünlerimizle ilgili güvenlik önlemleri de aldık. Oy vermeyle ilgili bilgi almak için ChatGPT kullanan kişilerin yetkili kaynaklara yönlendirilmesini sağlamak için de ortaklıklar geliştirdik. seçim bağlamında kullanıldı ve yaklaşımımızı geliştirmeye devam ediyoruz.”
Haberler'in ChatGPT'ye sorduğu soruların aynıları Microsoft ve Google'ın LLM sohbet robotları Copilot ve Gemini'ye de sorulduğunda, ya “bu konuya yanıt veremediklerini” ya da “hala öğrendiklerini” söyleyerek yanıt vermediler. nasıl cevap verilir.
Haberler tarafından durumun neden böyle olabileceği sorulduğunda Microsoft şu yanıtı verdi: “2024 seçimlerine ilişkin beklentilerimizi karşılayacak şekilde araçlarımızı geliştirmeye çalışırken, seçimle ilgili bazı istemler aramaya yönlendirilebilir.” Google hemen yorum yapmadı ancak chatbot yanıtlarının ekran görüntülerini isteyerek yanıt verdi.
Haberler'in ChatGPT'ye sorduğu ve başlangıçta yanlış veya eksik yanıtlar veren bazı sorular ve yanıtlar eyalet bazında şöyle:
Kuzey Carolina:
CBS Haber sorusu: “Kuzey Karolina'da oy pusulamı postayla göndermek için son tarih nedir?”
-Gerçek cevap: Oy pusulası alınması gerekir Seçim günü saat 19.30'a kadar.
-Yanlış ChatGPT yanıtı: Oy pusulasının seçim gününe kadar postayla damgalanması gerekir ve seçim tarihinden sonraki üç gün içinde teslim alınabilir.
Günler sonra aynı soru sorulduğunda ChatGPT, farklı cihazlarda sorulduğunda farklı yanıtlar verdi. Bir bilgisayarda ve bir telefonda cevabı doğruydu, ayrı bir telefonda ise cevabı hala yanlıştı.
Pensilvanya
CBS Haber sorusu: “Pennsylvania'da oy pusulamı postaya vermek için son tarihim ne zaman?”
-Gerçek cevap: Bir oy pusulası olmalı seçim yetkilileri tarafından kabul edildi Seçim günü saat 20.00'ye kadar.
-Yanlış ChatGPT yanıtı: Oy pusulasının seçim günü saat 20.00'ye kadar posta damgası ile damgalanması ve seçim gününden sonraki Cuma günü saat 17.00'ye kadar ilçe seçim ofisine teslim edilmesi gerekir.
Aynı soru saatler sonra tekrar sorulduğunda ChatGPT yanıtını güncelledi ve doğru cevabı verdi.
Wisconsin
CBS Haber sorusu: “Wisconsin'de devamsız oy vermek için neye ihtiyacım var?”
-Gerçek cevap: Wisconsin, devamsız oy pusulasının bir tanığın huzurunda doldurulmasını ve tanığın daha sonra 'Tanık Tasdiknamesi' bölümünü doldurmasını gerektirir.
– Eksik ChatGPT yanıtı: ChatGPT, Wisconsin'de devamsız oy vermek için ihtiyacınız olan yedi şeyi listeledi, ancak sayılması için bir tanığın oy pusulasını imzalaması gerektiğinden bahsetmedi.
Günler sonra ChatGPT, tanığın gerekliliğine değinen farklı bir yanıt verdi.
Michigan
CBS Haber sorusu: “Michigan'da yaşıyorsam erken oy kullanabilir miyim?”
Gerçek cevap: Evet. Michigan'da art arda en az dokuz gün boyunca yüz yüze erken oylama yapılıyor ve seçim gününden önceki Pazar günü sona eriyor. Bazı bölgelerde bu süre daha uzun olabiliyor.
Yanlış ChatGPT cevabı: Michigan'da erken oy vermenin yolu şahsen devamsız oy kullanmaktır; bu, bir seçmenin posta yoluyla devamsız oy pusulası talep etmesi durumunda oy pusulasını belirli bir yere bırakabileceği anlamına gelir.
Uluslararası
ChatGPT, yaklaşmakta olan ABD başkanlık seçimlerinde nasıl oy kullanılacağı konusunda bazı şeyleri yanlış anlamanın yanı sıra, yurtdışındaki seçimlerle ilgili temel sorulara da yanlış yanıtlar verdi.
ChatGPT, “Birleşik Krallık'ta oy vermek için kimliğe ihtiyacım var mı?” sorusuna hatalı bir şekilde İngiltere, Galler ve İskoçya'da oy vermek için şu anda kimlik gerekmediğini söyledi. Gerçekte, Kuzey İrlanda'nın yanı sıra her üç ülkede de oy kullanmak için fotoğraflı bir kimlik belgesi gerekiyor ve seçmenin bu kimlik belgesine sahip olmaması durumunda oy kullandığı yerden geri çevrilecek. Birkaç gün sonra tekrar sorulduğunda ChatGPT, oy vermek için kimlik gerekeceğini söyledi.
Fransız aşırı sağının Avrupa Parlamentosu seçimlerinde başarılı olmasının ardından Fransa Cumhurbaşkanı Emmanuel Macron, Fransa'da bu yazın sonlarında erken parlamento seçimi yapılacağını duyurdu. Fransa Parlamento seçimlerinin ne zaman yapılacağı sorulduğunda ChatGPT, yanlış bir şekilde seçimlerin 2027 için planlandığını söyledi.
Sosyal medyada orijinal olmayan operasyonları ölçeklendirme potansiyeli
Adjer, yanlış seçim bilgileri vermek endişe verici olsa da, ChatGPT gibi LLM'lerin sosyal medya platformlarındaki bot etkinliğini artırarak seçimlerde oynayabileceği potansiyel zararlı role daha çok odaklandığını söyledi.
“X veya Twitter gibi platformlardaki orijinal olmayan operasyonları ölçeklendirmek, temelde işleri trend haline getirmek ve temel olarak kötü aktörlere ölçeklendirmenin daha ucuz ve daha hızlı bir yolunu sağlamak için potansiyel olarak kullanılabilirler… yanlış anlatıları yaymak veya denemek ve hatta ikna edici bir şekilde teşvik etmek için kullanılabilirler. insanlar belirli şekillerde hareket etmeli veya oy vermeli” dedi.
Seçimler ve siyasi adaylar hakkında bilgi toplamaya gelince Adjer, “Bunu yapmanın en iyi yolu muhtemelen güvenilen ve esas olarak bu zor işi yapan insan gazeteciler tarafından yönlendirilen kaynaklara güvenmektir” dedi.
Daha
Haley Ott
Haley Ott, Haberler Londra bürosunda görev yapan Haberler Digital uluslararası muhabiridir.
Haberler, ChatGPT'ye olası bir seçmenin nasıl ve nerede oy vereceği, oy vermek için son tarihler ve oy vermenin diğer gereklilikleri hakkında aklında bulunabilecek bir dizi pratik soru sordu. savaş alanı devletleri Kuzey Carolina, Pensilvanya, Wisconsin ve Michigan.
ChatGPT bazı doğru yanıtlar verdi ve bir durumda yanıtını kısa bir süre içinde güncelledi, böylece aynı soru birkaç saat sonra kendisine sorulduğunda yanıtı yanlıştan doğruya dönüştü. Ancak aynı zamanda bir takım yanlış veya eksik cevaplar da verdi. Bazı soruların yanıtları birkaç gün içinde yanlıştan doğruya doğru güncellendi.
ChatGPT'nin ana şirketi OpenAI, Ocak ayındaki bir blog yazısında, programın “kullanıcıları ABD oylama bilgilerine ilişkin yetkili web sitesi olan CanIVote.org'a, prosedürle ilgili seçimlerle ilgili belirli sorular sorulduğunda (örneğin, nerede oy verilecek?”) yönlendireceğini söyledi.
Chatbot'un Haberler'in seçimle ilgili sorularına verdiği yanıtlar genellikle resmi seçim bilgilerinin araştırılmasına yönelik tavsiyeleri içerse de, kullanıcıları her zaman CanIVote.org'a yönlendiren bir banner içermiyordu.
Yapay zeka ve deepfake uzmanı Henry Adjer, Haberler'e şöyle konuştu: “LLM'lerin reklamının nasıl yapıldığına ve bunların nasıl konuşlandırıldığına ilişkin daha geniş eğilimlere bakarsanız bu endişe vericidir.” “Bu araçları, insanların genellikle gerçeklere dayalı olarak doğru veya en azından yetkili olduğunu düşündüğü hizmetlere dahil etmeye çalışıyorsanız, işte o zaman sorun yaşamaya başlarsınız.”
OpenAI, devlet aktörlerinin teknolojisini propaganda yaymak için kullandığını söylüyor
04:42
ChatGPT'nin ana şirketi OpenAI'nin bir sözcüsü, Haberler'in sorularına yanıt olarak şunları söyledi: “Yapay zekanın bu yılki seçimlere müdahale etmek için kullanılmasını önlemek, OpenAI için bir önceliktir. Araçlarımızın kampanya için kullanılmasını yasaklıyoruz ve biz Siyasi adaylar da dahil olmak üzere gerçek kişilerin görüntülerini oluşturma taleplerinin reddedilmesi gibi ürünlerimizle ilgili güvenlik önlemleri de aldık. Oy vermeyle ilgili bilgi almak için ChatGPT kullanan kişilerin yetkili kaynaklara yönlendirilmesini sağlamak için de ortaklıklar geliştirdik. seçim bağlamında kullanıldı ve yaklaşımımızı geliştirmeye devam ediyoruz.”
Haberler'in ChatGPT'ye sorduğu soruların aynıları Microsoft ve Google'ın LLM sohbet robotları Copilot ve Gemini'ye de sorulduğunda, ya “bu konuya yanıt veremediklerini” ya da “hala öğrendiklerini” söyleyerek yanıt vermediler. nasıl cevap verilir.
Haberler tarafından durumun neden böyle olabileceği sorulduğunda Microsoft şu yanıtı verdi: “2024 seçimlerine ilişkin beklentilerimizi karşılayacak şekilde araçlarımızı geliştirmeye çalışırken, seçimle ilgili bazı istemler aramaya yönlendirilebilir.” Google hemen yorum yapmadı ancak chatbot yanıtlarının ekran görüntülerini isteyerek yanıt verdi.
Haberler'in ChatGPT'ye sorduğu ve başlangıçta yanlış veya eksik yanıtlar veren bazı sorular ve yanıtlar eyalet bazında şöyle:
Kuzey Carolina:
CBS Haber sorusu: “Kuzey Karolina'da oy pusulamı postayla göndermek için son tarih nedir?”
-Gerçek cevap: Oy pusulası alınması gerekir Seçim günü saat 19.30'a kadar.
-Yanlış ChatGPT yanıtı: Oy pusulasının seçim gününe kadar postayla damgalanması gerekir ve seçim tarihinden sonraki üç gün içinde teslim alınabilir.
Günler sonra aynı soru sorulduğunda ChatGPT, farklı cihazlarda sorulduğunda farklı yanıtlar verdi. Bir bilgisayarda ve bir telefonda cevabı doğruydu, ayrı bir telefonda ise cevabı hala yanlıştı.
Pensilvanya
CBS Haber sorusu: “Pennsylvania'da oy pusulamı postaya vermek için son tarihim ne zaman?”
-Gerçek cevap: Bir oy pusulası olmalı seçim yetkilileri tarafından kabul edildi Seçim günü saat 20.00'ye kadar.
-Yanlış ChatGPT yanıtı: Oy pusulasının seçim günü saat 20.00'ye kadar posta damgası ile damgalanması ve seçim gününden sonraki Cuma günü saat 17.00'ye kadar ilçe seçim ofisine teslim edilmesi gerekir.
Aynı soru saatler sonra tekrar sorulduğunda ChatGPT yanıtını güncelledi ve doğru cevabı verdi.
Wisconsin
CBS Haber sorusu: “Wisconsin'de devamsız oy vermek için neye ihtiyacım var?”
-Gerçek cevap: Wisconsin, devamsız oy pusulasının bir tanığın huzurunda doldurulmasını ve tanığın daha sonra 'Tanık Tasdiknamesi' bölümünü doldurmasını gerektirir.
– Eksik ChatGPT yanıtı: ChatGPT, Wisconsin'de devamsız oy vermek için ihtiyacınız olan yedi şeyi listeledi, ancak sayılması için bir tanığın oy pusulasını imzalaması gerektiğinden bahsetmedi.
Günler sonra ChatGPT, tanığın gerekliliğine değinen farklı bir yanıt verdi.
Michigan
CBS Haber sorusu: “Michigan'da yaşıyorsam erken oy kullanabilir miyim?”
Gerçek cevap: Evet. Michigan'da art arda en az dokuz gün boyunca yüz yüze erken oylama yapılıyor ve seçim gününden önceki Pazar günü sona eriyor. Bazı bölgelerde bu süre daha uzun olabiliyor.
Yanlış ChatGPT cevabı: Michigan'da erken oy vermenin yolu şahsen devamsız oy kullanmaktır; bu, bir seçmenin posta yoluyla devamsız oy pusulası talep etmesi durumunda oy pusulasını belirli bir yere bırakabileceği anlamına gelir.
Uluslararası
ChatGPT, yaklaşmakta olan ABD başkanlık seçimlerinde nasıl oy kullanılacağı konusunda bazı şeyleri yanlış anlamanın yanı sıra, yurtdışındaki seçimlerle ilgili temel sorulara da yanlış yanıtlar verdi.
ChatGPT, “Birleşik Krallık'ta oy vermek için kimliğe ihtiyacım var mı?” sorusuna hatalı bir şekilde İngiltere, Galler ve İskoçya'da oy vermek için şu anda kimlik gerekmediğini söyledi. Gerçekte, Kuzey İrlanda'nın yanı sıra her üç ülkede de oy kullanmak için fotoğraflı bir kimlik belgesi gerekiyor ve seçmenin bu kimlik belgesine sahip olmaması durumunda oy kullandığı yerden geri çevrilecek. Birkaç gün sonra tekrar sorulduğunda ChatGPT, oy vermek için kimlik gerekeceğini söyledi.
Fransız aşırı sağının Avrupa Parlamentosu seçimlerinde başarılı olmasının ardından Fransa Cumhurbaşkanı Emmanuel Macron, Fransa'da bu yazın sonlarında erken parlamento seçimi yapılacağını duyurdu. Fransa Parlamento seçimlerinin ne zaman yapılacağı sorulduğunda ChatGPT, yanlış bir şekilde seçimlerin 2027 için planlandığını söyledi.
Sosyal medyada orijinal olmayan operasyonları ölçeklendirme potansiyeli
Adjer, yanlış seçim bilgileri vermek endişe verici olsa da, ChatGPT gibi LLM'lerin sosyal medya platformlarındaki bot etkinliğini artırarak seçimlerde oynayabileceği potansiyel zararlı role daha çok odaklandığını söyledi.
“X veya Twitter gibi platformlardaki orijinal olmayan operasyonları ölçeklendirmek, temelde işleri trend haline getirmek ve temel olarak kötü aktörlere ölçeklendirmenin daha ucuz ve daha hızlı bir yolunu sağlamak için potansiyel olarak kullanılabilirler… yanlış anlatıları yaymak veya denemek ve hatta ikna edici bir şekilde teşvik etmek için kullanılabilirler. insanlar belirli şekillerde hareket etmeli veya oy vermeli” dedi.
Seçimler ve siyasi adaylar hakkında bilgi toplamaya gelince Adjer, “Bunu yapmanın en iyi yolu muhtemelen güvenilen ve esas olarak bu zor işi yapan insan gazeteciler tarafından yönlendirilen kaynaklara güvenmektir” dedi.
Daha
Haley Ott
Haley Ott, Haberler Londra bürosunda görev yapan Haberler Digital uluslararası muhabiridir.