Perşembe günü Google, arama sorgularına yanıt vermek için yapay zekayı kullanan AI Genel Bakış aracının iyileştirilmesi gerektiğini itiraf etti.
İnternet arama devi, yeni özelliği iki hafta önce kullanıma sunmadan önce kapsamlı bir şekilde test ettiğini söylese de Google, teknolojinin “bazı tuhaf ve hatalı genel bakışlar” ürettiğini kabul etti. Örnekler arasında peynirin pizzaya yapışmasını sağlamak için yapıştırıcı kullanılmasını önermek veya böbrek taşlarını hızla düşürmek için idrar içmeyi önermek yer alır.
Örneklerin çoğu önemsiz olsa da diğerlerinin arama sonuçları potansiyel olarak tehlikeliydi. Associated Press'in geçen hafta hangi yabani mantarların yenilebilir olduğu sorusuna Google, çoğunlukla teknik olarak doğru olan yapay zeka tarafından oluşturulan uzun bir özet sundu. Ancak Google'ın AP'nin sorgusuna verdiği yanıtı inceleyen Purdue Üniversitesi'nden mikoloji ve botanik profesörü Mary Catherine Aime, “mide bulandırıcı ve hatta ölümcül olma potansiyeline sahip birçok bilgi eksik” dedi.
Örneğin, kurt yumağı olarak bilinen mantarlarla ilgili bilgilerin “aşağı yukarı doğru” olduğunu söyledi, ancak Google'ın genel bakışında, birçok potansiyel olarak ölümcül kurt yumağı taklitçisinin de sahip olduğu katı beyaz ete sahip olanların aranması vurgulandı.
Yaygın olarak paylaşılan başka bir örnekte, bir yapay zeka araştırmacısı Google'a kaç Müslümanın ABD başkanı olduğunu sordu ve Google, uzun süredir çürütülmüş bir komplo teorisiyle kendinden emin bir şekilde yanıt verdi: “Amerika Birleşik Devletleri'nin bir Müslüman başkanı vardı, Barack Hussein Obama.”
Geri alma, bir teknoloji şirketinin yakından izlenen alanda kendisini lider olarak konumlandırmak için bir yapay zeka ürününü zamanından önce piyasaya sürmesinin en son örneğidir.
Google'ın arama başkanı Liz Reid, Perşembe günü bir şirketin blog yazısında, Google'ın AI Genel Bakış özelliğinin bazen sorgulara yararsız yanıtlar vermesi nedeniyle şirketin iyileştirmeler yapmaya devam ederken ölçeği küçülttüğünü söyledi.
“Bazı tuhaf, yanlış veya faydasız Yapay Zeka Genel Bakışları kesinlikle ortaya çıktı. Bunlar genellikle insanların sıklıkla yapmadığı sorgular için olsa da geliştirmemiz gereken bazı belirli alanları vurguladı,” dedi Reid.
Yapay zeka bir araç olarak nasıl kullanılır?
06:23
“Kaç tane kaya yemeliyim?” gibi saçma sorular. Reid, internette yararlı ve konuyla ilgili tavsiyelerin bulunmaması nedeniyle AI Genel Bakış'tan şüpheli içerik ürettiğini söyledi. Yapay Zeka Genel Bakış özelliğinin aynı zamanda tartışma forumlarından alaycı içeriği göründüğü gibi almaya ve potansiyel olarak web sayfası dilini Google aramalarına yanıt olarak yanlış bilgi sunacak şekilde yanlış yorumlamaya eğilimli olduğunu ekledi.
“Az sayıda durumda, AI Genel Bakışının web sayfalarındaki dili yanlış yorumladığını ve hatalı bilgiler sunduğunu gördük. Algoritmalarımızda iyileştirmeler yaparak veya kurallarımıza uymayan yanıtları kaldırmak için yerleşik süreçler aracılığıyla bu sorunları hızla çözmeye çalıştık. politikalar,” diye yazdı Reid.
Şimdilik şirket, “Yapay Zeka Genel Bakışlarının o kadar yararlı olmadığı sorgular için tetikleyici kısıtlamalar” ekleyerek yapay zeka tarafından oluşturulan genel bakışların ölçeğini azaltıyor. Google ayrıca “tazeliğin ve gerçekliğin önemli olduğu” zorlu haber konuları için Yapay Zeka Genel Bakışlarını göstermemeye çalıştığını da söylüyor.
Şirket ayrıca “yanıltıcı tavsiyelerde bulunabilecek yanıtlarda kullanıcı tarafından oluşturulan içeriğin kullanımını sınırlamak için” güncellemeler yaptığını da söyledi.
—Associated Press bu rapora katkıda bulunmuştur.
Haberler'den daha fazlası
Megan Cerullo
Megan Cerullo, küçük işletmeler, işyeri, sağlık hizmetleri, tüketici harcamaları ve kişisel finans konularını kapsayan Haberler'un New York merkezli bir muhabiridir. Haberlerini tartışmak için düzenli olarak 7/24 Haberler'e çıkıyor.
İnternet arama devi, yeni özelliği iki hafta önce kullanıma sunmadan önce kapsamlı bir şekilde test ettiğini söylese de Google, teknolojinin “bazı tuhaf ve hatalı genel bakışlar” ürettiğini kabul etti. Örnekler arasında peynirin pizzaya yapışmasını sağlamak için yapıştırıcı kullanılmasını önermek veya böbrek taşlarını hızla düşürmek için idrar içmeyi önermek yer alır.
Örneklerin çoğu önemsiz olsa da diğerlerinin arama sonuçları potansiyel olarak tehlikeliydi. Associated Press'in geçen hafta hangi yabani mantarların yenilebilir olduğu sorusuna Google, çoğunlukla teknik olarak doğru olan yapay zeka tarafından oluşturulan uzun bir özet sundu. Ancak Google'ın AP'nin sorgusuna verdiği yanıtı inceleyen Purdue Üniversitesi'nden mikoloji ve botanik profesörü Mary Catherine Aime, “mide bulandırıcı ve hatta ölümcül olma potansiyeline sahip birçok bilgi eksik” dedi.
Örneğin, kurt yumağı olarak bilinen mantarlarla ilgili bilgilerin “aşağı yukarı doğru” olduğunu söyledi, ancak Google'ın genel bakışında, birçok potansiyel olarak ölümcül kurt yumağı taklitçisinin de sahip olduğu katı beyaz ete sahip olanların aranması vurgulandı.
Yaygın olarak paylaşılan başka bir örnekte, bir yapay zeka araştırmacısı Google'a kaç Müslümanın ABD başkanı olduğunu sordu ve Google, uzun süredir çürütülmüş bir komplo teorisiyle kendinden emin bir şekilde yanıt verdi: “Amerika Birleşik Devletleri'nin bir Müslüman başkanı vardı, Barack Hussein Obama.”
Geri alma, bir teknoloji şirketinin yakından izlenen alanda kendisini lider olarak konumlandırmak için bir yapay zeka ürününü zamanından önce piyasaya sürmesinin en son örneğidir.
Google'ın arama başkanı Liz Reid, Perşembe günü bir şirketin blog yazısında, Google'ın AI Genel Bakış özelliğinin bazen sorgulara yararsız yanıtlar vermesi nedeniyle şirketin iyileştirmeler yapmaya devam ederken ölçeği küçülttüğünü söyledi.
“
Yapay zeka bir araç olarak nasıl kullanılır?
06:23
“Kaç tane kaya yemeliyim?” gibi saçma sorular. Reid, internette yararlı ve konuyla ilgili tavsiyelerin bulunmaması nedeniyle AI Genel Bakış'tan şüpheli içerik ürettiğini söyledi. Yapay Zeka Genel Bakış özelliğinin aynı zamanda tartışma forumlarından alaycı içeriği göründüğü gibi almaya ve potansiyel olarak web sayfası dilini Google aramalarına yanıt olarak yanlış bilgi sunacak şekilde yanlış yorumlamaya eğilimli olduğunu ekledi.
“Az sayıda durumda, AI Genel Bakışının web sayfalarındaki dili yanlış yorumladığını ve hatalı bilgiler sunduğunu gördük. Algoritmalarımızda iyileştirmeler yaparak veya kurallarımıza uymayan yanıtları kaldırmak için yerleşik süreçler aracılığıyla bu sorunları hızla çözmeye çalıştık. politikalar,” diye yazdı Reid.
Şimdilik şirket, “Yapay Zeka Genel Bakışlarının o kadar yararlı olmadığı sorgular için tetikleyici kısıtlamalar” ekleyerek yapay zeka tarafından oluşturulan genel bakışların ölçeğini azaltıyor. Google ayrıca “tazeliğin ve gerçekliğin önemli olduğu” zorlu haber konuları için Yapay Zeka Genel Bakışlarını göstermemeye çalıştığını da söylüyor.
Şirket ayrıca “yanıltıcı tavsiyelerde bulunabilecek yanıtlarda kullanıcı tarafından oluşturulan içeriğin kullanımını sınırlamak için” güncellemeler yaptığını da söyledi.
—Associated Press bu rapora katkıda bulunmuştur.
Haberler'den daha fazlası
Megan Cerullo
Megan Cerullo, küçük işletmeler, işyeri, sağlık hizmetleri, tüketici harcamaları ve kişisel finans konularını kapsayan Haberler'un New York merkezli bir muhabiridir. Haberlerini tartışmak için düzenli olarak 7/24 Haberler'e çıkıyor.