Yazılım tasarımcıları uzmanlaşmış testleri gerçekleştiriyor Yapay zeka destekli sohbet robotları tıbbi tavsiyelerde bulunabilen ve hastalıkları teşhis edebilen — ancak doğruluğu konusunda çok sayıda soru işareti var.
Google, bu baharda şirketin sohbet robotundan gelen yanıtların sağlık ile ilgili sorgular da dahil olmak üzere tipik arama sonuçlarının üstünde görünmeye başladığı bir “AI Genel Bakış” özelliğini duyurdu. Teoride kulağa iyi bir fikir gibi gelse de, yazılım tarafından sunulan sağlık tavsiyeleri konusunda sorunlar yaşandı.
Botun çevrimiçi olduğu ilk haftada bir kullanıcı şunları söyledi: Google AI yanlış verdiçıngıraklı yılan tarafından ısırıldığında ne yapılması gerektiğiyle ilgili muhtemelen ölümcül bilgiler. Başka bir arama, Google'ın insanlara vitamin ve mineraller için “günde en az bir küçük kaya” yemelerini önerdiğini gösterdi — tavsiye, hicivli bir makaleden alınmıştır.
Google, o tarihten bu yana genel bakışlarında hiciv ve mizah sitelerinin yer almasını sınırladıklarını ve viral olan bazı arama sonuçlarını kaldırdıklarını söylüyor.
Genel bir yapay zeka ekranı.
CBS Cumartesi Sabahı
“AI Overviews'ın büyük çoğunluğu, web'de daha derinlemesine araştırma yapmak için bağlantılar içeren yüksek kaliteli bilgiler sunuyor,” dedi bir Google sözcüsü Haberler'e. “Sağlık sorguları için, insanlara uzman tavsiyesi almanın önemli olduğunu hatırlatan feragatnameler de dahil olmak üzere, her zaman güçlü kalite ve güvenlik bariyerlerimiz vardı. Bilgilerin yüksek kaliteli ve güvenilir olmasını sağlamak için AI Overviews'ı ne zaman ve nasıl göstereceğimizi iyileştirmeye devam ettik.”
Haberler Confirmed, bu düzeltmelerin tüm sağlık yanlış bilgilerini engellemediğini buldu. Altı aylıktan küçük bebeklere katı gıda verilmesiyle ilgili sorular Haziran ayı sonlarında hala ipuçları verdi. Amerikan Pediatri Akademisi'ne göre, bebeklerin en az altı aylık olana kadar katı gıda yemeye başlamaması gerekiyor.
Detoks veya benzeri şüpheli sağlıklı yaşam trendlerinin sağlık yararları üzerine yapılan aramalar çiğ süt içmek Ayrıca çürütülmüş iddialar da yer aldı.
Tuhaflıklara ve bariz hatalara rağmen, birçok sağlık sektörü lideri yapay zeka sohbet robotları konusunda iyimser olduklarını ve bunların sektörü nasıl değiştirebileceğini düşündüklerini söylüyor.
Stanford Healthcare'de baş veri bilimcisi olan Dr. Nigam Shah, “İnsanlar ihtiyaç duydukları bilgilere erişecekler,” dedi. “Kısa vadede biraz karamsarım, biraz ileri gittiğimizi düşünüyorum. Ancak uzun vadede bu teknolojilerin bize çok faydası olacağını düşünüyorum.”
Yapay zeka ve veri merkezleri iklim değişikliğini nasıl etkiliyor?
03:46
Sohbet robotlarının diğer savunucuları, doktorların her zaman doğruyu bulmadığını belirtmekte hızlı davranıyor. Tahminler değişkenlik gösteriyor ancak Sağlık ve İnsan Hizmetleri Bakanlığı'nın 2022 tarihli bir araştırması, her yıl acil servise giden hastaların %2'sinin bir sağlık hizmeti sağlayıcısı tarafından yanlış teşhis konduktan sonra zarar görebileceğini buldu.
Shah, chatbot kullanımını Google'ın ilk dönemlerine benzetti.
“Google Arama ortaya çıktığında, insanlar kendi kendilerine teşhis koyacakları ve cehennemin kopacağı konusunda paniklediler. Bu olmadı,” dedi Shah. “Aynı şey. Yeni olanların tam olarak oluşmadığı ve birkaçının kötü olacağı bir aşamadan geçeceğiz, ancak genel olarak, başka seçenek olmadığında bilgi sahibi olmak iyi bir şeydir.”
Dünya Sağlık Örgütü, yapay zeka sularına ayak basan şirketlerden biridir. Örgütün sohbet robotu Sarah, bilgileri DSÖ'nün sitesinden ve güvenilir ortaklarından çekerek yanıtların gerçek hatalara daha az eğilimli olmasını sağlar. Kalp krizi riskini nasıl sınırlayacağınız sorulduğunda Sarah, stresi yönetme, iyi uyuma ve sağlıklı bir yaşam tarzına odaklanma hakkında bilgi verdi.
Tasarım ve denetimdeki sürekli gelişmeler bu tür botların daha da iyileştirilmesine yardımcı olabilir.
Ancak bugün sağlık tavsiyeleri için bir yapay zeka sohbet robotuna yöneliyorsanız, Google'ın sürümüyle birlikte gelen uyarıya dikkat edin: “Bilgi kalitesi değişiklik gösterebilir.”
AI: Yapay Zeka
Daha
Daha
Binbaşı Garrett
Major Garrett, Haberler'in baş Washington muhabiridir. Ayrıca, siyaset, politika ve popüler kültür üzerine haftalık çok platformlu bir röportaj programı olan “The Takeout”un sunucusudur.
Google, bu baharda şirketin sohbet robotundan gelen yanıtların sağlık ile ilgili sorgular da dahil olmak üzere tipik arama sonuçlarının üstünde görünmeye başladığı bir “AI Genel Bakış” özelliğini duyurdu. Teoride kulağa iyi bir fikir gibi gelse de, yazılım tarafından sunulan sağlık tavsiyeleri konusunda sorunlar yaşandı.
Botun çevrimiçi olduğu ilk haftada bir kullanıcı şunları söyledi: Google AI yanlış verdiçıngıraklı yılan tarafından ısırıldığında ne yapılması gerektiğiyle ilgili muhtemelen ölümcül bilgiler. Başka bir arama, Google'ın insanlara vitamin ve mineraller için “günde en az bir küçük kaya” yemelerini önerdiğini gösterdi — tavsiye, hicivli bir makaleden alınmıştır.
Google, o tarihten bu yana genel bakışlarında hiciv ve mizah sitelerinin yer almasını sınırladıklarını ve viral olan bazı arama sonuçlarını kaldırdıklarını söylüyor.
Genel bir yapay zeka ekranı.
CBS Cumartesi Sabahı
“AI Overviews'ın büyük çoğunluğu, web'de daha derinlemesine araştırma yapmak için bağlantılar içeren yüksek kaliteli bilgiler sunuyor,” dedi bir Google sözcüsü Haberler'e. “Sağlık sorguları için, insanlara uzman tavsiyesi almanın önemli olduğunu hatırlatan feragatnameler de dahil olmak üzere, her zaman güçlü kalite ve güvenlik bariyerlerimiz vardı. Bilgilerin yüksek kaliteli ve güvenilir olmasını sağlamak için AI Overviews'ı ne zaman ve nasıl göstereceğimizi iyileştirmeye devam ettik.”
Haberler Confirmed, bu düzeltmelerin tüm sağlık yanlış bilgilerini engellemediğini buldu. Altı aylıktan küçük bebeklere katı gıda verilmesiyle ilgili sorular Haziran ayı sonlarında hala ipuçları verdi. Amerikan Pediatri Akademisi'ne göre, bebeklerin en az altı aylık olana kadar katı gıda yemeye başlamaması gerekiyor.
Detoks veya benzeri şüpheli sağlıklı yaşam trendlerinin sağlık yararları üzerine yapılan aramalar çiğ süt içmek Ayrıca çürütülmüş iddialar da yer aldı.
Tuhaflıklara ve bariz hatalara rağmen, birçok sağlık sektörü lideri yapay zeka sohbet robotları konusunda iyimser olduklarını ve bunların sektörü nasıl değiştirebileceğini düşündüklerini söylüyor.
Stanford Healthcare'de baş veri bilimcisi olan Dr. Nigam Shah, “İnsanlar ihtiyaç duydukları bilgilere erişecekler,” dedi. “Kısa vadede biraz karamsarım, biraz ileri gittiğimizi düşünüyorum. Ancak uzun vadede bu teknolojilerin bize çok faydası olacağını düşünüyorum.”
Yapay zeka ve veri merkezleri iklim değişikliğini nasıl etkiliyor?
03:46
Sohbet robotlarının diğer savunucuları, doktorların her zaman doğruyu bulmadığını belirtmekte hızlı davranıyor. Tahminler değişkenlik gösteriyor ancak Sağlık ve İnsan Hizmetleri Bakanlığı'nın 2022 tarihli bir araştırması, her yıl acil servise giden hastaların %2'sinin bir sağlık hizmeti sağlayıcısı tarafından yanlış teşhis konduktan sonra zarar görebileceğini buldu.
Shah, chatbot kullanımını Google'ın ilk dönemlerine benzetti.
“Google Arama ortaya çıktığında, insanlar kendi kendilerine teşhis koyacakları ve cehennemin kopacağı konusunda paniklediler. Bu olmadı,” dedi Shah. “Aynı şey. Yeni olanların tam olarak oluşmadığı ve birkaçının kötü olacağı bir aşamadan geçeceğiz, ancak genel olarak, başka seçenek olmadığında bilgi sahibi olmak iyi bir şeydir.”
Dünya Sağlık Örgütü, yapay zeka sularına ayak basan şirketlerden biridir. Örgütün sohbet robotu Sarah, bilgileri DSÖ'nün sitesinden ve güvenilir ortaklarından çekerek yanıtların gerçek hatalara daha az eğilimli olmasını sağlar. Kalp krizi riskini nasıl sınırlayacağınız sorulduğunda Sarah, stresi yönetme, iyi uyuma ve sağlıklı bir yaşam tarzına odaklanma hakkında bilgi verdi.
Tasarım ve denetimdeki sürekli gelişmeler bu tür botların daha da iyileştirilmesine yardımcı olabilir.
Ancak bugün sağlık tavsiyeleri için bir yapay zeka sohbet robotuna yöneliyorsanız, Google'ın sürümüyle birlikte gelen uyarıya dikkat edin: “Bilgi kalitesi değişiklik gösterebilir.”
AI: Yapay Zeka
Daha
Daha
Binbaşı Garrett
Major Garrett, Haberler'in baş Washington muhabiridir. Ayrıca, siyaset, politika ve popüler kültür üzerine haftalık çok platformlu bir röportaj programı olan “The Takeout”un sunucusudur.