Google'ın yapay zeka destekli arama özelliği AI Overviews'un, sağlıkla ilgili sorgularda YouTube'u tıbbi web sitelerinden daha fazla kaynak gösterdiği, SE Ranking tarafından yapılan bir araştırmayla ortaya çıktı. Aylık 2 milyar kişi tarafından kullanılan bu aracın güvenilirliği hakkında yeni sorular doğuran bu durum, Google'ın AI Overviews özetlerinin "güvenilir" olduğunu ve saygın tıbbi kaynakları referans aldığını iddia etmesine rağmen belirlendi. Almanya'da 50.000'den fazla sağlık sorgusunu analiz eden çalışma, en çok alıntı yapılan kaynağın YouTube olduğunu gösterdi; bu platform, tüm AI Overview alıntılarının %4,43'ünü oluşturarak hiçbir hastane ağı veya tıbbi derneğin ulaşamadığı bir sayıya ulaştı.
Araştırmacılar, YouTube'un bir tıbbi yayıncı değil, herkesin içerik yükleyebileceği genel amaçlı bir video platformu olduğunu, bu durumun tıbbi eğitimi olmayan kişilerin de içerik üretmesine olanak tanıdığını vurguladı. Google ise Guardian'a yaptığı açıklamada, AI Overviews'un yüksek kaliteli içerik sunmak üzere tasarlandığını ve YouTube'da güvenilir sağlık otoritelerinin de içerik ürettiğini savundu. Şirket ayrıca, çalışmanın yalnızca Almanca sorgularla Almanya'da yapıldığı için bulguların diğer bölgelere genellenemeyeceğini belirtti. Ancak bu durum, daha önce Google AI Overviews'daki yanlış ve yanıltıcı sağlık bilgilerinin insanları riske attığını ortaya koyan Guardian soruşturmasının ardından geldi.
SE Ranking çalışması, Almanya'nın sıkı düzenlenmiş sağlık sistemi nedeniyle seçildiğini, böyle bir ortamda bile AI sistemlerinin tıbbi olmayan kaynaklara dayanmasının sorunun küresel olabileceğini işaret ediyor. AI Overviews'un sağlık aramalarının %82'sinden fazlasında göründüğü ve YouTube'un tek başına 465.823 alıntıdan 20.621'ini oluşturduğu göz önüne alındığında, bu durumun kullanıcı sağlığı üzerindeki potansiyel etkileri endişe verici boyutlara ulaşabilir.
Google'ın yapay zeka destekli arama özetlerinin sağlık bilgilerini doğruluğu şüpheli YouTube kaynaklarından alması, kullanıcı sağlığı ve güvenilir bilgi erişimi açısından ciddi riskler barındırıyor.