Taze Hafıza

ÖZEL HABER: The Guardian tarafından yürütülen bir araştırma, Google’ın "AI Overviews" (Yapay Zeka Özetleri) özelliğinin kan testleri sorgularında hatalı ve yanlış bilgiler sunduğunu ortaya çıkardı.

Google, yapay zeka tarafından hazırlanan bazı sağlık özetlerini, kullanıcıları yanlış ve yanıltıcı bilgilerle tehlikeye attığının tespit edilmesinin ardından yayından kaldırdı. Şirket, üretken yapay zeka kullanarak konular hakkında hızlı özetler sunan AI Overviews özelliğinin "faydalı" ve "güvenilir" olduğunu savunsa da, arama sonuçlarının en üstünde görünen bu özetlerin ciddi sağlık riskleri barındırdığı kanıtlandı.

Karaciğer Testlerinde "Hayati" Hata

Uzmanlar tarafından "tehlikeli" ve "alarm verici" olarak nitelendirilen bir örnekte Google, karaciğer fonksiyon testleri hakkında tamamen yanlış bilgiler sundu. Bu durum, ciddi karaciğer hastalığı olan kişilerin test sonuçlarının "normal" olduğunu düşünerek yanılgıya düşmesine neden olabilirdi.

Guardian araştırmasına göre, "karaciğer kan testleri için normal aralık nedir?" sorusu sorulduğunda, yapay zeka sistemi; hastanın uyruğunu, cinsiyetini, etnik kökenini veya yaşını dikkate almadan, bağlamdan kopuk bir sayı yığını sundu.

Yanlış Güven Duygusu Hayat Karartabilir

Tıp uzmanları, Google’ın yapay zekasının "normal" olarak tanımladığı değerlerin, gerçek tıbbi standartlardan ciddi şekilde sapabildiğine dikkat çekiyor. Bu durumun en büyük tehlikesi ise şu: Hasta, elindeki test sonucunu yapay zekanın verdiği hatalı rakamlarla karşılaştırıp "iyiyim" diyerek doktor randevusuna gitmekten vazgeçebilir.

İngiliz Karaciğer Vakfı (British Liver Trust) Politika ve İletişim Direktörü Vanessa Hebditch konuyla ilgili şunları söyledi:

"Bu içeriklerin kaldırılması mükemmel bir haber. Ancak soru farklı bir şekilde sorulduğunda yanıltıcı özetler hala karşımıza çıkabiliyor. Bu durum bizi oldukça endişelendiriyor."

"Açık Kapı" Devam Ediyor

Guardian’ın araştırması, Google belirli anahtar kelimeleri engellese de, sorguda yapılan ufak değişikliklerin ("lft referans aralığı" gibi) hala yapay zeka özetlerini tetiklediğini gösterdi. Hebditch, karaciğer testlerinin (LFT) birden fazla bileşenden oluşan karmaşık bir yapı olduğunu ve sadece rakamları karşılaştırmanın ötesinde uzman yorumu gerektirdiğini vurguladı.

Google'ın Savunması: "Klinik Ekiplerimiz İnceledi"

Dünya arama motoru pazarının %91’ini elinde tutan teknoloji devi Google, Guardian tarafından sunulan yeni örnekleri incelediklerini belirtti. Bir Google sözcüsü şu açıklamayı yaptı:

"Bireysel kaldırma işlemleri hakkında yorum yapmıyoruz. Yapay zeka özetlerinin bağlamı kaçırdığı durumlarda genel iyileştirmeler yapıyoruz ve politikalarımız çerçevesinde aksiyon alıyoruz."

Şirket, kanser ve ruh sağlığı gibi konulardaki diğer hatalı olduğu iddia edilen özetlerin neden hala yayında olduğu sorulduğunda ise; bu içeriklerin saygın kaynaklara link verdiğini ve kendi klinik ekipleri tarafından onaylandığını savundu.

Uzman Uyarıyor: "Hala Yapılacak Çok İş Var"

Hasta Bilgilendirme Forumu (PIF) Başkanı Sue Farrington, kaldırma kararını memnuniyetle karşılasa da bunun sadece bir başlangıç olduğunu belirtti. Farrington, "Milyonlarca insan zaten güvenilir sağlık bilgisine ulaşmakta zorlanıyor. Google gibi platformların insanları araştırılmış, sağlam ve güvenilir tıbbi kaynaklara yönlendirmesi hayati önem taşıyor," dedi.

Teknoloji yayını Futurism'in editörü Victor Tangermann ise durumu tek bir cümleyle özetledi: "Google, yapay zeka aracının tehlikeli sağlık dezenformasyonu yaymadığından emin olmak için daha çok çalışmak zorunda."