Google, aldatıcı bilgi riski nedeniyle birtakım yapay zeka takviyeli sıhhat arama özetlerini kaldırdı. Sıhhatte yapay zeka yarışı hızlanırken alınan bu karar dikkat çekti.
Google, sıhhatle ilgili arama sonuçlarında sunduğu birtakım yapay zeka tarafından oluşturulan özetleri sessizce kaldırdı. Bu karar, kesimde yapay zekanın sıhhat alanına süratle entegre edilmeye çalışıldığı bir periyotta geldi. Geri adımın ardında ise, The Guardian’ın kelam konusu özetlerde aldatıcı bilgiler bulunduğunu ortaya koyan haberi yer alıyor.
Karaciğer testleriyle ilgili aramalar etkilendi
The Guardian’ın pazar günü yayımladığı habere nazaran Google, “karaciğer kan testleri için olağan kıymet aralığı nedir” ve “karaciğer işlev testleri olağan aralıkları” üzere sorgular için sunulan yapay zeka özetlerini kaldırdı. Salı sabahı prestijiyle bu aramalarda sayfanın üst kısmında artık bir “AI Overview” yer almıyor. Bunun yerine, klasik arama sonuçlarından alınan kısa metinler kullanıcıya gösteriliyor.
Yanıltıcı bilgiler risk oluşturdu
Gazeteye nazaran, bu ve gibisi sıhhat aramalarında sunulan yapay zeka özetleri kusurlu bilgiler içerdi ve kullanıcılar için risk oluşturabilecek bir tablo ortaya çıktı. Örneğin, karaciğer testlerine dair özetlerde çok sayıda rakam yer aldığı, lakin bu bedellerin hangi şartlarda geçerli olduğuna dair kâfi bağlam sunulmadığı belirtildi. Ayrıyeten yaş, cinsiyet, etnik köken yahut ülkeye nazaran farklılıklar da hesaba katılmadı.
Bazı uzmanlar, bu çeşit sonuçların tehlikeli olabileceğine dikkat çekti. Karaciğer hastalığı olan bir kişinin, yapay zeka tarafından sunulan “normal” tariflere güvenerek gerekli takip yahut tedaviyi erteleyebileceği söz edildi.
Google: Birçok özet hakikat bilgi içeriyor
Şirket, paylaşılan örneklerin kurum içindeki klinisyen takımlar tarafından incelendiğini ve birçok durumda bilgilerin yanlışlı olmadığının görüldüğünü tabir etti. Lakin bağlamın eksik kaldığı durumlarda genel iyileştirmeler yapıldığı ve gerekli görülen hallerde şirket siyasetleri doğrultusunda aksiyon alındığı da belirtildi.
Sağlık alanında yapay zekaya ilgi artıyor
Bu gelişme, giderek daha fazla insanın sıhhatle ilgili sorular için yapay zekaya yöneldiği bir devirde yaşandı. Tıpkı vakitte teknoloji şirketleri de bu ilgiyi yakından takip ediyor.
ChatGPT’nin geliştiricisi OpenAI, geçen hafta yaptığı açıklamada, 800 milyon civarındaki sistemli kullanıcısının yaklaşık dörtte birinin her hafta sıhhatle ilgili bir sorgu gönderdiğini duyurdu. Günlük sıhhat odaklı kullanımın ise 40 milyonun üzerinde olduğu belirtildi.
OpenAI ve Anthropic’ten sıhhat odaklı hamleler
OpenAI, kısa mühlet evvel kullanıcıların tıbbi kayıtları, sıhhat uygulamaları ve giyilebilir aygıtlarla irtibat kurabilen ChatGPT Health’i kullanıma sundu. Bunun akabinde şirket, laboratuvar sonuçları, doktor görüşme kayıtları ve ilaç bilgilerini takip eden sıhhat teşebbüsü Torch’u satın aldığını açıkladı.
Rakip yapay zeka şirketi Anthropic de geri kalmadı. Şirket, pazartesi günü yaptığı duyuruda, sıhhat hizmeti sunucuları, sigorta şirketleri ve hastaların Claude isimli sohbet botunu tıbbi maksatlarla kullanabilmesini sağlayan yeni araçlar tanıttı.
Anthropic’e nazaran bu araçlar, hastaneler ve sigorta şirketleri için ön onay talepleri ve hasta irtibatı üzere süreçleri kolaylaştırabiliyor. Hastalar ise laboratuvar sonuçları ve sıhhat kayıtlarını Claude’a erişime açarak, bu bilgilerin sade ve anlaşılır özetlerini alabiliyor.
Küçük yanlışların büyük sonuçları olabilir
Yapay zekanın sıhhat alanındaki kullanımı süratle gelişirken, küçük bir kusur ya da eksik bağlam bile hastalar için önemli sonuçlar doğurabiliyor. Teknoloji şirketlerinin bu sorumluluğa ne kadar hazır olduğu ise vakitle netleşecek.
Kaynak: Chip
COMMENTS