Alman araştırmacılar, birçok kişinin güvenip sağlık tavsiyeleri aldığı yapay zeka temelli arama motorlarının, potansiyel olarak zararlı ilaçlar önerdiği konusunda uyarıda bulundu.
Dünya genelinde birçok insan, semptomlarını yapay zeka aracılığıyla aratıp kendilerine bilimsel dayanağı olmayan teşhisler koyabiliyor. Ancak Alman bilim insanları, yapay zekanın her zaman doğru yönlendirmeler yapmadığı konusunda uyarıyor.
Erlangen-Nürnberg Üniversitesi'nin yaptığı araştırmaya göre, yapay zeka destekli sohbet robotlarının reçeteli ilaçlara ilişkin verdiği bilgilerin beşte birinden fazlası, ölüme veya ciddi yaralanmaya yol açabiliyor. Uzmanlar, hastaların doğru ve güvenli bilgi almak için bu tür arama motorlarına güvenmemeleri gerektiğini söylüyor.
ABD'de en çok reçete edilen 50 ilaca ilişkin 10 sorunun incelendiği araştırmada, yapay zeka tarafından verilen 500 yanıtın tamamı, eczacılar ve farmakoloji alanında uzman doktorların yanıtlarıyla karşılaştırıldı.
Chatbot yanıtlarının en az yüzde 26'sının, bilimsel verilerle uyuşmadığı ve tutarsız ifadeler içerdiği kanıtlandı. Yanıtlar üzerine yapılan detaylı analizlerde ise yapay zekanın verdiği tıbbi bilgilerin yüzde 42'sinin orta zarara, yüzde 22'sinin ise ölüm gibi ciddi zararlara yol açabileceği belirlendi.
BMJ Quality and Safety dergisinde yayınlanan araştırmanın uzmanları, chatbot yanıtlarının büyük bir kısmının yanlış bilgiler içerdiğini ve bu durumun hasta güvenliğini büyük oranda tehdit ettiğini belirtti. Uzmanlar, bireylerin olası semptomlarını mutlaka sağlık profesyonellerine danışmaları gerektiğinin altını çizdi.