Sesle çalışan bir konuşmacıya sağlığınızla ilgili samimi sorular sormalı mıyım? Ve AI sistemlerinin arkasındaki bilim adamlarının gerçekten nasıl çalıştıklarını anlamaları önemlimidir? Bunlar, bu haftaki Tech Tent podcast’inde cevaplamaya çalıştığımız iki soru.
Parkinson hastalığının belirtileri nelerdir?
Bu soruyu Amazon’un ses kontrollü konuşmacılarına koyan bir İngiltere kullanıcısıysanız, teknoloji devi ile Birleşik Krallık Ulusal Sağlık Hizmeti arasındaki yeni ortaklık sayesinde bu sorunun cevabı şimdi NHS’den gelecek.Aslında, olup bitenler yararlı ve doğru bilgilere öncelik veren basit bir web aramasıdır.Bu tartışmalı gelmeyebilir, ancak hemen birçok kişi NHS gibi Amazon gibi bir teknoloji deviyle çalışan endişelerini dile getirdi.
Akıllı makinelere güvenmeli misiniz ?
Big Brother Watch kampanya grubundan Silkie Carlo, “NHS’nin Amazon’la bir ortaklık arayışına girdiğini düşünüyorum. . Amazon, üçüncü taraflarla sağlık verilerini paylaşmayacağı veya müşterilere reklam vermeyi hedefleyen herhangi bir sağlık sorusu kullanmayacağı konusunda ısrar ediyor.
Ancak Carlo ikna olmadı.“Kitap ve müzik arayan insanlar ile sağlık sorunları hakkında bilgi arayan insanlar arasında nasıl ayrım yapabilirler?” o soruyor.Bu, Amazon’un insanların sağlık kaygıları hakkında ayrı bir veri kümesi oluşturma niyetinde olduğu anlamına gelirse, bu daha da endişe verici olduğunu söylüyor.
Yüksek kalite
Ancak, şirketi Alexa olan yazılımı geliştiren William Tunstall-Pedoe farklı bir bakış açısına sahip. Artık Amazon’la bağlantısı yok, ancak insanların Alexa sağlık soruları yıllardır sorduğunu ve iyi cevap almaları önemli olduğunu söylüyor.”Bu ortaklık, bilginin daha önce bulunmamış olabileceği NHS’den gelen yüksek kaliteli, klinisyenin önderliğinde olduğu anlamına geliyor” diyor.Sağlık verilerinin nasıl kullanılacağına dair endişelerin bulunmasının meşru olduğunu söylüyor, ancak aynı endişeleri benzer sorular sormak için kullandığımız her arama motorunda da geçerli.Yapay zeka ve özerk sistemler hızlı ilerleme kaydettikçe, başka iki sorun ortaya çıkıyor.
Bazen AI’nın arkasındaki bilim adamları, kara kutu sistemlerinde neler olup bittiğinden pek net değiller. Bazen teknoloji kullanıcıları, makinelerin insan müdahalesi olmadan karar verdiğini bile bilmiyorlar.İngiltere’deki York Üniversitesi’nde Özerklik Sağlama Merkezi’ndeki araştırmacılar bu olguya “kazayla özerklik” diyorlar.
Akıllı makinelere güvenmeli misiniz ?
Merkezin direktörü Prof John McDermid bir örnek veriyor: Boeing’in 737 Max uçağını içeren iki kaza için suçlanan yazılım. “Pilotları yeniden eğitmek zorunda kalmaktan kaçınmak için Boeing, sisteme arka planda otomatik olarak çalışacağını düşündüğü sistem hakkında onlara bilgi vermemeye karar verdi. Özünde, bilmeleri gerekmedi” dedi.Hayati bir yazılımla, operatörlerin – bu durumda pilotların – ne olduğunu anlamalarının ve gerektiğinde özerk sistemin kontrolünü devralmalarının zorunlu olduğunu söylüyor.Meslektaşı Dr. Ana MacIntosh, her türlü karmaşık AI sisteminin içinde neler olup bittiğini anlama konusunda daha geniş bir sorun olduğunu söylüyor.“Sistemler tarafından alınan kararların“ açıklanabilirliği ”, daha önce bu kararları almış olabilecek bir insanla sohbet etmekten çok farklı” diyor.
“Birçok durumda bu kararların nasıl alındığını anlamıyoruz.”
Akıllı makineler sağlık hizmetlerinden hava güvenliğine kadar her şeyde daha büyük bir rol oynuyor – ancak yeni etik ikilemler getiriyorlar.
