Yapay Zeka ve Kamu Sağlık Hizmetleri: Cinsiyet Önyargısı Riskleri
Son yıllarda, yapay zeka (YZ) teknolojileri, kamu sağlık hizmetlerinde devrim yaratarak çeşitli alanlarda etkin bir şekilde kullanılmaya başlanmıştır. Ancak bu hızlı gelişim, bazı cinsiyet önyargılarını beraberinde getirebilir. Özellikle İngiltere’deki belediyelerin yarısından fazlasında kullanılan YZ araçlarının, kadınların fiziksel ve zihinsel sağlık durumlarına ilişkin değerlendirmelerde önyargılı sonuçlar doğurabileceği ortaya konmuştur. Bu durum, sağlık hizmetlerinin eşit ve adil bir şekilde sunulması açısından ciddi bir tehdit oluşturmaktadır.
Yapay Zeka Araçlarının Kullanımı ve Etkileri
YZ araçları, sosyal hizmet uzmanlarının iş yükünü hafifletmek amacıyla giderek daha fazla entegrasyon sağlanmaktadır. Ancak bu araçların kullanımı sırasında hangi modellerin tercih edildiği ve bunların karar verme sürecine etkileri üzerine çok az bilgi mevcuttur. Londra Ekonomi ve Siyaset Bilimi Okulu (LSE) tarafından yürütülen bir araştırma, bu konuda önemli bulgular sağlamaktadır.
Önyargıların Belirlenmesi ve Temel Bulgular
LSE araştırması, 617 yetişkin sosyal hizmet kullanıcısının gerçek vaka notlarını incelemiştir. Vaka notlarının cinsiyetleri değiştirilerek, farklı büyük dil modellerine (LLM) verilmesi sonucu elde edilen bulgular oldukça çarpıcıdır. YZ modellerinin erkek ve kadın vakaları arasında nasıl farklılık gösterdiği, 29 bin 616 özet çiftinin analizi ile net bir şekilde ortaya koyulmuştur. Örneğin, erkekler için “karmaşık” ve “hareket kabiliyeti zayıf” gibi ifadeler daha sık kullanılırken, kadınlar için benzer durumlar daha hafif bir dille tanımlanmıştır.
Cinsiyet Temelli Eşitsizlik ve Önyargıların Sonuçları
Dr. Sam Rickman, YZ’nin kadınlara eşit olmayan sağlık hizmeti sunabileceği konusunda ciddi bir uyarıda bulunmaktadır. Yalnızca cinsiyet temelinde değil, aynı zamanda fiziksel ve zihinsel sağlık ihtiyaçlarının değerlendirilmesinde de önemli bir sorun olarak karşımıza çıkmaktadır. Bu tür önyargılı modellerin pratikte kullanımında, kadınların daha az bakım alabileceği belirtilmektedir. Özellikle bakım ihtiyacı olan kadınların göz ardı edilmesi, sağlık hizmetlerinde büyük bir eşitsizliğe neden olabilmektedir.
Çeşitli YZ Modellerinin Karşılaştırılması
Yapılan incelemelerde, test edilen YZ modellerinin cinsiyet temelli farklılıklar yaratma potansiyeli gözlemlenmiştir. Mesela, Google’ın Gemma modeli, diğerlerine kıyasla daha belirgin cinsiyet odaklı eşitsizlikler ortaya koymaktadır. Buna karşın, Meta’nın Llama 3 modeli, cinsiyet açısından farklı bir dil kullanmamaktadır. Bu durum, YZ araçlarının dikkatle seçilmesi gerektiğini bir kez daha vurgulamaktadır.
YZ Araçlarının Şeffaflığı ve Adaleti
Rickman, YZ araçlarının etkili ve adil kullanımı konusunda kamu sektöründe daha fazla şeffaflık sağlanması gerektiğini vurgulamaktadır. YZ sistemlerinin önyargısız ve adil olması, sağlık hizmetlerinin eşit bir şekilde sunulması için kritik bir öneme sahiptir. Ayrıca, uzun vadeli bakım süreçlerinde kullanılan YZ araçlarının sağlık hizmetleri üzerine etkilerinin sürekli olarak gözlemlenmesi gerekmektedir. Regülatörlerin ayrıca algoritmik adaletin sağlanmasına yönelik önlemleri uygulamaları önemlidir.
Kamu Sağlığı ve Yapay Zeka: Gelecek Perspektifleri
Bugün, sağlık sektöründe kullanılan YZ teknolojileri, potansiyel olarak büyük faydalar sağlayabilir. Ancak bu faydaların elde edilebilmesi için, YZ sistemlerinin cinsiyet ve ırk önyargılarından arındırılmış bir biçimde tasarlanması şarttır. Yapay zeka uygulamalarındaki bu eksikliklerin giderilmesi, sağlık hizmetlerinin yalnızca erkeklere değil, kadınlara da eşit bir şekilde sunulmasını sağlayacaktır.
Sonuç Olarak Ne Yapılmalı?
Sonuç olarak, YZ’nin sağlık hizmetlerinde kullanımı dikkatle ele alınmalı ve mevcut cinsiyet önyargıları konusunda daha fazla araştırma yapılmalıdır. Sağlık uzmanları ve araştırmacılar, kadınların ihtiyaçlarını daha iyi anlayarak, adil bir değerlendirme süreci oluşturmalıdır. Bu bağlamda, toplumda farkındalığın artırılması ve sağlık politikalarının gözden geçirilmesi önem taşımaktadır. Unutulmamalıdır ki, adalet ve eşitlik, sağlık sisteminin temel taşlarıdır.
