Yapay Zeka (AI), bankacılık sektörü de dahil olmak üzere son yıllarda birçok alanı üzdü. Bu makale, kredi verilmesinde algoritmik ayrımcılık sorununa vurgu yaparak olumlu tarafları araştırıyor, ancak kuruluşuna da zararlı.
Kanada'da ve daha geniş bir şekilde dünyada, büyük bankalarda yapay zekanın kurulması etkinleştirildiVerimliliği artırmak Hizmetlerin daha fazla kişiselleştirilmesi sunarken.
Dünya çapında, IEEE Global AnketiAI tabanlı çözümlerin benimsenmesi 2025'te ikiye katlanmalıdır. Finansal kurumların % 80'i. Bazı bankalar, denetlemek için özel pozisyonlar oluşturan BMO Financial Group gibi daha ileri düzeydedir. AI'nın dijital hizmetlerine entegrasyonubir rekabet mantığı içinde. Bu nedenle, AI sayesinde, dünya bankacılığı endüstrisinden elde edilen karlar, 2028 yılına kadar 2 milyar ABD dolarını aşabilir ve neredeyse büyümeyi temsil eder. 2024 ve 2028 arasında % 9.
Laval Üniversitesi'nde tam profesör Bilgi ve İnovasyon Yönetimi Ve bilimsel popülerleştiriciBu makaleyi Algoritmik Ayrımcılık üzerine bir araştırma projesinin yazarı Kanet Oumar Bah ve Fransa'daki İhtiyatlı ve Çözüm Kontrol Otoritesinde yönetişim uzmanı ve siber riskler Aziza Halilem ile yazdım.
Bankaların performansını nasıl iyileştirir?
Yapay zekanın bankacılık sektörüne entegrasyonu, finansal süreçleri önemli ölçüde optimize etmeyi mümkün kıldı, Operasyonel verimliliğin % 25 ila 40'ı. Büyük verilerin artan kapasiteleri ile birleştiğinde, yani büyük veri toplama, AI güçlü bir analitik bileşen sunar, bu da zaten Finansal sistemlerdeki hata marjlarını % 18'den % 30'a düşürün.
Ayrıca milyonlarca işlemi gerçek zamanlı olarak izlemeyi, orada şüpheli davranışları tespit etmeyi ve hatta bazı hileli operasyonları önleyici olarak önlemeyi mümkün kılar. Bu, özellikle tarafından uygulanan kullanımlardan biridir. JP Morgan Bank. Ayrıca, karar verme temelli AI analizinde uzmanlaşmış FICO gibi platformlar, finansal kurumlara yardımcı olmak Müşterileri hakkında bir dizi veri kullanınkredi kararlarını gelişmiş öngörücü modeller aracılığıyla geliştirmek.
Zaten konuşmanın bültenine binlerce abone. Peki sen ? Önemli çağdaş sorunları daha iyi anlamak için bültenimize ücretsiz abone olun.
Dünyadaki birkaç banka, birkaç saniye içinde birçok parametreyi inceleyebilen otomatik derecelendirme algoritmalarına güvenmektedir: gelir, kredi geçmişi veya borç oranları. Kredi piyasasında bu araçlar isteklerin işlenmesini önemli ölçüde geliştirinözellikle açık borçlanma garantileri olanlar gibi “standart” durumlar için.
Yine de, diğer vakalar ne olacak?
AI kredi hibelerde, adaletsizlikleri sistemize ediyor mu?
TAMBARI NUKA ve AMOS OGUNOLA'nın altını çizerken, iki Amerikalı araştırmacı, algoritmaların adil ve nesnel tahminler üreteceği yanılsaması bir Bankacılık sektörü için büyük risk. Bilimsel yazılar göz önüne alındığında, bu yazarlar otomatik sistemlere karmaşık insan davranışının değerlendirilmesini körü körüne delege etme cazibesini uyarıyorlar. Kanada'nınki de dahil olmak üzere birkaç merkez bankası da güçlü rezervler ifade etti ve AI'ya aşırı bağımlılık ile bağlantılı operasyonel risklerözellikle tahminler ve ödeme gücü değerlendirmeleri için.
Algoritmalar teknik olarak nötr olmasına rağmen, Mevcut eşitsizlikleri güçlendirin Eğitim verileri, özellikle belirli gruplara karşı sistemik ayrımcılıktan miras alınan tarihsel önyargılarla lekelendiğinde. Bu önyargılar sadece tür veya etnik köken gibi açık değişkenlerden değil, aynı zamanda Dolaylı korelasyonlar İkamet yeri veya iş türü gibi faktörlerle.
(Shutterstock)
Örneğin, derecelendirme sistemleri, erkeklere eşdeğer finansal durumlarda bile kadınlara daha düşük kredi tavanları atayabilir. Posta kodu ve profesyonel geçmiş gibi değişkenlerin analizi de Marjinal grupların üyelerinin dışlanmasıırksallaştırılmış bireyler, düzensiz geliri olan işçiler ve hatta yeni göçmenler gibi.
Virginia Eubanks, Amerika Birleşik Devletleri Profesörü ve Sosyal Adalet Uzmanı, Bu fenomeni iyi gösterir : Tarihsel olarak dezavantajlı mahallelerde veya atipik kariyer yollarında ikamet eden bireylerin önyargılı verilere dayalı otomatik finansal kararlarla nasıl cezalandırıldığını gösterir.
Sonuç olarak, önemli bir soru esastır: Finansal kararların otomasyonunun bankacılık hizmetlerine erişimdeki eşitsizliklerin azaltılmasına yardımcı olduğunu nasıl garanti edilir?
Kapsayıcı finansmanla solunum hataları
Ayrımcılık riskleriyle karşı karşıya kalan bilimsel literatürde birkaç yol araştırılmaktadır. Örneğin Nuka ve Ogunola bir Finansal İçerme Yaklaşımı. Bu, sosyal gruplar arasındaki işleme farklılıklarını azaltmak için eğitim verilerindeki önyargıları tanımlayarak ve düzelterek istatistiksel modellerin sürekli olarak iyileştirilmesinden oluşur.
Teknik çözümlerin ötesinde, düzenleyici yöneticiler yakın zamanda finans gibi hassas sektörlerde algoritmaların şeffaflığını ve eşitliğini garanti etmek için kurulmuştur. Orada Kanada Yapay Zeka ve Veriler Hukukuveya Yapay Zeka Üzerine Avrupa Düzenlemesi örneklerdir. 2024 yılında kabul edilen ve kademeli olarak uygulanan ikincisi, kredi verilmesi için kullanılanlar gibi yüksek riskli AI sistemleri için özellikle katı gereksinimler uygular.
Madde 13 Sistemlerin denetlenmesini sağlamayı ve kararlarını tüm paydaşlar tarafından anlamayı amaçlayan şeffaflık yükümlülükleri sağlar. Amaç, herhangi bir algoritmik ayrımcılıktan kaçınmak ve etik ve adil kullanımı garanti etmektir. Finansal düzenleyicilerin de önemli bir rolü vardır: adil rekabet kurallarına uyum sağlamak ve finansal istikrar ve müşteri koruması yararına ihtiyatlı ve şeffaf uygulamaları garanti etmek.
Fakat, Bazı teknolojik ve finansal lobiler tarafından uygulanan baskılar Sıkı standartların kabul edilmesini engellemek önemli bir risk ağırlığındadır: belirli ülkelerde düzenleme eksikliği ve başkalarında uygulama zorlukları, en savunmasız vatandaşların zararına, opaklığı teşvik edebilir …
