Önemli Çıkarımlar:
Çin'in bankacılık düzenleyicisi, finansal kurumlara yapay zeka uygulamalarını risk seviyesine göre sınıflandırma ve kişisel verileri model eğitiminde kullanmama talimatı vererek, küresel finans alanında yapay zeka için en kuralcı çerçevelerden birini oluşturdu.
Ulusal Finansal Düzenleme Kurumu (NFRA), Pazartesi günü bankacılık ve sigorta sektörleri için yapay zekanın güvenli gelişimi ve uygulanmasına ilişkin rehber görüşünü yayımlayarak, Çin'in finans sektörü genelinde yönetişim yapıları, risk sınıflandırma sistemleri ve veri gizliliği korumaları zorunlu kıldı. Kurallar, NFRA denetimine tabi tüm politika bankaları, ticari bankalar, sigorta şirketleri, varlık yöneticileri ve finansal holding şirketleri için geçerli.
"Yönetim kurulu veya belirlenmiş bir komite, yapay zeka geliştirme ve uygulama yönetiminden sorumlu olacak, geliştirme planları hazırlayacak ve fonksiyonlar arası koordinasyon mekanizmaları oluşturacaktır," ifadelerini kullanan NFRA, söz konusu belgenin web sitesinde yayımlandığını belirtti. Kurumlar, bir lider departman belirlemek ve yapay zeka dağıtımını risk yönetimi yetenekleriyle eşleştirmek için yetenek havuzları oluşturmak zorunda.
Düzenleme, iki kademeli bir risk sınıflandırma sistemi oluşturuyor. Fon işlemleri, varlık değerlemesi, kredi sigortalaması, sigorta talepleri ve risk yönetimi — veya müşteri çıkarlarını ya da finansal sözleşmeleri doğrudan etkileyen herhangi bir üretken yapay zeka kullanımı — içeren yapay zeka uygulamaları "yüksek riskli" olarak sınıflandırılıyor ve dağıtımdan önce kurumun risk yönetimi komitesinin onayını gerektiriyor. Bu yüksek riskli uygulamalar, kritik karar noktalarında insan gözetimi ve müdahale mekanizmaları ile yedek sistemler veya manuel geri dönüş prosedürleri içermeli.
Veri Gizliliği ve Altyapı Zorunlulukları
NFRA, mevcut siber güvenlik yasalarının ötesine geçen katı veri gizliliği kuralları getirdi. İsimler, ulusal kimlik numaraları, telefon numaraları ve banka kartı numaraları dahil kişisel veriler "üretken yapay zeka model eğitimi ve optimizasyonu için kullanılamaz," diyen düzenleyici, bankaların ve sigorta şirketlerinin kullanıma sunmak için yarıştığı büyük dil modellerinden müşteri verilerini etkin bir şekilde ayırdı. Kurumlar, güvenlik önlemleri oluşturmalı, içerik filtreleme ve veri maskeleme uygulamalı ve veri zehirleme saldırılarını önlemeli.
Altyapı tarafında NFRA, finansal kurumlara yeşil teknoloji kullanarak "özerk ve kontrol edilebilir" bilgi işlem tabanları inşa etme talimatı verdi ve büyük bankaları daha küçük bankalara bilgi işlem hizmetleri sağlamaya teşvik etti. Düzenleyici ayrıca, kurumlar arasında paylaşılan model yeniden kullanımı için Model-olarak-Hizmet platformları dahil olmak üzere sektör genelinde yapay zeka uygulama altyapısının inşasını teşvik etti. Bu direktif, yapay zeka inovasyonu ve "AI+" eylem stratejisini önceliklendiren Çin'in 15. Beş Yıllık Planı ile uyumlu.
Düzenleme ayrıca tedarik zinciri risklerini de ele alıyor. Finansal kurumlar, bireysel teknoloji satıcılarına aşırı bağımlılıktan kaynaklanan yoğunlaşma riskini yönetmeli, açık kaynak bileşenlerinin kayıtlarını tutmalı ve kod denetimleri ile güvenlik açığı taramaları gerçekleştirmeli. Harici üretken yapay zeka modelleri, dağıtımdan önce Çin Siber Uzay İdaresi'ne kaydedilmeli.
Kuralların Çin'in Finansal Yapay Zeka Pazarı İçin Anlamı
Çerçeve, hem uyum maliyetleri hem de iş fırsatları yaratıyor. NFRA verilerine göre Çin'in bankacılık sektörü, toplam varlıklarda yaklaşık 417 trilyon yuan (57,6 trilyon $) tutuyor ve bu da onu küresel olarak yapay zeka altyapısı için en büyük adreslenebilir pazarlardan biri haline getiriyor. Büyük kurumların yapay zeka yeteneklerini daha küçük bankalarla paylaşma zorunluluğu, sektör genelinde yeni bir teknoloji tedarik dalgasını tetikleyebilir.
Kurallar ayrıca, yapay zeka egemenliği için daha geniş bir küresel çabayı yansıtıyor. NFRA'nın "özerk ve kontrol edilebilir" teknoloji vurgusu, Sarvam AI'ın yakın zamanda Hint dilleri ve kurumsal kullanım durumları için tam yığın yapay zeka inşa etmek üzere 1,5 milyar $ değerleme ile 234 milyon $ topladığı Hindistan'daki ve hükümetin ulusal güvenlik endişelerini gerekçe göstererek Anthropic'in en son modellerine yabancı uyrukluların erişimini askıya almasını emrettiği ABD'deki benzer hamleleri yansıtıyor.
Teknoloji satıcıları için düzenleme, ikiye bölünmüş bir pazar yaratıyor. Huawei'nin Ascend bilgi işlem platformu ve Baidu'nun PaddlePaddle çerçevesi dahil yerel yapay zeka altyapı sağlayıcıları, yerli teknolojiye yönelik baskıdan faydalanırken, yabancı bulut sağlayıcıları ek uyum engelleriyle karşılaşıyor. NFRA'nın tedarik zinciri risk yönetimi ve yoğunlaşma limitleri gerekliliği, tek bir yabancı satıcıya bağımlılığı etkin bir şekilde caydırıyor.
NFRA, yapay zeka düzenleme politikaları için yıllık bir değerlendirme mekanizması kuracağını ve izleme ile erken uyarı sistemleri inşa edeceğini belirtti. Halka açık veya yüksek riskli uygulamalar için üretken yapay zeka kullanan finansal kurumlar, düzenleyiciye rapor vermeli. Bir sonraki uyum kilometre taşı, kurumların NFRA'nın sonraki uygulama kılavuzlarında belirlenen zaman çizelgesi içinde tamamlaması gereken risk sınıflandırma sistemleri ve veri yönetişim çerçevelerinin uygulanması olacak.
Bu makale yalnızca bilgilendirme amaçlıdır ve yatırım tavsiyesi niteliği taşımaz.
