Çin, insan benzeri etkileşim kuran yapay zeka hizmetlerinde bağımlılık riski, psikolojik etkiler ve içerik sınırlarına odaklanan yeni düzenlemelerle sağlayıcılara müdahale ve sorumluluk yükümlülüğü getirmeyi hedefliyor.
HABER MERKEZİ – Çin’in siber düzenleyici kurumu, insan kişiliğini taklit eden ve kullanıcılarla duygusal etkileşim kuran yapay zeka hizmetlerine yönelik denetimi artırmayı amaçlayan taslak düzenlemeleri kamuoyunun görüşüne açtı.
Yeni taslak kurallar, Pekin yönetiminin tüketiciye yönelik yapay zeka uygulamalarının hızla yayılmasını güvenlik ve etik standartlar üzerinden şekillendirme çabasını ortaya koyuyor.
Reuters’ın haberine göre düzenlemeler; metin, görsel, ses, video veya diğer yollarla kullanıcılarla duygusal etkileşime giren, insan benzeri kişilik özellikleri, düşünme biçimleri ve iletişim tarzları sunan yapay zeka ürün ve hizmetlerini kapsıyor.
BAĞIMLILIK UYARISI VE MÜDAHALE ŞARTI
Taslak düzenlemeye göre hizmet sağlayıcılar, kullanıcıları aşırı kullanıma karşı uyarmak ve bağımlılık belirtileri görülmesi halinde müdahalede bulunmakla yükümlü olacak.
GÜVENLİK VE KİŞİSEL VERİ SORUMLULUĞU
Önerilen kurallar, sağlayıcıların ürün yaşam döngüsü boyunca güvenlik sorumluluğu üstlenmesini, algoritma denetimi, veri güvenliği ve kişisel bilgilerin korunmasına yönelik sistemler kurmasını zorunlu kılıyor.
PSİKOLOJİK RİSKLERE ÖZEL VURGU
Taslakta, olası psikolojik riskler de hedef alınıyor. Buna göre sağlayıcıların kullanıcıların ruh hâlini, duygusal durumlarını ve hizmete olan bağımlılık düzeylerini tespit etmesi ve değerlendirmesi bekleniyor. Kullanıcılarda aşırı duygusal tepkiler ya da bağımlılık davranışları tespit edilmesi halinde, gerekli önlemlerin alınması öngörülüyor. Düzenleme, içerik ve davranışlara ilişkin kırmızı çizgiler de getiriyor. Buna göre yapay zeka hizmetleri, ulusal güvenliği tehlikeye atan, söylenti yayan, şiddeti ya da müstehcenliği teşvik eden içerikler üretemeyecek.
