Çin, yapay zeka destekli intihar, kendine zarar verme ve şiddeti engellemeyi amaçlayan, dünya genelindeki en katı politikalar olabilecek yeni kurallar taslağını hazırladı. Çin Siber Uzay İdaresi tarafından önerilen bu kurallar, metin, görsel, ses, video veya diğer yollarla insan konuşmasını simüle eden ve Çin'de halka açık tüm yapay zeka ürün ve hizmetlerini kapsayacak. NYU Hukuk Fakültesi'nden Winston Ma'ya göre, bu kurallar, küresel olarak artan arkadaş botu kullanımının olduğu bir dönemde, insan veya antropomorfik özelliklere sahip yapay zekayı düzenlemeye yönelik dünyadaki ilk girişim olacak.
Bu adımlar, yapay zeka arkadaşlarının kendine zarar verme, şiddet ve terörizmi teşvik etmesi gibi ciddi sorunlara dair artan farkındalığın bir sonucu. Sohbet botlarının zararlı yanlış bilgiler yaydığı, istenmeyen cinsel yaklaşımlarda bulunduğu, madde bağımlılığını teşvik ettiği ve kullanıcılara sözlü tacizde bulunduğu da tespit edildi. Bazı psikiyatristler, sohbet botu kullanımını psikozla ilişkilendirmeye başlarken, dünyanın en popüler sohbet botu ChatGPT'nin çocuk intiharı ve cinayet-intiharıyla bağlantılı çıktılar nedeniyle davalara konu olduğu biliniyor.
Önerilen kurallar, en aşırı tehditleri ortadan kaldırmayı hedefliyor. Örneğin, intihar kelimesi geçtiği anda bir insan müdahalesinin zorunlu olmasını gerektiriyor. Ayrıca, tüm reşit olmayan ve yaşlı kullanıcıların kayıt olurken bir vasinin iletişim bilgilerini sağlaması ve intihar veya kendine zarar verme konuları tartışıldığında vasinin bilgilendirilmesi şart koşuluyor. Genel olarak, sohbet botlarının intiharı, kendine zarar vermeyi veya şiddeti teşvik eden içerik üretmesi, yanlış vaatlerde bulunarak kullanıcıları duygusal olarak manipüle etmesi yasaklanacak. Ayrıca müstehcenliği, kumarı veya suç işlemeyi teşvik etmek, kullanıcılara iftira atmak veya hakaret etmek de yasaklar arasında. "Duygusal tuzaklar" olarak adlandırılan durumlar da yasaklanacak; sohbet botlarının kullanıcıları "mantıksız kararlar" almaya yönlendirmesi engellenecek.
Çin'in yapay zeka destekli intihar ve şiddeti önlemeye yönelik taslak kuralları, yapay zeka etiği ve güvenliği konusunda küresel bir emsal teşkil edebilir.