Kaliforniya Valisi Gavin Newsom, yapay zekâ tabanlı arkadaşlık sohbet robotlarını (AI companion chatbots) düzenleyen SB 243 adlı yasa tasarısını imzalayarak, bu alanda yasal çerçeve oluşturan ilk ABD eyaleti oldu.
Yeni yasa, çocukları ve hassas kullanıcıları korumayı hedefliyor. Şirketlere, sohbet botlarının güvenlik protokollerini oluşturma ve ihlal durumlarında yasal sorumluluk yükümlülüğü getiriyor. Bu kapsamda Meta, OpenAI, Character.AI ve Replika gibi hem büyük teknoloji firmaları hem de niş girişimler yasanın gerekliliklerine uymak zorunda kalacak.
SB 243, bu yılın başında Senatörler Steve Padilla ve Josh Becker tarafından sunulmuştu. Düzenleme, özellikle OpenAI’nin ChatGPT sisteminde yaşanan intihar vakasının ardından hız kazandı. 17 yaşındaki Adam Raine, platformda uzun süren intihar içerikli sohbetlerin ardından yaşamına son vermişti. Ayrıca Meta’nın sohbet botlarının çocuklarla “romantik” içerikli konuşmalar yaptığına ilişkin belgeler de tartışmaları alevlendirmişti.
Vali Newsom, yaptığı açıklamada şu ifadeleri kullandı:
“Yeni teknolojiler ilham verici olabilir; ama denetimsiz bırakıldıklarında istismar, manipülasyon ve ciddi tehlikeler doğurabilirler. Çocuklarımızın güvenliği pazarlık konusu değildir.”
Yasa, 1 Ocak 2026 itibarıyla yürürlüğe girecek.
Yeni düzenleme uyarınca:
Platformlar yaş doğrulama sistemlerini kurmak zorunda.
Sohbet robotları kullanıcıya yapay zekâ ile konuştuğunu açıkça belirtmekle yükümlü.
Sağlık uzmanı kimliği takınmak, cinsel içerik sunmak veya çocuklara görsel olarak uygunsuz materyaller göstermek yasak.
Şirketler, intihar ve kendine zarar verme içeriklerine karşı önleyici sistemler kurarak istatistikleri eyalet sağlık kurumlarına bildirecek.
Yasadışı “deepfake” üretiminden kâr elde edenler, 250.000 dolara kadar para cezası alabilecek.
Bazı firmalar, yasanın yürürlüğe girmesinden önce de önlem almaya başladı.
OpenAI, ebeveyn denetimi, içerik filtreleme ve kendine zarar verme algılama sistemleri geliştirdiğini duyurdu.
Replika ise yalnızca 18 yaş üzeri kullanıcıları hedeflediğini, güvenlik için önemli kaynaklar ayırdığını belirtti.
Character.AI ise platformundaki tüm sohbetlerin yapay zekâ tarafından üretildiğini açık şekilde belirttiğini, düzenleyicilerle iş birliği yapmaya hazır olduklarını açıkladı.
Senatör Padilla, yasanın “doğru yönde atılmış bir ilk adım” olduğunu söyledi:
“Bu teknolojinin kontrolsüz kalmasına izin veremeyiz. Diğer eyaletlerin de bu riski fark ederek harekete geçmesini umuyorum.”
Bu gelişme, Kaliforniya’nın son haftalarda çıkardığı ikinci önemli yapay zekâ yasası oldu. 29 Eylül 2025’te yürürlüğe giren SB 53 yasası, büyük yapay zekâ laboratuvarlarının güvenlik politikaları konusunda daha fazla şeffaflık talep ediyor ve whistleblower koruması getiriyor.
ABD’de Illinois, Nevada ve Utah gibi eyaletler de yapay zekâ sohbet botlarının lisanslı ruh sağlığı hizmetlerinin yerine kullanılmasını sınırlayan veya yasaklayan benzer düzenlemeleri yürürlüğe koymuş durumda.