OpenAI, tartışmalara yanıt olarak gençlere özel ChatGPT sürümünü hayata geçiriyor

Yapay zekâ teknolojisinin gençler üzerindeki olası zararlı etkilerine ilişkin artan kamuoyu baskısı ve yasal soruşturmalar karşısında OpenAI, güvenlik katmanları güçlendirilmiş yeni bir ChatGPT sürümünü kullanıma sunacağını açıkladı.

Gençlere Özel Tasarım

Şirket, "Gençler için ChatGPT" (ChatGPT for Teens) adını verdiği bu özel sürümü Salı günü tanıttı. Yeni model, 13 ile 17 yaş arasındaki kullanıcılar için otomatik olarak devreye girecek. Yaş tespiti, kayıt sırasında beyan edilen bilgilerin yanı sıra kullanım kalıpları ve hesap yaşı gibi veriler üzerinden yapılacak.

Güvenlik Önlemleri Neler?

Yeni sürümde uygulanan başlıca güvenlik tedbirleri şöyle sıralanıyor:

• Kendine zarar verme, şiddet, yeme bozuklukları ve cinsel içerik konularında mevcut kısıtlamaların daha da sıkılaştırılması.
• Sık mol hatırlatıcıları ve sessiz saatler özelliği ile ekran süresinin dengelenmesi.
• Çalışma Modu ile doğrudan cevaplar yerine yol gösterici sorular sunularak gençlerin kaynak materyalleri daha iyi kavramasının sağlanması.
• Ses modu gibi belirli özelliklerin devre dışı bırakılması ve sohbet robotunun kişisel duygular beslediği ya da bilinç sahibi olduğu yönündeki ifadelerin engellenmesi.

Ebeveynlere Uyarı Sistemi

OpenAI, ebeveynlere kendi hesaplarını çocuklarının hesaplarıyla ilişkilendirme imkânı tanıyacak. Kendine zarar verme veya intihar gibi yüksek riskli konuşmaların tespit edilmesi halinde sistem, ebeveynleri uyaracak. Uyarılar, insan moderatörler tarafından incelenecek ve gizliliği korumak amacıyla sohbet kayıtlarındaki bazı ayrıntılar kaldırılacak.

Yasal ve Düzenleyici Baskılar Artıyor

Söz konusu güncelleme, yapay zekâ şirketlerinin giderek artan hukuki ve düzenleyici baskılarla mücadele ettiği bir süreçte geldi. OpenAI, aralarında 16 yaşındaki Adam Raine'in ailesinin açtığı davanın da bulunduğu birçok ölüm davasıyla yüzleşiyor. ABD Federal Ticaret Komisyonu ise dijital arkadaş işlevi gören yapay zekâ sohbet robotlarının çocuklar ve gençler için oluşturduğu risklere odaklanan bir soruşturma yürütüyor.

ABD Kongresi'nde sohbet robotlarını düzenlemeye yönelik çok sayıda yasa tasarısı hazırlanırken, Kaliforniya eyaleti de sanal asistanlar için güvenlik standartlarının zorunlu hale getirilmesine yönelik adımlar atıyor. Sektördeki diğer şirketler de benzer tepkilerle karşılaşırken, Anthropic gibi bazı rakipler modellerinin kullanımını yalnızca yetişkinlerle sınırlandırmayı tercih ediyor.