OpenAI, Olası Kendine Zarar Durumları İçin Yeni 'Güvenilir Kişi' Korumasını Tanıttı

OpenAI, Olası Kendine Zarar Durumları İçin Yeni 'Güvenilir Kişi' Korumasını Tanıttı

OpenAI, yapay zeka destekli sohbet asistanı ChatGPT’nin güvenliğini bir adım daha ileriye taşıyarak, kullanıcıların kendine zarar verme eğilimlerini tespit ettiklerinde otomatik olarak bir "Güvenilir Kişi"ye bildirim gönderebilen yeni bir özellik duyurdu. Bu yenilik, platformun kullanıcı sağlığını koruma çabalarının bir parçası olarak öne çıkıyor.

Geliştiriciler, bu özelliği özellikle duygusal kriz anlarında yalnız kalma riskine karşı bir güvenlik kalkanı olarak konumlandırıyor. Kullanıcılar, kendilerini güvende hissettikleri bir aile üyesi, arkadaş ya da profesyonel destek sağlayıcıyı önceden belirleyebilecek ve sistem, riskli bir konuşma algılandığında bu kişiye gizli bir uyarı iletecek.

Hakkında

ChatGPT, dünya çapında milyonlarca insan tarafından günlük iletişim, öğrenme ve iş süreçlerinde kullanılmaktadır. Ancak, geniş kullanıcı kitlesi içinde zaman zaman duygusal sıkıntı yaşayan ve kendine zarar verme düşünceleriyle mücadele eden bireylerin de bulunduğu biliniyor. OpenAI, bu soruna yanıt vermek için önceki yıllarda içerik filtreleme ve duygu analizi gibi önlemler almıştı; şimdi ise daha proaktif bir yaklaşım benimsiyor.

Yeni “Güvenilir Kişi” mekanizması, yapay zekanın yalnızca zararlı içerikleri engellemekle kalmayıp, aynı zamanda gerçek zamanlı bir destek ağı oluşturmasını sağlıyor. Bu, özellikle genç kullanıcılar ve mental sağlık sorunlarıyla mücadele eden kişiler için kritik bir adım olarak değerlendiriliyor.

Etkinliğin Detayları

Bu özellik, kullanıcıların ChatGPT ayarları menüsünden “Güvenilir Kişi” sekmesini etkinleştirmeleriyle aktif hale geliyor. Kullanıcı, isim, e‑posta adresi ve isteğe bağlı olarak telefon numarası gibi iletişim bilgilerini giriyor. Sistem, bu bilgileri şifreli bir veri tabanında saklıyor ve yalnızca belirlenen koşullar gerçekleştiğinde (örneğin, kendine zarar verme eğilimi gösteren ifadeler tespit edildiğinde) bu kişiye bir bildirim gönderiyor.

Bildirim, kullanıcının gizliliğini koruyacak şekilde tasarlanmış; sadece “ChatGPT bir risk algıladı ve sizinle iletişime geçmek istiyor” gibi genel bir mesaj içeriyor. Kullanıcı, bu mesajı alıp almayacağını ve ne kadar detay paylaşılacağını kontrol edebiliyor. Ayrıca, kullanıcı istediği zaman bu özelliği devre dışı bırakma hakkına sahip.

Özellikler

Güvenilir Kişi özelliği, aşağıdaki temel bileşenleri içeriyor:

• Risk Algılama Motoru: Gelişmiş dil modeli, kendine zarar verme niyeti taşıyan ifadeleri yüksek doğrulukla tanımlıyor.
• Gizli Bildirim Sistemi: Belirlenen güvenilir kişiye, kullanıcının kimliğini ifşa etmeyen anonim bir uyarı gönderiliyor.
• Kişiselleştirilebilir Ayarlar: Kullanıcı, bildirim sıklığını, hangi durumlarda tetikleneceğini ve hangi iletişim kanalının kullanılacağını seçebiliyor.
• Veri Güvenliği: Tüm iletişim bilgileri uçtan uca şifreleme ile korunuyor ve sadece belirlenen senaryolarda erişilebiliyor.
• Geri Bildirim Döngüsü: Kullanıcı ve güvenilir kişi, sistemin doğruluğu hakkında geri bildirimde bulunarak algoritmanın iyileştirilmesine katkı sağlıyor.

Neler Bekleniyor?

OpenAI, bu özelliği önümüzdeki aylarda tüm ChatGPT kullanıcıları için kademeli olarak devreye almayı planlıyor. İlk aşamada, beta test programına katılan kullanıcıların geri bildirimleri doğrultusunda algoritma ve kullanıcı deneyimi iyileştirilecek. Resmi lansmanın ise 2026 ikinci çeyreğinde gerçekleşmesi hedefleniyor.

Uzmanlar, bu tür bir güvenlik mekanizmasının mental sağlık destek hizmetleriyle entegrasyonunun da ileride mümkün olabileceğini belirtiyor. OpenAI, gelecekte “Güvenilir Kişi”yi profesyonel terapistler ve kriz hatlarıyla bağlayarak daha geniş bir yardım ağı oluşturmayı düşünüyor.

Sonuç

OpenAI’nin “Güvenilir Kişi” özelliği, yapay zeka tabanlı sohbet platformlarının sorumluluk bilincini artıran önemli bir adım olarak öne çıkıyor. Kullanıcıların duygusal kriz anlarında yalnız kalmaması, hem bireysel güvenliği hem de toplumsal refahı destekleyecek bir yaklaşım sunuyor. Bu yenilik, teknoloji ve mental sağlık arasındaki köprüyü güçlendirerek, gelecekte daha güvenli ve duyarlı yapay zeka sistemlerinin temelini atıyor.