Meta AI का नया सेफ्टी फीचर: Instagram पर Teenagers ने Self-Harm की बात की तो तुरंत Parents को मिलेगा Alert

  Instagram Teen Accounts: आज के समय में टीनएजर्स अपनी भावनाएं इंसानों से ज्यादा एआई से साझा करने लगे हैं। इसे ही देखते हुए मेटा ने इंस्टाग्...

यह भी पढ़ें :-

 Instagram Teen Accounts: आज के समय में टीनएजर्स अपनी भावनाएं इंसानों से ज्यादा एआई से साझा करने लगे हैं। इसे ही देखते हुए मेटा ने इंस्टाग्राम पर एक सेफ्टी फीचर जोड़ा है। अब अगर कोई भी टीनेजर इंस्टाग्राम के पैरेंटल सुपरविजन वाले अकाउंट के जरिए मेटा एआई से चैट करते समय डिप्रेशन, आत्महत्या या खुद को नुकसान पहुंचाने जैसी कोई भी बात करता है, तो सिस्टम बिना देर किए उसके माता-पिता को सावधान करेगा।

इसके साथ ही मेटा पैरेंट्स को मानसिक स्वास्थ्य विशेषज्ञ की ओर से तैयार किया गया एक मार्गदर्शन भी देगा, जिससे वे समझ सकें कि इस कठिन परिस्थित में अपने बच्चे से किस तरह बात करनी है और उसे ऑफलाइन सपोर्ट कैसे मिल पाएगा।

 

Meta AI Safety Feature: किन देशों में शुरू हुई यह सुविधा?

 

• मेटा ने इस फीचर को फिलहाल यूनाइटेड स्टेट्स, ऑस्ट्रेलिया और कनाडा में उन यूजर्स के लिए उपलब्ध कराया है, जो इंस्टाग्राम के पैरेंटल सुपरविजन टूल का उपयोग कर रहे हैं।
• हालांकि मेटा का कहना है कि 2026 के अंत तक इस सुविधा को दुनिया भर में उपलब्ध करा दिया जाएगा। इसे लेकर मेटा ने अपने आधिकारिक ब्लॉग में कहा है कि कंपनी चाहती है कि टीनएजर्स को एआई के साथ उनकी उम्र के अनुसार सुरक्षित अनुभव मिले।
  कैसे काम करेगा यह सिस्टम?
  मेटा एआई पहले से ही सुसाइड या सेल्फ-हार्म जैसे शब्द मिलने पर यूजर को किसी भरोसेमंद व्यक्ति, काउंसलर या Crisis Helpline से संपर्क करने की सलाह देता है। अब नए अपडेट में अगर एआई को लगे कि पैरेंटल सुपरविजन वाले टीनएजर पर जोखिम है, तो सिस्टम पैरेंट्स को खुद अलर्ट भेजेगा।

   

  मेंटल हेल्थ एक्सपर्ट्स की मदद से हुआ है तैयार

  • मेटा के अनुसार इस डिटेक्शन सिस्टम को मेंटल हेल्थ एक्सपर्ट्स की मदद से तैयार किया गया है, जिससे यह केवल सीधे शब्द ही नहीं, बल्कि मानसिक तनाव के छोटे-छोटे संकेतों को भी पहचान सके।
  • कंपनी ने यह भी स्पष्ट किया है कि एआई की ओर से फ्लैग की गई हर बातचीत का पहले मैनुअल रिव्यू किया जाएगा। इसके बाद पुष्टि होने पर ही पैरेंट्स को अलर्ट भेजा जाएगा। अगर किसी स्थिति में संदेह होगा, तो कंपनी सुरक्षा को प्राथमिकता देते हुए पैरेंट्स को सूचित करेगी।

  Emergency Alert फीचर पर भी काम

• इसके बाद अगर एआई को लगे कि कोई किशोर मानसिक संकट से जूझ रहा है, तो उसका उद्देश्य उससे सिर्फ बातचीत करना ही नहीं, बल्कि ऑफलाइन सपोर्ट करना भी है।
  • यही नहीं मेटा एक और नई सुविधा विकसित कर रहा है, जिसमें अगर किसी यूजर में तुरंत सुसाइड जैसे शब्द या संकेत मिलता हैं, तो इमरजेंसी सर्विस  को भी अलर्ट किया जाएगा।
  • हालांकि कंपनी का कहना है कि फेसबुक और इंस्टा जैसे एप्स पर पहले से ही गंभीर सुसाइड रिस्क वाले पोस्ट पर इमरजेंसी रिस्पोंडर्स को सूचना भेजी जाती है। पिछले वर्ष Meta ने दुनिया भर में ऐसे 19 हजार से अधिक रेफरल किए थे
• AI को बनाया जा रहा है ज्यादा संवेदनशील
  • • मेटा का कहना है कि 75 से अधिकमानसिक स्वास्थ्य विशेषज्ञ की सलाह से Meta AI को और अधिक Empathetic बनाया जा रहा है। अब एआई केवल यूजर्स के सवालों का जवाब नहीं देगा, बल्कि यूजर की भावनाओं को समझने की कोशिश भी करेगा और समय रहते मदद लेने के लिए प्रेरित भी करेगा।
    • इंस्टाग्राम के Teen Accounts पहले से ही Age-Appropriate Settings के साथ आते हैं। अब पैरेंट्स अगर Limited Content Setting चुनते हैं, तो यही सुरक्षा Meta AI चैट्स पर भी लागू होगी। इसका उद्देश्य किशोरों को एल्कोहल या अन्य अनुचित विषयों से जुड़ी बातचीत से अतिरिक्त सुरक्षा देना है।