نوعمر کی خودکشی کے بعد اوپن اے آئی کے نئے حفاظتی اقدامات

اوپن اے آئی نے اعلان کیا ہے کہ وہ ویب اور موبائل پر چیٹ جی پی ٹی کے لیے والدین کی نگرانی کے فیچرز متعارف کر رہا ہے۔ یہ اقدام ایک نوعمر کی خودکشی کے بعد سامنے آیا ہے، نوعمر کے والدین نے مقدمہ دائر کیا ہے جس میں انہوں نے الزام عائد کیا کہ چیٹ بوٹ نے مبینہ طور پر متوفی کو نقصان پہنچانے کے طریقے بتائے تھے۔

کمپنی کے مطابق نئے فیچرز والدین اور نوعمروں کو اکاؤنٹس لنک کرنے کی سہولت فراہم کریں گے ،تاکہ مضبوط حفاظتی اقدامات نافذ کیے جا سکیں۔ امریکی ریگولیٹرز پہلے ہی چیٹ بوٹس کے ممکنہ منفی اثرات کے باعث اے آئی کمپنیوں کی جانچ تیز کر چکے ہیں۔ اگست میں رپورٹس سامنے آئی تھیں کہ میٹا کے اے آئی ماڈلز بچوں کے ساتھ خطرناک نوعیت کی گفتگو میں شامل ہو سکتے ہیں۔

کمپنی کے مطابق نئے فیچرز والدین اور نوعمروں کو اپنے اکاؤنٹس کو لنک کرنے کی سہولت فراہم کریں گے ،تاکہ ایک مضبوط حفاظتی فریم ورک نافذ کیا جا سکے۔ یہ اقدام ایسے وقت میں سامنے آیا ہے جب امریکی ریگولیٹرز چیٹ بوٹس کے ممکنہ منفی اثرات کے باعث اے آئی کمپنیوں کی جانچ تیز کر چکے ہیں، خصوصاً اگست میں ان رپورٹس کے بعد کہ میٹا ( ایم اے ٹی اے) کے اے آئی ماڈلز بھی بچوں کے ساتھ خطرناک نوعیت کی گفتگو میں شامل ہو سکتے ہیں۔

اوپن اے آئی نے واضح کیا ہے کہ یہ نیا نظام والدین کو کئی اہم معاملات میں فیصلے کرنے کا اختیار دے گا ، والدین حساس مواد کی تشہیر کو محدود کر سکیں گے۔اسی طرح وہ یہ طے کر سکیں گے کہ چیٹ جی پی ٹی ماضی کی چیٹس کو یاد رکھے یا نہیں۔

اس کے علاوہ وہ اس بات کا بھی فیصلہ کر سکیں گے کہ چیٹ کو اوپن اے آئی کے تربیتی مقاصد کے لیے استعمال کیا جائے یا نہیں۔

والدین کو خاموش اوقات مقرر کرنے کی اجازت بھی ہوگی، تاکہ مخصوص اوقات میں نوعمر رسائی حاصل نہ کر سکیں۔وہ آواز کے موڈ، امیج جنریشن اور ایڈیٹنگ جیسے فیچرز کو بھی غیر فعال کر سکیں گے۔

اوپن اے آئی نے واضح کیا ہے کہ والدین کو نوعمروں کی چیٹ ٹرانسکرپٹس تک براہِ راست رسائی نہیں ہوگی۔ کمپنی کے مطابق رازداری کے اس سخت اصول کو صرف نایاب صورتوں میں نرم کیا جائے گا، جب سسٹم سنگین حفاظتی خطرے کی نشاندہی کرے گا۔ ایسی صورتوں میں بھی والدین کو صرف اتنی معلومات فراہم کی جائیں گی جو نوجوانوں کی حفاظت کے لیے ضروری ہوں۔

واضح رہے کہ گزشتہ ماہ میٹا نے بھی اپنی اے آئی مصنوعات کے لیے نابالغ صارفین کی حفاظت کے نئے اقدامات کا اعلان کیا تھا۔ چیٹ جی پی ٹی کا یہ اقدام اے آئی انڈسٹری میں کم عمر صارفین کی آن لائن حفاظت کو یقینی بنانے کی جانب ایک اہم قدم سمجھا جا رہا ہے۔