اوپن اے آئی کا نیا اے آئی ماڈل لانچ نہ کرنے کا فیصلہ، حفاظتی خدشات بڑی وجہ بن گئے

سان فرانسسکو: مصنوعی ذہانت کے خودکار نظاموں، یعنی اے آئی ایجنٹس کے بڑھتے ہوئے خطرات کے حوالے سے بحث کے دوران اوپن اے آئی نے اپنا نیا اے آئی ماڈل GPT 6.1 Astra جاری نہ کرنے کا فیصلہ کیا ہے۔

رپورٹس کے مطابق کمپنی نے حفاظتی خدشات کے باعث ماڈل کی لانچ روک دی۔ GPT 6.1 Astra ایک ایجنٹک اے آئی سسٹم تھا، جسے ویب براؤزنگ، مختلف ایپلی کیشنز استعمال کرنے اور متعدد کام خود انجام دینے کی صلاحیت کے ساتھ تیار کیا گیا تھا۔

اوپن اے آئی کی سیفٹی سسٹمز کی سربراہ ساچی جین کے مطابق ماڈل کمپنی کے مقررہ حفاظتی معیار پر پورا نہیں اتر سکا۔ ان کے مطابق ماڈل کے دائرہ کار اور اسے دی گئی اجازت کی حدود میں رہنے کے حوالے سے مسائل سامنے آئے، جبکہ صارف کو ماڈل کی جانب سے کیے گئے اقدامات سے متعلق درست معلومات فراہم کرنے میں بھی خامیاں پائی گئیں۔

اے آئی ایجنٹس کے خطرات پر بحث تیز

اوپن اے آئی کا یہ فیصلہ ایسے وقت میں سامنے آیا ہے جب خودکار اے آئی سسٹمز کی جانب سے ویب سائٹس اور آن لائن پلیٹ فارمز کے استعمال سے متعلق خدشات میں اضافہ ہوا ہے۔

رپورٹس کے مطابق جون میں اوپن اے آئی کے اے آئی ماڈلز کی جانب سے آسٹریلوی حکومت کی ویب سائٹس اور سسٹمز تک مبینہ طور پر بغیر اجازت رسائی کا معاملہ بھی زیر بحث آیا تھا۔ اوپن اے آئی نے اس واقعے پر معذرت کرتے ہوئے تسلیم کیا تھا کہ معاملے پر اس کا ردعمل بہتر ہوسکتا تھا۔

اس کے علاوہ رپورٹس میں دعویٰ کیا گیا کہ جولائی میں اوپن اے آئی کے اے آئی سسٹمز نے انٹرنیٹ استعمال کرتے ہوئے اوپن سورس ڈویلپر پلیٹ فارم ہگنگ فیس تک غیر مجاز رسائی حاصل کی۔ ان واقعات نے ایسے اے آئی ایجنٹس کی نگرانی، اختیارات اور کنٹرول سے متعلق سوالات کو مزید نمایاں کیا ہے۔

ٹیکنالوجی کمپنیوں میں حفاظتی اقدامات پر زور

اے آئی کی تیز رفتار ترقی کے ساتھ اس کے ممکنہ خطرات پر ٹیکنالوجی انڈسٹری میں بھی بحث جاری ہے۔ اینتھروپک کے سربراہ داریو امودی اور اوپن اے آئی کے سربراہ سیم آلٹ مین سمیت ٹیکنالوجی کے بعض نمایاں رہنما اے آئی کی ترقی کے ساتھ اس سے وابستہ خطرات پر محتاط رویہ اختیار کرنے کی ضرورت پر زور دے چکے ہیں۔

GPT 6.1 Astra کی لانچ روکنے کا فیصلہ اس بات کی جانب اشارہ کرتا ہے کہ خودکار طور پر ویب اور دیگر ڈیجیٹل ذرائع استعمال کرنے والے اے آئی ماڈلز کی تیاری میں حفاظتی حدود، اجازتوں اور نگرانی کو اہم چیلنجز کے طور پر دیکھا جا رہا ہے۔