اے آئی کے خود کو تیار کرنے کی جانب بڑھنے کے انتھروپک کے دعوے کے بعد حفاظتی ضوابط پر بحث تیز

سان فرانسسکو، 18 ستمبر (یو این آئی) مصنوعی ذہانت (اے آئی) سے لاحق خطرات پر بحث گزشتہ چند ماہ کے دوران مزید شدت اختیار کر گئی ہے۔ اس کی وجہ اے آئی سے متعلق متعدد واقعات اور ٹیکنالوجی کے شعبے سے وابستہ افراد کی جانب سے سامنے آنے والی بڑھتی ہوئی اور سخت تنبیہات ہیں۔
یہ صورتحال ایسے وقت میں سامنے آئی ہے جب انتھروپک نے بتایا ہے کہ اس کا چیٹ بوٹ کلاڈ اب کمپنی کے ماڈل سے متعلق تحقیق و ترقی کے 26 فیصد کام کی قیادت کر رہا ہے۔ انتھروپک کے مطابق اس کا مطلب ہے کہ کلاڈ انسانی نگرانی میں ایک اعلیٰ سطح کی ہدایت ملنے پر کسی دیے گئے کام کا بیشتر حصہ "ابتدا سے آخر تک” مکمل کر سکتا ہے۔ تاہم ماڈل ابھی مکمل طور پر خودمختار انداز میں کام نہیں کر رہا۔
کمپنی کے مطابق اب انتھروپک کے تقریباً 90 فیصد تحقیق و ترقی کے کام میں کلاڈ کے ساتھ "تعاون” شامل ہے، یعنی ماڈل "انسانوں کی قریبی رہنمائی میں کام کے بڑے حصے” انجام دے سکتا ہے۔
یہ انکشاف ایسے وقت میں ہوا ہے جب انتھروپک کے چیف ایگزیکٹیو داریو امودی سمیت اے آئی کے بعض نمایاں ماہرین حفاظتی خدشات کے پیش نظر اس ٹیکنالوجی کی ترقی کی رفتار کم کرنے کا مطالبہ کر رہے ہیں۔
زیادہ صلاحیت رکھنے والے اے آئی ایجنٹس پر ڈویلپرز کے کنٹرول کھونے کے خدشات بھی اس وقت بڑھے جب انتھروپک اور اس کی حریف کمپنی اوپن اے آئی کے کئی ماڈلز کے بارے میں اطلاع ملی کہ انہوں نے اپنے کنٹرول شدہ ماحول سے باہر نکل کر انٹرنیٹ تک رسائی حاصل کی اور بیرونی ویب سائٹس اور پلیٹ فارمز کے ساتھ بغیر واضح ہدایت کے تعامل کیا۔
انتھروپک نے ایک رپورٹ میں کہا، "ماڈلز کی اپنی ترقی کو تیز کرنے سے انسانوں کے لیے ان نظاموں کو سمجھنا یا ان پر قابو رکھنا زیادہ مشکل ہو سکتا ہے۔”
کمپنی نے کہا کہ اس طرح کی پیش رفت پر نظر رکھنا اس لیے اہم ہے تاکہ اندازہ لگایا جا سکے کہ ٹیکنالوجی "تکراری خود بہتری” (Recursive Self-Improvement) حاصل کرنے سے کتنی دور ہے۔ اس سے مراد وہ مرحلہ ہے جب کوئی ماڈل مکمل طور پر خودمختار انداز میں اپنا جانشین تیار کرنے کے قابل ہو جائے۔
انتھروپک نے ایک بلاگ پوسٹ میں کہا، "جیسے جیسے ہم اے آئی کی ترقی کی رفتار کو سمجھنا شروع کر رہے ہیں، ہمیں فرنٹیئر لیبارٹریز کو جو کچھ معلوم ہے اور عوام کو جو کچھ معلوم ہے، اس فرق کو کم سے کم کرنے کے لیے ہر ممکن کوشش کرنی چاہیے۔”
کمپنی نے اے آئی کی ترقی کی بہتر پیمائش، زیادہ عوامی رپورٹنگ اور معاشرے کو اس بات پر غور کرنے کے مزید مواقع فراہم کرنے کا مطالبہ کیا کہ اس ٹیکنالوجی کو کس طرح استعمال کیا جانا چاہیے۔
انتھروپک نے دیگر اے آئی کمپنیوں پر بھی زور دیا کہ وہ باقاعدگی سے اسی طرح کے اعداد و شمار شائع کریں اور ایک عوامی طریقۂ کار استعمال کریں تاکہ نتائج کا وقت کے ساتھ اور ممکنہ طور پر مختلف لیبارٹریوں کے درمیان بھی موازنہ کیا جا سکے۔
ابھی یہ واضح نہیں ہے کہ انتھروپک کے خیال میں وہ تکراری خود بہتری کے حصول سے کتنی دور ہے۔ تاہم، کمپنی کی تحقیق میں کلاڈ کے کردار میں جس رفتار سے اضافہ ہوا ہے، وہ قابلِ ذکر ہے۔
فروری میں کلاڈ انتھروپک کے تحقیق و ترقی کے کسی کام کی قیادت نہیں کر رہا تھا۔ چھ ماہ بعد اگست میں وہ انسانی نگرانی میں رہتے ہوئے اس کام کے تقریباً ایک چوتھائی حصے کا ذمہ دار تھا۔
انتھروپک نے واضح کیا کہ کلاڈ ابھی "مکمل طور پر خودمختار” انداز میں کام نہیں کر سکتا۔
کمپنی نے اے آئی ایجنٹس کی نگرانی کے اپنے نظام کی تفصیلات بھی فراہم کیں اور بتایا کہ اگست تک تقریباً 30,000 ایجنٹس تحقیق اور انجینئرنگ کے کام انجام دے رہے تھے۔
انتھروپک کے مطابق اس طرح کی نگرانی یہ جاننے کے لیے اہم ہے کہ ایجنٹس کے ممکنہ طور پر مسائل پیدا کرنے والے رویے کا نگرانی کرنے والے نظام کتنی مرتبہ سراغ لگا لیتے ہیں۔ کمپنی نے بیرونی تیسرے فریق کے جائزہ کار مقرر کرنے کا بھی عہد کیا ہے، جو انتھروپک کے اندر رہ کر اس کی اے آئی حفاظتی کوششوں کی نگرانی کریں گے۔
اے آئی کے ضوابط سے متعلق بحث گزشتہ ہفتے اس وقت مزید تیز ہوگئی جب انتھروپک کے ایک محقق نے استعفیٰ دے کر ٹیکنالوجی سے انسانیت کو لاحق ممکنہ خطرے کے بارے میں خبردار کیا۔
اس کے بعد داریو امودی، اوپن اے آئی کے چیف ایگزیکٹیو سیم آلٹ مین، ایلون مسک اور ٹیکنالوجی کے دیگر رہنماؤں نے بھی ترقی کی رفتار کم کرنے کے مطالبات کی حمایت کی، جبکہ صنعت کے دیگر رہنماؤں اور امریکی صدر ڈونلڈ ٹرمپ نے اس خیال کو مسترد کر دیا ہے۔