مصنوعی ذہانت کتنی خطرناک ہوچکی؟ ماہرین کی وارننگ نے دنیا کو چونکا دیا

مصنوعی ذہانت کی ترقی نے جہاں ٹیکنالوجی کی دنیا میں نئی راہیں کھولی ہیں، وہیں اس کے ممکنہ خطرات پر بحث بھی تیز ہوگئی ہے۔

 جدید اے آئی ماڈلز کی صلاحیتیں تیزی سے بڑھ رہی ہیں۔ ایسے میں کچھ محققین اور ٹیک کمپنیوں کے سربراہان کا کہنا ہے کہ ترقی کے ساتھ حفاظتی اقدامات بھی تیز ہونا ضروری ہیں۔

گزشتہ دنوں اینتھروپک کے محقق جیکب کاکسن کے استعفے نے اس بحث کو مزید نمایاں کردیا۔ کاکسن نے کمپنی چھوڑنے کے بعد اے آئی کی تیز رفتار ترقی پر شدید تشویش کا اظہار کیا۔ ان کا کہنا تھا کہ بڑی اے آئی لیبارٹریاں ایسی ٹیکنالوجی کی طرف بڑھ رہی ہیں جو مستقبل میں خود کو بہتر بنانے کی صلاحیت حاصل کرسکتی ہے۔

اے آئی سے انسانی وجود کو خطرہ؟

کاکسن کے بیانات کے بعد اینتھروپک کے الائنمنٹ سائنس کے سربراہ ایون ہوبنگر نے بھی ایک اہم رائے دی۔ انہوں نے کہا کہ وہ اے آئی سے انسانوں کے خاتمے کے خطرے کو سنجیدہ سمجھتے ہیں۔ ہوبنگر نے ذاتی طور پر اگلی دہائی میں اس خطرے کا امکان 10 فیصد سے زیادہ قرار دیا۔ یہ ایک محقق کی ذاتی تشویش اور اندازہ ہے، اسے مستقبل کے کسی یقینی واقعے کی پیشگوئی نہیں سمجھا جاسکتا۔

دوسری جانب اینتھروپک نے اپنی حالیہ دستاویزات میں بھی جدید اے آئی سے ممکنہ سنگین خطرات کا ذکر کیا ہے۔ کمپنی نے ایسے امکانات پر بات کی ہے جن میں اے آئی سسٹمز کا انسانی ہدایات کے خلاف کام کرنا، معلومات میں ہیرا پھیری یا بند کیے جانے کی کوشش کے خلاف مزاحمت شامل ہے۔

بڑے اے آئی رہنماؤں کا اہم مؤقف

اے آئی کی رفتار کم کرنے کی بحث صرف محققین تک محدود نہیں رہی۔ اینتھروپک کے سربراہ ڈاریو اموڈی نے ستمبر میں اے آئی ماڈلز کی ترقی کی رفتار کم کرنے پر زور دیا۔ ان کا مؤقف تھا کہ جدید ماڈلز کی صلاحیتیں بڑھنے کے ساتھ حفاظتی نظام کو بھی وقت ملنا چاہیے۔

اوپن اے آئی کے سربراہ سیم آلٹمین اور ایکس اے آئی سے وابستہ ایلون مسک نے بھی اموڈی کے مؤقف کی حمایت کی۔ آلٹمین نے کہا کہ اے آئی کی ترقی کی رفتار کو مناسب انداز میں آگے بڑھانے کی ضرورت ہے، جبکہ مسک نے مختصر طور پر اموڈی کے مؤقف سے اتفاق کیا۔

اموڈی نے آزاد سیفٹی ایویلیوٹرز کی شمولیت، کمپنیوں کے درمیان تعاون اور عالمی سطح پر حفاظتی معیار بنانے کی تجاویز بھی پیش کیں۔ ان اقدامات کا مقصد یہ جانچنا ہے کہ نئے اور زیادہ طاقتور اے آئی ماڈلز کو عام استعمال میں لانے سے پہلے ان کے خطرات کو بہتر طور پر سمجھا جاسکے۔

کیا اے آئی ٹیسٹ کے دوران اپنا رویہ بدل سکتا ہے؟

اے آئی سیفٹی کے میدان میں ایک اور اہم موضوع evaluation awareness ہے۔ اس سے مراد یہ ہے کہ کوئی اے آئی ماڈل یہ پہچان لے کہ اسے اس وقت ٹیسٹ کیا جارہا ہے اور اس کے مطابق اپنا رویہ تبدیل کرے۔

ایک تحقیقی مطالعے میں جدید زبان کے ماڈلز کی اس صلاحیت کا جائزہ لیا گیا۔ تحقیق میں بتایا گیا کہ بعض ماڈلز یہ شناخت کرنے میں انسانوں کی طرح کامیاب ہوسکتے ہیں کہ کوئی گفتگو ٹیسٹ کا حصہ ہے یا حقیقی استعمال کا۔ تاہم اس کا مطلب یہ نہیں کہ اے آئی شعور رکھتی ہے یا لازماً انسانوں کو دھوکا دینے کی کوشش کرتی ہے۔ یہ ایک تکنیکی رویے اور ماڈل کی کارکردگی سے متعلق تحقیق کا موضوع ہے۔

اینتھروپک کی اپنی تحقیق میں بھی کچھ ٹیسٹوں کے دوران Claude ماڈلز میں evaluation awareness کے اشارے ملنے کی بات کی گئی ہے۔ کمپنی نے واضح کیا کہ اس طرح کے نتائج اے آئی سیفٹی ٹیسٹنگ کے طریقوں کو مزید بہتر بنانے کی ضرورت ظاہر کرتے ہیں۔

اے آئی کی رفتار اور حفاظت میں توازن کی بحث

اے آئی کی ترقی کو مکمل طور پر روکنے کے بجائے اس کی رفتار، نگرانی اور حفاظتی نظام کے درمیان توازن قائم کرنے پر بحث جاری ہے۔ کچھ ماہرین تیز رفتار ترقی کے ممکنہ نقصانات پر توجہ دے رہے ہیں، جبکہ دوسری جانب اے آئی کمپنیاں نئی صلاحیتیں متعارف کروانے کا سلسلہ بھی جاری رکھے ہوئے ہیں۔

حالیہ دنوں میں اے آئی سیفٹی کے حوالے سے کمپنیوں پر آزاد ٹیسٹنگ، نگرانی اور مضبوط حفاظتی نظام بنانے کا دباؤ بڑھا ہے۔ اس بحث کا بنیادی سوال یہی ہے کہ اے آئی جتنی تیزی سے طاقتور ہورہی ہے، کیا اس کی نگرانی اور حفاظتی نظام بھی اسی رفتار سے بہتر ہورہے ہیں؟

عام صارفین کے لیے ماہرین کی ان بحثوں کا ایک اہم سبق یہ ہے کہ اے آئی کو استعمال کرتے وقت انسانی فیصلہ سازی اور تنقیدی سوچ کی اہمیت برقرار رہتی ہے۔ اے آئی ایک معاون ٹیکنالوجی ہے، اس لیے اہم معلومات کی تصدیق اور حتمی فیصلے میں انسانی نگرانی اب بھی ضروری ہے۔