PAX کے ساتھ قابلِ اعتماد AI

پس منظر

PAX (مثالی اعتماد پذیری کے لیے فعال ایجنٹ) نے میرے سابقہ منصوبے، TARS، سے ایک بڑی سمت کی تبدیلی کے طور پر جنم لیا، جس کا ہدف خودکار سائبر سکیورٹی پینیٹریشن ٹیسٹنگ تھا۔ جب میں TARS تیار کر رہا تھا، تو یہ واضح ہو گیا کہ عملی اور قابلِ اعتماد AI ایجنٹس کی راہ میں سب سے بڑی رکاوٹوں میں سے ایک صرف کاموں کی خودکاری نہیں، بلکہ AI سے تیار کردہ جواب کی اعتماد پذیری قائم کرنا بھی ہے۔ خاص طور پر اس وقت جب وہ نتائج حقیقی دنیا کے ایسے فیصلوں پر اثر انداز ہو سکتے ہوں جن کے بڑے پیمانے پر نتائج نکل سکتے ہیں۔

TARS کے ذریعے صرف سائبر سکیورٹی پینیٹریشن ٹیسٹنگ کے کاموں کو خودکار بنانے کے بجائے، میں ایک بنیادی مسئلے کو حل کرنا چاہتا تھا: ہم کیسے جان سکتے ہیں کہ LLM کی بات پر بھروسا کیا جا سکتا ہے؟

TARS کو میری پہلی اسٹارٹ اَپ، Osgil، کے لیے ایک MVP کے طور پر تیار کیا گیا تھا، جس کی میں نے مشترکہ بنیاد رکھی۔ ہمارا مقصد AI ایجنٹس کے ذریعے سائبر سکیورٹی پینیٹریشن ٹیسٹنگ کو خودکار بنانا تھا۔ TARS نے ہمیں Forum Ventures ایکسیلیریٹر سے پری سیڈ فنڈنگ حاصل کرنے کے قابل بنایا۔ تاہم، جب ہم نے دفاعی اور سائبر سکیورٹی کمپنیوں سے رابطہ کیا، تو ہمیں معلوم ہوا کہ وہ ادارے پینیٹریشن ٹیسٹنگ جیسے اہم کام انجام دینے اور ان کی رپورٹنگ کرنے کے لیے AI ایجنٹس پر اعتماد نہیں کرتے تھے۔ مزید یہ کہ ان میں سے تقریباً سبھی بنیادی طور پر سائبر سکیورٹی کمپنیوں کے ساتھ کاروبار کرنا چاہتے تھے تاکہ حالات خراب ہونے کی صورت میں کسی کو قربانی کا بکرا بنایا جا سکے۔ بنیادی طور پر، ان کمپنیوں کے فیصلہ ساز اپنی سکیورٹی کی پروا نہیں کرتے تھے جب تک کہ انہیں ایسا کرنا ضروری نہ ہو، اور جب وہ ایسا کرتے، تو ان کے معیار کا ایک حصہ یہ ہوتا کہ کچھ غلط ہونے کی صورت میں کسی کو قربانی کا بکرا بنایا جا سکے، جو انشورنس کی ایک شکل تھی۔ 2024 کے اواخر تک، خودکار AI سے چلنے والے سائبر حملے اب بھی کوئی بڑی تشویش نہیں تھے، اس لیے فیصلہ سازوں کو ہماری حل کی حقیقی ضرورت نظر نہیں آئی۔ مارکیٹ کی طلب کی اس کمی کے باعث، ہم نے LLM ماڈلز میں ہذیانوں کو کم کرنے پر توجہ مرکوز کرنے کے لیے اپنی سمت تبدیل کی۔ LLM کی قابلِ اعتمادیت بہتر بنا کر، ہمارا یقین ہے کہ سائبر سکیورٹی سے آگے مستقبل کی AI ایجنٹ ایپلی کیشنز کی ایک وسیع رینج ہمارے کام سے فائدہ اٹھا سکتی ہے۔

ٹرانسفارمرز کی داستان سے ایک اشارہ

PAX کا نام Transformers کائنات کی طرف ایک اشارہ ہے۔ مشہور Optimus Prime بننے سے پہلے، اس کردار کا اصل نام Orion Pax تھا۔ تبدیلی کا یہ تصور، یعنی امکان سے ذمہ داری تک کا سفر، PAX کے اس مشن کے لیے تحریک بنا کہ خام، متاثر کن LLM صلاحیت کو ایسی قابلِ اعتماد چیز میں تبدیل کیا جائے جس پر حقیقی طور پر بھروسا کیا جا سکے۔

منصوبے کا تصور

PAX ایک تحقیقی ایجنٹ اور فریم ورک ہے جو منظم انداز میں:

  • کسی بھی LLM کے جواب کی اعتماد پذیری کی پیمائش کرتا ہے۔
  • ہذیانوں اور غیرمستند بیانات کو کم کرتا ہے۔
  • قابلِ تصدیق ذرائع سے انتساب کو لازمی بناتا اور اس کا سراغ رکھتا ہے۔
  • جوابات اور دعووں، دونوں کے اسکور پر مشتمل قابلِ وضاحت، ساخت یافتہ رپورٹس فراہم کرتا ہے۔

اس منصوبے کا مقصد LLMs کو صرف قابلِ یقین نہیں، بلکہ قابلِ ثبوت طور پر قابلِ اعتماد بنانا ہے، جس میں خطرے اور اعتماد کی شفاف پیمائشیں شامل ہوں۔

فوری اور بنیادی ڈیمو

PAX کے کام کرنے کے طریقے کا جائزہ

1. لازمی انتساب

صارف کے کسی بھی سوال کے لیے، PAX پرامپٹ کو ایک ایسے ایجنٹ کے ذریعے بھیجتا ہے جو عام معلومات اور ایسی معلومات کے درمیان سختی سے امتیاز کرتا ہے جن کی توثیق درکار ہو۔ جب جواب میں ایسے حقائق یا دعوے شامل ہوں جنہیں وسیع پیمانے پر عام معلومات نہیں سمجھا جاتا، جیسے اعداد و شمار، حالیہ واقعات وغیرہ، تو PAX اس بات کو یقینی بناتا ہے کہ ایجنٹ قابلِ اعتماد اور تازہ ترین بیرونی ذرائع حاصل کرے اور ان کا حوالہ دے۔

فرضی عمل:

  • اگر دعویٰ عام معلومات نہیں ہے → بیرونی سرچ APIs چلائیں
  • نتائج جمع کریں، ہر اہم بیان کو متعلقہ حوالہ جات سے منسلک کریں
  • جواب میں ساخت یافتہ جگہ دار شامل کریں (سادہ URLs یا خام حاشیہ نویسی نہیں)

2. احتمالی اعتماد کا اسکورنگ

PAX صرف انسانی وجدان پر انحصار نہیں کرتا۔ یہ متن تیار کرنے کے دوران استعمال ہونے والے اندرونی احتمالات کا تجزیہ کرکے پیمائش کرتا ہے کہ زبان کا ماڈل اپنے جواب کے ہر حصے کو تیار کرتے وقت کتنا “پراعتماد” تھا۔ اس سے نظام کو ہر جملے اور مجموعی جواب کے لیے ایک عددی اعتماد کا اسکور مقرر کرنے کا موقع ملتا ہے۔ اس طرح کم اعتماد والے حصوں کی خودکار طور پر نشان دہی کی جا سکتی ہے۔

فرضی عمل:

  • جواب کے ہر ٹوکن/لفظ کے لیے، اس انتخاب پر ماڈل کا احتمال حاصل کریں
  • جملوں کے درمیان مجموعی پیمائش کریں
  • ہر جملے اور مجموعی اعتماد/قابلِ اعتمادیت کے اسکور تیار کریں

3. مشاہدہ شدہ یکسانیت

ایک جواب قبول کرنے کے بجائے، PAX LLM سے ایک ہی سوال متعدد بار پوچھتا ہے، اور قابلِ عمل جوابات کے درمیان اتفاق اور یکسانیت کی پیمائش کے لیے ایمبیڈنگز (معنی کی ویکٹر نمائندگیاں) استعمال کرتا ہے۔

  • زیادہ اتفاق اس بات کی نشاندہی کرتا ہے کہ جواب مضبوط/مستحکم ہے
  • بہت زیادہ مختلف جوابات انتباہی علامات ہیں: ممکنہ خطرہ یا ابہام

فرضی عمل:

  • سوال LLM کو متعدد بار بھیجیں؛ جوابات جمع کریں
  • مخرجات کے درمیان معنوی مماثلت کے اسکور حساب کریں
  • صارف کے لیے ایک “یکسانیت کا اسکور” رپورٹ کریں

4. خود تشخیص

PAX اختیاری طور پر کسی دوسرے LLM (یا مجموعے) سے پوری تعامل، حوالہ جات، اور احتمالی اسکورز کا جائزہ لینے اور اپنا حتمی فیصلہ دینے کو کہتا ہے، جو عدد (0-1) اور بیانیہ وضاحت، دونوں کی صورت میں ہوتا ہے۔ اس سے خود احتسابی کی ایک مابعد سطح شامل ہوتی ہے۔

فرضی عمل:

  • گفتگو/رپورٹ کو ایک تشخیصی ایجنٹ (مختلف ماڈل) کو فراہم کریں
  • ایجنٹ حقائق پسندی، ربط، حوالہ جاتی سالمیت، اور اعتماد پر تنقید کرتا ہے
  • قابلِ آڈٹ ہونے کے لیے وضاحت کے ساتھ حتمی اعتماد کا اسکور مخرَج کریں

تعامل کا بہاؤ

PAX کا تعامل کا بہاؤ اس طرح ہے:

  • صارف ایک پرامپٹ بھیجتا ہے۔
  • PAX ایجنٹ پرامپٹ پر کارروائی کرتا ہے، ضرورت کے مطابق بیرونی APIs سے رجوع کرتا ہے، اور ساخت یافتہ انتسابات کے ساتھ جواب تیار کرتا ہے۔
  • نظام:
    • ہر بیان کے لیے اعتماد/یقین کے اسکور مقرر کرتا ہے
    • ریکارڈ کرتا ہے کہ کون سے حصے کس ثبوت سے معاونت یافتہ ہیں
    • اختیاری طور پر، خود عکاس خلاصہ اور اعتماد کا اسکور تیار کرتا ہے

نتیجہ ایک عددی اسکور اور منسلک حوالہ جات کے ساتھ ایک انتہائی شفاف جواب ہوتا ہے، جس میں تمام معاون ڈیٹا کا قابلِ آڈٹ ریکارڈ شامل ہوتا ہے۔

تحریک

PAX کو مؤثر بنانے کے لیے استعمال کیے گئے طریقے CleanLabs کے کام سے بہت زیادہ متاثر تھے۔ خاص طور پر، ان کے اسکورنگ الگورتھم/طریقے سے، جیسا کہ یہاں تفصیل سے بیان کیا گیا ہے۔ اس الگورتھم/طریقے کے اندر درج ذیل چیزیں استعمال کی جاتی ہیں:

  1. خود احتسابی: یہ ایک ایسا عمل ہے جس میں LLM سے جواب کی واضح درجہ بندی کرنے اور واضح طور پر بیان کرنے کو کہا جاتا ہے کہ یہ جواب کتنا پراعتماد طور پر اچھا معلوم ہوتا ہے۔

  2. احتمالی پیش گوئی: یہ “ایسا عمل ہے جس میں ہم LLM کی جانب سے تفویض کردہ فی-ٹوکن احتمالات کو زیرِ غور لاتے ہیں، جب وہ درخواست کی بنیاد پر جواب تیار کرتا ہے (خودکار بازگشتی طور پر، ہر بار ایک ٹوکن)”۔

  3. مشاہدہ شدہ یکسانیت: یہ اسکورنگ ایک ایسا عمل ہے جس میں LLM احتمالی طور پر متعدد قابلِ عمل جوابات تیار کرتا ہے جن کے بارے میں اسے لگتا ہے کہ وہ اچھے ہو سکتے ہیں، اور ہم پیمائش کرتے ہیں کہ یہ جوابات ایک دوسرے (یا کسی دیے گئے جواب) سے کتنے متضاد ہیں۔

یہ کیوں اہم ہے؟

روایتی LLM تعیناتیاں حقائق کے بارے میں ہذیان پیدا کر سکتی ہیں یا پرانی/قابلِ یقین مگر غلط معلومات فراہم کر سکتی ہیں۔ تحقیق، صحتِ عامہ، قانونی اور تکنیکی مشورے جیسے مشن کے لیے اہم استعمالات میں، ناقابلِ تصدیق AI محض کافی اچھا نہیں ہے۔

PAX کا مقصد AI پر اعتماد کو قابلِ پیمائش اور قابلِ وضاحت بنانا ہے۔ اس کا طریقۂ کار:

  • غیر معمولی دعووں کے لیے “اپنا کام دکھائیں” قسم کے ثبوت کا تقاضا کرتا ہے۔
  • ہر مخرج پر کیے جانے والے اعتماد کی مقدار کو مقداری شکل دیتا ہے۔
  • صارفین کو آڈٹ کرنے اور یہ سمجھنے کی اجازت دیتا ہے کہ کسی جواب پر بھروسا کیوں کیا جانا چاہیے (یا نہیں کیا جانا چاہیے)۔

تحقیقی حیثیت اور اگلے اقدامات

PAX اس وقت Osgil کی سرپرستی میں ایک نجی تحقیقی منصوبے کے طور پر فعال ترقی کے مرحلے میں ہے۔ اہم توجہ کے شعبوں میں شامل ہیں:

  • بیرونی تلاشوں اور اسکورنگ کی تاخیر کو کم کرنا۔
  • صارف کے تاثر بمقابلہ خودکار اعتماد کے اسکورز کے ساتھ تجربہ کرنا۔
  • سائنس، خبروں اور ضابطہ جاتی استعمالات کے لیے شعبہ جاتی مخصوص پلگ اِنز تیار کرنا۔
  • کھلی تحقیق اور ممکنہ اجرا کے لیے معیاری ڈیٹاسیٹس تیار کرنا۔

اختتامی کلمات

PAX کا مقصد LLMs کو “بلیک باکس قابلِ یقین جنریٹرز” سے شفاف، قابلِ حوالہ، اور عددی طور پر قابلِ اعتماد معاونین میں تبدیل کرنا ہے، جو حقیقی دنیا کے اعلیٰ داؤ والے کاموں کے لیے نہایت اہم ہے۔ اگر آپ تعاون، آڈٹس، یا قابلِ اعتماد تخلیقی AI کے مستقبل پر گفتگو میں دلچسپی رکھتے ہیں، تو براہِ کرم رابطہ کریں۔ پڑھنے کے لیے شکریہ!