کیا جواب پر بھروسا کیا جا سکتا ہے؟
LLM کی ہیلوسینیشن کا مطالعہ، اور یہ جانچنا کہ ذہین نظام کہاں اپنی قابلِ اعتمادی کھو دیتے ہیں۔
تحقیق اور انجینئرنگ آئیووا اسٹیٹ یونیورسٹی
میں Anwar Zahid ہوں۔ میری تحقیق اس سوال پر ہے کہ مصنوعی ذہانت اور عددی سافٹ ویئر کہاں اور کیوں چوکتے ہیں — اور پھر ایسے ٹولز بنانا جن سے ان خرابیوں کو پکڑنا، دہرانا اور ٹھیک کرنا آسان ہو جائے۔
AI کی قابلِ اعتمادی عددی ڈیبگنگ سافٹ ویئر انجینئرنگ
## خبریں · تازہ ترین
## تعارف
آئیووا اسٹیٹ یونیورسٹی میں کمپیوٹر سائنس میں میری پی ایچ ڈی جاری ہے، جہاں پروگرام اینالیسس اینڈ AI لیب میں میرے نگران پروفیسر Wei Le ہیں۔ میری تحقیق کا مرکز قابلِ اعتماد AI نظام، عددی ڈیبگنگ اور مشین لرننگ نظاموں کے لیے سافٹ ویئر انجینئرنگ کی تکنیکیں ہیں۔
پی ایچ ڈی شروع کرنے سے پہلے میں نے چار سال سافٹ ویئر انجینئرنگ میں بینکاری، ای گورننس، AI اور موبائل پلیٹ فارمز پر کام کیا۔ انڈسٹری کا یہی تجربہ میری تحقیق کا رخ طے کرتا ہے: مجھے ایسے طریقوں سے دلچسپی ہے جو ڈویلپرز اور محققین کے لیے واقعی کارآمد ٹولز بن سکیں۔ مکمل سفر تفصیلی تعارف کے صفحے پر ہے۔
## تحقیقی دلچسپیاں
LLM کی ہیلوسینیشن کا مطالعہ، اور یہ جانچنا کہ ذہین نظام کہاں اپنی قابلِ اعتمادی کھو دیتے ہیں۔
مشین لرننگ کو چلانے والے سافٹ ویئر میں عددی عدم استحکام اور خاموشی سے در آنے والی ریگریشنز کا سراغ لگانا۔
قابلِ فہم ٹیسٹنگ اور ڈیبگنگ ٹولز بنانا، جن کی مدد سے لوگ خرابیوں کو سمجھ اور ٹھیک کر سکیں۔
## اشاعتیں
ML کی قابلِ اعتمادی، LLM کی جانچ اور عددی درستی پر۔ مقالے انگریزی میں شائع ہوئے ہیں۔
Soft Assertions پیش کرتا ہے — مشین لرننگ ایپلیکیشنز میں چھپے عددی عدم استحکام کے بگ ڈھونڈنے اور انہیں سامنے لانے کا طریقہ۔
@article{sharmin2025softassertions,
title = {Automatically Detecting Numerical Instability in Machine Learning Applications via Soft Assertions},
author = {Sharmin, Shaila and Zahid, Anwar Hossain and Bhattacharjee, Subhankar and Igwilo, Chiamaka and Kim, Miryung and Le, Wei},
journal = {Proceedings of the ACM on Software Engineering (PACMSE), issue FSE 2025},
year = {2025},
doi = {10.1145/3729394},
url = {https://arxiv.org/pdf/2504.15507}
}
جغرافیائی اور سماجی سیاق شامل کرنے پر بڑے لسانی ماڈل نفرت انگیز تقریر پہچاننے میں کیسی کارکردگی دکھاتے ہیں، اس کی جانچ۔
@misc{zahid2025hatespeech,
title = {Evaluation of Hate Speech Detection Using Large Language Models and Geographical Contextualization},
author = {Zahid, Anwar Hossain and Roy, Monoshi Kumar and Das, Swarna},
year = {2025},
eprint = {2502.19612},
archivePrefix = {arXiv},
url = {https://arxiv.org/abs/2502.19612}
}
NVIDIA اور AMD کے GPU پر ایک ہی حساب کے نتائج میں عددی فرق، اور دہرائے جانے کی صلاحیت اور پورٹیبلٹی پر اس کے اثرات کا مطالعہ۔
@misc{zahid2024gpunumerics,
title = {Testing GPU Numerics: Finding Numerical Differences Between NVIDIA and AMD GPUs},
author = {Zahid, Anwar Hossain and Laguna, Ignacio and Le, Wei},
year = {2024},
eprint = {2410.09172},
archivePrefix = {arXiv},
url = {https://arxiv.org/abs/2410.09172}
}
ورچوئل انٹرن شپ چلانے اور سافٹ ویئر ڈویلپمنٹ کی مہارت جانچنے والے سافٹ ویئر پلیٹ فارم کا تصوراتی خاکہ۔
@inproceedings{mia2020virtualinternship,
title = {A Conceptual Design of Virtual Internship System to Benchmark Software Development Skills in a Blended Learning Environment},
author = {Mia, Raihan and Zahid, Anwar Hossain and Nath, Bipul Chandra Dev and Hoque, Abu Sayed Md Latiful},
booktitle = {2020 23rd International Conference on Computer and Information Technology (ICCIT)},
year = {2020},
publisher = {IEEE},
doi = {10.1109/ICCIT51783.2020.9392670},
url = {https://ieeexplore.ieee.org/document/9392670}
}
## تجربہ
تحقیق، بینکاری، ای گورننس اور موبائل سافٹ ویئر میں کام کا تجربہ۔
شعبۂ زچگی و امراضِ نسواں کے وزٹنگ اسکالر پروگرام کے تحت تحقیقی انٹرن شپ؛ ماں اور شکمِ مادر میں بچے کے ریکارڈز جوڑنے کے لیے ریسرچ ڈیٹا بیس کی توسیع پر کام۔
مختلف قسم کے GPU آرکیٹیکچرز میں فلوٹنگ پوائنٹ درستی کے تجزیے کے ٹولز بنائے، جن میں Varity پروجیکٹ کے لیے HIP بیک اینڈ کوڈ جنریشن شامل ہے؛ LLNL Summer SLAM & Poster Symposium میں آنریبل مینشن ملا۔
سرکاری امور کے لیے ERP، خریداری، اکاؤنٹنگ اور کمپلائنس سسٹمز پر کام کیا۔
بینکاری کے لیے فن ٹیک چیٹ بوٹ، فیس ریکگنیشن، ترسیلاتِ زر کا انضمام اور RPA سسٹمز بنائے۔
صارفین کے آلات کے لیے اینڈرائیڈ ROM اور فیچر فون کے آپریٹنگ سسٹم میں بہتریاں کیں۔
## پروجیکٹس
کورس ورک اور چھوٹی ریپوزٹریز نیچے سمیٹ کر رکھی گئی ہیں۔
اسکول، انڈرگریجویٹ اور گریجویٹ طلبہ — اور AI میں دلچسپی رکھنے والے ہر شخص — کے لیے ایک ویب پلیٹ فارم، جہاں درست AI ٹولز تلاش کیے اور انہیں استعمال کرنا سیکھا جا سکتا ہے۔ پروفیسر Wei Le کی رہنمائی میں اس کی تخلیق اور مرکزی ڈویلپمنٹ میں نے کی۔
FSE 2025 کا مقالہ، جو ML ایپلیکیشنز میں عددی عدم استحکام کے بگ پکڑنے اور سامنے لانے کے لیے Soft Assertions پیش کرتا ہے۔
LLNL کے Varity پروجیکٹ میں GPU کرنل ٹیسٹنگ کے لیے HIP بیک اینڈ جنریشن کا اضافہ کیا، تاکہ مختلف پلیٹ فارمز پر حساب کے نتائج کی یکسانیت جانچی جا سکے۔
ایک کلاس پروجیکٹ کو آگے بڑھا کر جغرافیائی میٹا ڈیٹا کے ساتھ نفرت انگیز تقریر پہچاننے والے ماڈلز کی جانچ کی۔ بعد میں اسے بڑے لسانی ماڈلز کی ٹیسٹنگ کے لیے ڈھالا گیا اور 2025 میں شائع کیا گیا۔
فن ٹیک ایپلیکیشنز کے لیے ریئل ٹائم فیس ریکگنیشن اور جعل سازی پہچاننے کا نظام بنایا، جس سے دور بیٹھے بینکاری تصدیق زیادہ محفوظ ہوئی۔
## تدریس
آئیووا اسٹیٹ یونیورسٹی کے شعبۂ کمپیوٹر سائنس میں ٹیچنگ اسسٹنٹ کے طور پر کورس ڈیزائن، پروگرامنگ کے ابتدائی کورس اور مصنوعی ذہانت میں حصہ۔
شعبۂ کمپیوٹر سائنس میں پروفیسر Wei Le اور پروفیسر Qi Li کے ساتھ COMS 3710X: Introduction to Foundation Models I اور COMS 3720X: Introduction to Foundation Models II کورسز کی تیاری میں ہاتھ بٹایا۔
COM S 127 (پروگرامنگ کا ابتدائی کورس) کے لیب اور ریسیٹیشن سیکشن پڑھائے — ہفتہ وار لیب، کورس اور جانچ کا مواد، گریڈنگ روبرک اور اسائنمنٹس و امتحانات کی جانچ۔
COM S 472/572 (Principles of Artificial Intelligence) میں لیکچر دیے: پروفیسر Jin Tian کے شعبہ چھوڑنے سے پہلے ان کی جگہ، اور پروفیسر Yan-Bin Jia کی جگہ۔
## تحریریں
تحریریں انگریزی میں ہیں۔
Academic papers are necessarily compressed. They describe the method, the evaluation, and the result, but they often leave out the messy middle: why a test design chan...
In our FSE 2025 paper, we introduce Soft Assertions — a new approach to detect and trigger these hidden bugs automatically.
Our SC24-W workshop paper presents a systematic method to detect and analyze these cross-vendor numerical differences.
## رابطہ
مجھ سے رابطے کا سب سے تیز ذریعہ ای میل ہے۔