क्या जवाब पर भरोसा किया जा सकता है?
LLM के हैलुसिनेशन का अध्ययन, और यह परखना कि इंटेलिजेंट सिस्टम कहाँ अपनी विश्वसनीयता खो देते हैं।
शोधकर्ता और इंजीनियर आयोवा स्टेट यूनिवर्सिटी
मैं Anwar Zahid हूँ। मेरा शोध इस सवाल पर है कि AI और न्यूमेरिकल सॉफ़्टवेयर कहाँ और क्यों चूकते हैं — और फिर ऐसे टूल बनाना, जिनसे इन गड़बड़ियों को पकड़ना, दोबारा पैदा करना और ठीक करना आसान हो जाए।
AI की विश्वसनीयता न्यूमेरिकल डीबगिंग सॉफ़्टवेयर इंजीनियरिंग
## ख़बरें · हाल की गतिविधियाँ
## परिचय
मैं आयोवा स्टेट यूनिवर्सिटी में कंप्यूटर साइंस का पीएचडी शोधार्थी हूँ। प्रोग्राम एनालिसिस एंड AI लैब में मेरे गाइड प्रो. Wei Le हैं। मेरा शोध भरोसेमंद AI सिस्टम, न्यूमेरिकल डीबगिंग और मशीन लर्निंग सिस्टम के लिए सॉफ़्टवेयर इंजीनियरिंग तकनीकों पर केंद्रित है।
पीएचडी शुरू करने से पहले मैंने चार साल सॉफ़्टवेयर इंजीनियर के रूप में बैंकिंग, ई-गवर्नेंस, AI और मोबाइल प्लेटफ़ॉर्म पर काम किया। इंडस्ट्री का यही अनुभव मेरे शोध की दिशा तय करता है: मुझे ऐसे तरीकों में दिलचस्पी है जो डेवलपरों और शोधकर्ताओं के लिए सचमुच काम के टूल बन सकें। पूरा सफ़र विस्तृत परिचय वाले पेज पर है।
## शोध के विषय
LLM के हैलुसिनेशन का अध्ययन, और यह परखना कि इंटेलिजेंट सिस्टम कहाँ अपनी विश्वसनीयता खो देते हैं।
मशीन लर्निंग को चलाने वाले सॉफ़्टवेयर में न्यूमेरिकल अस्थिरता और चुपचाप घुस आए रिग्रेशन की जड़ तक पहुँचना।
समझ में आने वाले टेस्टिंग और डीबगिंग टूल बनाना, जिनसे लोग गड़बड़ियों को समझ सकें और ठीक कर सकें।
## प्रकाशन
ML की विश्वसनीयता, LLM के मूल्यांकन और न्यूमेरिकल शुद्धता पर। पेपर अंग्रेज़ी में प्रकाशित हैं।
Soft Assertions पेश करता है — मशीन लर्निंग ऐप्लिकेशन में छिपे न्यूमेरिकल अस्थिरता वाले बग खोजने और उन्हें सामने लाने का तरीका।
@article{sharmin2025softassertions,
title = {Automatically Detecting Numerical Instability in Machine Learning Applications via Soft Assertions},
author = {Sharmin, Shaila and Zahid, Anwar Hossain and Bhattacharjee, Subhankar and Igwilo, Chiamaka and Kim, Miryung and Le, Wei},
journal = {Proceedings of the ACM on Software Engineering (PACMSE), issue FSE 2025},
year = {2025},
doi = {10.1145/3729394},
url = {https://arxiv.org/pdf/2504.15507}
}
भौगोलिक और सामाजिक संदर्भ जोड़ने पर बड़े भाषा मॉडल हेट स्पीच पहचानने में कितना अच्छा करते हैं, इसका मूल्यांकन।
@misc{zahid2025hatespeech,
title = {Evaluation of Hate Speech Detection Using Large Language Models and Geographical Contextualization},
author = {Zahid, Anwar Hossain and Roy, Monoshi Kumar and Das, Swarna},
year = {2025},
eprint = {2502.19612},
archivePrefix = {arXiv},
url = {https://arxiv.org/abs/2502.19612}
}
NVIDIA और AMD GPU पर एक ही गणना के नतीजों में न्यूमेरिकल अंतर, और रिप्रोड्यूसिबिलिटी व पोर्टेबिलिटी पर उनके असर का अध्ययन।
@misc{zahid2024gpunumerics,
title = {Testing GPU Numerics: Finding Numerical Differences Between NVIDIA and AMD GPUs},
author = {Zahid, Anwar Hossain and Laguna, Ignacio and Le, Wei},
year = {2024},
eprint = {2410.09172},
archivePrefix = {arXiv},
url = {https://arxiv.org/abs/2410.09172}
}
वर्चुअल इंटर्नशिप चलाने और सॉफ़्टवेयर डेवलपमेंट के कौशल को परखने वाले सॉफ़्टवेयर प्लेटफ़ॉर्म का वैचारिक डिज़ाइन।
@inproceedings{mia2020virtualinternship,
title = {A Conceptual Design of Virtual Internship System to Benchmark Software Development Skills in a Blended Learning Environment},
author = {Mia, Raihan and Zahid, Anwar Hossain and Nath, Bipul Chandra Dev and Hoque, Abu Sayed Md Latiful},
booktitle = {2020 23rd International Conference on Computer and Information Technology (ICCIT)},
year = {2020},
publisher = {IEEE},
doi = {10.1109/ICCIT51783.2020.9392670},
url = {https://ieeexplore.ieee.org/document/9392670}
}
## अनुभव
शोध, बैंकिंग, ई-गवर्नेंस और मोबाइल सॉफ़्टवेयर में काम का अनुभव।
प्रसूति एवं स्त्री रोग विभाग के विज़िटिंग स्कॉलर प्रोग्राम के तहत शोध इंटर्नशिप; माँ और गर्भस्थ शिशु के रिकॉर्ड जोड़ने के लिए रिसर्च डेटाबेस के विस्तार पर काम।
अलग-अलग तरह के GPU आर्किटेक्चर में फ़्लोटिंग-पॉइंट प्रिसिशन के विश्लेषण के टूल बनाए, जिनमें Varity प्रोजेक्ट के लिए HIP बैकएंड कोड जनरेशन शामिल है; LLNL Summer SLAM & Poster Symposium में ऑनरेबल मेंशन मिला।
सरकारी कामकाज के लिए ERP, ख़रीद, लेखा और कंप्लायंस सिस्टम पर काम किया।
बैंकिंग के कामकाज के लिए फ़िनटेक चैटबॉट, फ़ेस रिकग्निशन, रेमिटेंस इंटीग्रेशन और RPA सिस्टम बनाए।
उपभोक्ता उपकरणों के लिए एंड्रॉयड ROM और फ़ीचर फ़ोन के ऑपरेटिंग सिस्टम में सुधार किए।
## प्रोजेक्ट
कोर्सवर्क और छोटी रिपॉज़िटरी नीचे समेटकर रखी गई हैं।
स्कूल, अंडरग्रेजुएट और ग्रेजुएट विद्यार्थियों — और AI में दिलचस्पी रखने वाले हर व्यक्ति — के लिए एक वेब प्लेटफ़ॉर्म, जहाँ सही AI टूल खोजे और उन्हें इस्तेमाल करना सीखा जा सकता है। प्रो. Wei Le के मार्गदर्शन में इसके क्रिएटर और लीड डेवलपर के रूप में बनाया।
FSE 2025 का पेपर, जो ML ऐप्लिकेशन में न्यूमेरिकल अस्थिरता वाले बग पकड़ने और उन्हें सामने लाने के लिए Soft Assertions पेश करता है।
LLNL के Varity प्रोजेक्ट में GPU कर्नेल टेस्टिंग के लिए HIP बैकएंड जनरेशन जोड़ा, ताकि अलग-अलग प्लेटफ़ॉर्म पर गणना के नतीजों की एकरूपता जाँची जा सके।
एक क्लास प्रोजेक्ट को आगे बढ़ाकर भौगोलिक मेटाडेटा के साथ हेट स्पीच पहचानने वाले मॉडलों का मूल्यांकन किया। बाद में इसे बड़े भाषा मॉडलों की टेस्टिंग के लिए ढाला गया और 2025 में प्रकाशित किया गया।
फ़िनटेक ऐप्लिकेशन के लिए रियल-टाइम फ़ेस रिकग्निशन और फ़र्ज़ीवाड़ा पहचानने वाला सिस्टम बनाया, जिससे दूर बैठे बैंकिंग वेरिफ़िकेशन ज़्यादा सुरक्षित हुआ।
## अध्यापन
आयोवा स्टेट यूनिवर्सिटी के कंप्यूटर साइंस विभाग में टीचिंग असिस्टेंट के रूप में कोर्स डिज़ाइन, प्रोग्रामिंग के शुरुआती कोर्स और आर्टिफ़िशियल इंटेलिजेंस में योगदान।
कंप्यूटर साइंस विभाग में प्रो. Wei Le और प्रो. Qi Li के साथ COMS 3710X: Introduction to Foundation Models I और COMS 3720X: Introduction to Foundation Models II कोर्स तैयार करने में हाथ बँटाया।
COM S 127 (प्रोग्रामिंग का शुरुआती कोर्स) के लैब और रिसिटेशन सेक्शन पढ़ाए — हर हफ़्ते लैब चलाना, कोर्स और मूल्यांकन सामग्री तैयार करना, ग्रेडिंग रूब्रिक बनाना, और असाइनमेंट व परीक्षाएँ जाँचना।
COM S 472/572 (Principles of Artificial Intelligence) में लेक्चर दिए: प्रो. Jin Tian के विभाग छोड़ने से पहले उनकी जगह, और प्रो. Yan-Bin Jia की जगह।
## लेख
लेख अंग्रेज़ी में हैं।
Academic papers are necessarily compressed. They describe the method, the evaluation, and the result, but they often leave out the messy middle: why a test design chan...
In our FSE 2025 paper, we introduce Soft Assertions — a new approach to detect and trigger these hidden bugs automatically.
Our SC24-W workshop paper presents a systematic method to detect and analyze these cross-vendor numerical differences.
## संपर्क
मुझ तक पहुँचने का सबसे तेज़ तरीका ईमेल है।