这个答案可信吗?
研究大语言模型的幻觉问题,评估智能系统在哪些环节失去可靠性。
研究者 & 工程师 爱荷华州立大学
我是 Anwar Zahid。我研究 AI 与数值软件为何会出错、在哪里出错,并开发工具,让这些故障更容易被发现、复现和修复。
AI 可靠性 数值调试 软件工程
## 动态 · 近期记录
## 关于
## 研究兴趣
研究大语言模型的幻觉问题,评估智能系统在哪些环节失去可靠性。
在支撑机器学习的软件中,追踪数值不稳定和悄无声息的性能退化。
开发可解释的测试与调试工具,帮助人们理解并修复故障。
## 论文
涉及机器学习可靠性、大语言模型评估与数值正确性。论文均以英文发表。
提出 Soft Assertions 方法,用于检测并触发机器学习应用中隐藏的数值不稳定缺陷。
@article{sharmin2025softassertions,
title = {Automatically Detecting Numerical Instability in Machine Learning Applications via Soft Assertions},
author = {Sharmin, Shaila and Zahid, Anwar Hossain and Bhattacharjee, Subhankar and Igwilo, Chiamaka and Kim, Miryung and Le, Wei},
journal = {Proceedings of the ACM on Software Engineering (PACMSE), issue FSE 2025},
year = {2025},
doi = {10.1145/3729394},
url = {https://arxiv.org/pdf/2504.15507}
}
评估在加入地理与社会背景后,大语言模型检测仇恨言论的表现。
@misc{zahid2025hatespeech,
title = {Evaluation of Hate Speech Detection Using Large Language Models and Geographical Contextualization},
author = {Zahid, Anwar Hossain and Roy, Monoshi Kumar and Das, Swarna},
year = {2025},
eprint = {2502.19612},
archivePrefix = {arXiv},
url = {https://arxiv.org/abs/2502.19612}
}
研究 NVIDIA 与 AMD GPU 执行同一计算时的数值差异,以及它对可复现性和可移植性的影响。
@misc{zahid2024gpunumerics,
title = {Testing GPU Numerics: Finding Numerical Differences Between NVIDIA and AMD GPUs},
author = {Zahid, Anwar Hossain and Laguna, Ignacio and Le, Wei},
year = {2024},
eprint = {2410.09172},
archivePrefix = {arXiv},
url = {https://arxiv.org/abs/2410.09172}
}
提出一个用于开展虚拟实习、评测软件开发技能的软件平台概念设计。
@inproceedings{mia2020virtualinternship,
title = {A Conceptual Design of Virtual Internship System to Benchmark Software Development Skills in a Blended Learning Environment},
author = {Mia, Raihan and Zahid, Anwar Hossain and Nath, Bipul Chandra Dev and Hoque, Abu Sayed Md Latiful},
booktitle = {2020 23rd International Conference on Computer and Information Technology (ICCIT)},
year = {2020},
publisher = {IEEE},
doi = {10.1109/ICCIT51783.2020.9392670},
url = {https://ieeexplore.ieee.org/document/9392670}
}
## 经历
涵盖科研、银行、电子政务和移动软件。
通过妇产科访问学者项目进行科研实习,参与母婴记录关联研究数据库的扩展工作。
开发了跨异构 GPU 架构的浮点精度分析工具,包括为 Varity 项目实现 HIP 后端代码生成;在 LLNL Summer SLAM & Poster Symposium 获得荣誉提名。
参与面向政府业务的 ERP、采购、会计和合规系统开发。
为银行业务开发了金融科技聊天机器人、人脸识别、汇款对接和 RPA 系统。
为消费电子设备开发 Android ROM,并改进功能机操作系统。
## 项目
课程作业和较小的代码仓库收在下方。
一个帮助中小学生、本科生、研究生以及所有对 AI 感兴趣的人找到合适 AI 工具并学会使用的网站。在 Wei Le 教授指导下,由我担任创建者和首席开发者。
FSE 2025 论文,提出 Soft Assertions,用于检测并触发机器学习应用中的数值不稳定缺陷。
为 LLNL 的 Varity 项目实现了 HIP 后端代码生成,用于 GPU 内核测试,从而评估不同平台间的数值一致性。
将一个课程项目扩展为利用地理元数据评估仇恨言论检测模型的研究,后来又改造用于大语言模型测试,并于 2025 年发表。
为金融科技应用开发了实时人脸识别与防伪检测系统,提升远程银行身份验证的安全性。
与计算机科学系的 Wei Le 教授和 Qi Li 教授一起,参与设计了 COMS 3710X: Introduction to Foundation Models I 和 COMS 3720X: Introduction to Foundation Models II 两门课程。
负责 COM S 127(编程入门)的实验课和习题课:带每周的实验、编写课程与考核材料、 设计评分标准,并批改作业和试卷。
为 COM S 472/572(人工智能原理)代课讲授:Jin Tian 教授离开系里之前曾为其代课, 也曾为 Yan-Bin Jia 教授代课。
## 文章
文章正文为英文。
Academic papers are necessarily compressed. They describe the method, the evaluation, and the result, but they often leave out the messy middle: why a test design chan...
In our FSE 2025 paper, we introduce Soft Assertions — a new approach to detect and trigger these hidden bugs automatically.
Our SC24-W workshop paper presents a systematic method to detect and analyze these cross-vendor numerical differences.
## 联系
联系我最快的方式是发邮件。