Peut-on se fier à la réponse ?
J’étudie les hallucinations des LLM et j’évalue à quel moment les systèmes intelligents cessent d’être fiables.
Recherche & ingénierie Iowa State University
Je m’appelle Anwar Zahid. J’étudie comment et pourquoi l’IA et les logiciels numériques se trompent, puis je conçois des outils pour que ces défaillances soient plus faciles à détecter, à reproduire et à corriger.
Fiabilité de l’IA Débogage numérique Génie logiciel
## Actualités · journal récent
## À propos
Je prépare un doctorat en informatique à Iowa State University, sous la direction de Wei Le, au sein du Program Analysis and AI Lab. Mes recherches portent sur la fiabilité des systèmes d’IA, le débogage numérique et les techniques de génie logiciel appliquées aux systèmes d’apprentissage automatique.
Avant ce doctorat, j’ai passé quatre ans en ingénierie logicielle, sur des plateformes bancaires, d’administration électronique, d’IA et mobiles. Cette expérience du terrain oriente ma façon de chercher : je m’intéresse aux méthodes qui peuvent devenir de vrais outils pour les développeurs et les chercheurs. Le parcours complet se trouve sur la page « À propos » détaillée.
## Thèmes de recherche
J’étudie les hallucinations des LLM et j’évalue à quel moment les systèmes intelligents cessent d’être fiables.
Je traque l’instabilité numérique et les régressions silencieuses dans les logiciels qui font tourner l’apprentissage automatique.
Je conçois des outils de test et de débogage interprétables qui aident à comprendre les défaillances et à les corriger.
## Publications
Sur la fiabilité du ML, l’évaluation des LLM et la justesse numérique. Les articles sont publiés en anglais.
Présente Soft Assertions, une méthode pour détecter et déclencher les bugs cachés d’instabilité numérique dans les applications d’apprentissage automatique.
@article{sharmin2025softassertions,
title = {Automatically Detecting Numerical Instability in Machine Learning Applications via Soft Assertions},
author = {Sharmin, Shaila and Zahid, Anwar Hossain and Bhattacharjee, Subhankar and Igwilo, Chiamaka and Kim, Miryung and Le, Wei},
journal = {Proceedings of the ACM on Software Engineering (PACMSE), issue FSE 2025},
year = {2025},
doi = {10.1145/3729394},
url = {https://arxiv.org/pdf/2504.15507}
}
Évalue les performances des grands modèles de langage pour détecter les discours haineux lorsqu’on leur fournit un contexte géographique et social.
@misc{zahid2025hatespeech,
title = {Evaluation of Hate Speech Detection Using Large Language Models and Geographical Contextualization},
author = {Zahid, Anwar Hossain and Roy, Monoshi Kumar and Das, Swarna},
year = {2025},
eprint = {2502.19612},
archivePrefix = {arXiv},
url = {https://arxiv.org/abs/2502.19612}
}
Étudie les écarts numériques entre exécutions sur GPU NVIDIA et AMD, et leurs conséquences sur la reproductibilité et la portabilité.
@misc{zahid2024gpunumerics,
title = {Testing GPU Numerics: Finding Numerical Differences Between NVIDIA and AMD GPUs},
author = {Zahid, Anwar Hossain and Laguna, Ignacio and Le, Wei},
year = {2024},
eprint = {2410.09172},
archivePrefix = {arXiv},
url = {https://arxiv.org/abs/2410.09172}
}
Propose la conception d’une plateforme logicielle pour organiser des stages virtuels et évaluer les compétences en développement logiciel.
@inproceedings{mia2020virtualinternship,
title = {A Conceptual Design of Virtual Internship System to Benchmark Software Development Skills in a Blended Learning Environment},
author = {Mia, Raihan and Zahid, Anwar Hossain and Nath, Bipul Chandra Dev and Hoque, Abu Sayed Md Latiful},
booktitle = {2020 23rd International Conference on Computer and Information Technology (ICCIT)},
year = {2020},
publisher = {IEEE},
doi = {10.1109/ICCIT51783.2020.9392670},
url = {https://ieeexplore.ieee.org/document/9392670}
}
## Parcours
Recherche, banque, administration électronique et logiciels mobiles.
Stage de recherche dans le cadre du programme Visiting Scholar du département d’obstétrique et de gynécologie, sur l’extension d’une base de données de recherche pour l’appariement des dossiers mère-enfant.
Outils d’analyse de la précision flottante sur des architectures GPU hétérogènes, dont la génération de code pour un backend HIP du projet Varity ; mention honorable au LLNL Summer SLAM & Poster Symposium.
Systèmes d’ERP, d’achats, de comptabilité et de conformité pour l’administration publique.
Chatbot fintech, reconnaissance faciale, intégration de transferts de fonds et systèmes RPA pour les processus bancaires.
Améliorations de ROM Android et du système d’exploitation de téléphones basiques grand public.
## Projets
Les projets de cours et les petits dépôts sont repliés plus bas.
Une plateforme web qui aide élèves, étudiants de licence et de master — et toute personne curieuse de l’IA — à trouver les outils d’IA adaptés et à apprendre à les utiliser. Création et développement principal sous la direction de Wei Le.
Article de FSE 2025 présentant Soft Assertions pour détecter et déclencher les bugs d’instabilité numérique dans les applications de ML.
Contribution au projet Varity du LLNL : génération d’un backend HIP pour tester les noyaux GPU et évaluer la cohérence numérique d’une plateforme à l’autre.
Un projet de cours prolongé pour évaluer des modèles de détection des discours haineux à l’aide de métadonnées géographiques, adapté ensuite au test des grands modèles de langage et publié en 2025.
Système de reconnaissance faciale et de détection d’usurpation en temps réel pour la fintech, afin de sécuriser la vérification bancaire à distance.
## Enseignement
Auxiliaire d’enseignement au département d’informatique d’Iowa State University : conception de cours, initiation à la programmation et intelligence artificielle.
Participation à la conception de COMS 3710X: Introduction to Foundation Models I et de COMS 3720X: Introduction to Foundation Models II, avec Wei Le et Qi Li, au département d’informatique.
Encadrement des TP et des TD de COM S 127 (initiation à la programmation) — séances de TP hebdomadaires, supports de cours et d’évaluation, grilles de notation, correction des devoirs et des examens.
Cours magistraux de COM S 472/572 (Principles of Artificial Intelligence), en remplacement de Jin Tian avant son départ du département, puis de Yan-Bin Jia.
## Articles
Les articles eux-mêmes sont rédigés en anglais.
Academic papers are necessarily compressed. They describe the method, the evaluation, and the result, but they often leave out the messy middle: why a test design chan...
In our FSE 2025 paper, we introduce Soft Assertions — a new approach to detect and trigger these hidden bugs automatically.
Our SC24-W workshop paper presents a systematic method to detect and analyze these cross-vendor numerical differences.
## Contact
Le plus simple pour me joindre, c’est l’e-mail.