Можно ли доверять ответу?
Изучаю галлюцинации LLM и выясняю, где именно интеллектуальные системы теряют надёжность.
Исследования и инженерия Университет штата Айова
Меня зовут Anwar Zahid. Я изучаю, как и почему ошибаются ИИ и вычислительное ПО, и создаю инструменты, с которыми такие сбои легче найти, воспроизвести и исправить.
Надёжность ИИ Отладка вычислений Программная инженерия
## Новости · последние записи
## Обо мне
Учусь в аспирантуре по компьютерным наукам в Университете штата Айова под руководством Wei Le в Program Analysis and AI Lab. Мои исследования посвящены надёжным системам ИИ, отладке численных вычислений и методам программной инженерии для систем машинного обучения.
До аспирантуры — четыре года в разработке ПО: банковские системы, электронное правительство, ИИ и мобильные платформы. Этот опыт в индустрии определяет мой подход к науке: меня интересуют методы, которые могут стать практичными инструментами для разработчиков и исследователей. Полная хронология — на подробной странице «Обо мне».
## Научные интересы
Изучаю галлюцинации LLM и выясняю, где именно интеллектуальные системы теряют надёжность.
Отслеживаю численную неустойчивость и незаметные регрессии в ПО, на котором держится машинное обучение.
Создаю понятные инструменты тестирования и отладки, которые помогают разобраться в сбоях и исправить их.
## Публикации
О надёжности ML, оценке LLM и корректности вычислений. Статьи опубликованы на английском.
Метод Soft Assertions для обнаружения и намеренного вызова скрытых ошибок численной неустойчивости в приложениях машинного обучения.
@article{sharmin2025softassertions,
title = {Automatically Detecting Numerical Instability in Machine Learning Applications via Soft Assertions},
author = {Sharmin, Shaila and Zahid, Anwar Hossain and Bhattacharjee, Subhankar and Igwilo, Chiamaka and Kim, Miryung and Le, Wei},
journal = {Proceedings of the ACM on Software Engineering (PACMSE), issue FSE 2025},
year = {2025},
doi = {10.1145/3729394},
url = {https://arxiv.org/pdf/2504.15507}
}
Оценка того, насколько хорошо большие языковые модели распознают язык вражды, если учитывать географический и социальный контекст.
@misc{zahid2025hatespeech,
title = {Evaluation of Hate Speech Detection Using Large Language Models and Geographical Contextualization},
author = {Zahid, Anwar Hossain and Roy, Monoshi Kumar and Das, Swarna},
year = {2025},
eprint = {2502.19612},
archivePrefix = {arXiv},
url = {https://arxiv.org/abs/2502.19612}
}
Исследование численных расхождений между вычислениями на GPU NVIDIA и AMD и их последствий для воспроизводимости и переносимости.
@misc{zahid2024gpunumerics,
title = {Testing GPU Numerics: Finding Numerical Differences Between NVIDIA and AMD GPUs},
author = {Zahid, Anwar Hossain and Laguna, Ignacio and Le, Wei},
year = {2024},
eprint = {2410.09172},
archivePrefix = {arXiv},
url = {https://arxiv.org/abs/2410.09172}
}
Концептуальный проект программной платформы для виртуальных стажировок и оценки навыков разработки ПО.
@inproceedings{mia2020virtualinternship,
title = {A Conceptual Design of Virtual Internship System to Benchmark Software Development Skills in a Blended Learning Environment},
author = {Mia, Raihan and Zahid, Anwar Hossain and Nath, Bipul Chandra Dev and Hoque, Abu Sayed Md Latiful},
booktitle = {2020 23rd International Conference on Computer and Information Technology (ICCIT)},
year = {2020},
publisher = {IEEE},
doi = {10.1109/ICCIT51783.2020.9392670},
url = {https://ieeexplore.ieee.org/document/9392670}
}
## Опыт
Исследования, банковская сфера, электронное правительство и мобильная разработка.
Исследовательская стажировка по программе Visiting Scholar на кафедре акушерства и гинекологии: расширение исследовательской базы данных для связывания записей матери и плода.
Инструменты для анализа точности вычислений с плавающей точкой на разнородных архитектурах GPU, включая генерацию кода HIP-бэкенда для проекта Varity; почётное упоминание на LLNL Summer SLAM & Poster Symposium.
ERP, закупки, бухгалтерия и системы комплаенса для государственных структур.
Финтех-чат-бот, распознавание лиц, интеграция денежных переводов и RPA-системы для банковских процессов.
Доработка Android-прошивок и операционной системы кнопочных телефонов.
## Проекты
Учебные проекты и небольшие репозитории свёрнуты ниже.
Веб-платформа, которая помогает школьникам, студентам и аспирантам — и всем, кому интересен ИИ, — найти подходящие ИИ-инструменты и научиться с ними работать. Автор идеи и ведущая разработка — под руководством Wei Le.
Статья на FSE 2025: Soft Assertions для обнаружения и намеренного вызова ошибок численной неустойчивости в ML-приложениях.
Вклад в проект Varity (LLNL): генерация HIP-бэкенда для тестирования GPU-ядер, позволяющая проверять согласованность вычислений на разных платформах.
Учебный проект, расширенный до оценки моделей распознавания языка вражды с географическими метаданными. Позже адаптирован для тестирования больших языковых моделей и опубликован в 2025 году.
Система распознавания лиц и защиты от подделок в реальном времени для финтех-приложений, повышающая безопасность удалённой банковской идентификации.
## Преподавание
Ассистент преподавателя на факультете компьютерных наук Университета штата Айова: разработка курсов, введение в программирование и искусственный интеллект.
Участие в создании курсов COMS 3710X: Introduction to Foundation Models I и COMS 3720X: Introduction to Foundation Models II вместе с Wei Le и Qi Li на факультете компьютерных наук.
Лабораторные и семинарские занятия по COM S 127 (введение в программирование) — еженедельные лабораторные, подготовка учебных и контрольных материалов, критерии оценивания, проверка заданий и экзаменов.
Лекции по COM S 472/572 (Principles of Artificial Intelligence) на замену Jin Tian (до ухода с факультета) и Yan-Bin Jia.
## Статьи
Сами статьи написаны на английском.
Academic papers are necessarily compressed. They describe the method, the evaluation, and the result, but they often leave out the messy middle: why a test design chan...
In our FSE 2025 paper, we introduce Soft Assertions — a new approach to detect and trigger these hidden bugs automatically.
Our SC24-W workshop paper presents a systematic method to detect and analyze these cross-vendor numerical differences.
## Контакты
Быстрее всего со мной можно связаться по почте.