Dá para confiar na resposta?
Estudo as alucinações de LLMs e avalio em que ponto os sistemas inteligentes deixam de ser confiáveis.
Pesquisa & engenharia Iowa State University
Eu sou Anwar Zahid. Estudo como e por que a IA e o software numérico falham, e crio ferramentas que tornam essas falhas mais fáceis de detectar, reproduzir e corrigir.
Confiabilidade de IA Depuração numérica Engenharia de software
## Novidades · registro recente
## Sobre
Faço doutorado em Ciência da Computação na Iowa State University, com orientação de Wei Le no Program Analysis and AI Lab. Minha pesquisa se concentra em sistemas de IA confiáveis, depuração numérica e técnicas de engenharia de software para sistemas de aprendizado de máquina.
Antes do doutorado, passei quatro anos trabalhando com engenharia de software em plataformas de bancos, governo eletrônico, IA e dispositivos móveis. Essa bagagem na indústria define meu jeito de pesquisar: me interessam os métodos que podem virar ferramentas práticas para quem desenvolve e pesquisa. A trajetória completa está na página “Sobre” detalhada.
## Interesses de pesquisa
Estudo as alucinações de LLMs e avalio em que ponto os sistemas inteligentes deixam de ser confiáveis.
Rastreio a instabilidade numérica e as regressões silenciosas no software que move o aprendizado de máquina.
Crio ferramentas de teste e depuração interpretáveis, que ajudam as pessoas a entender falhas e corrigi-las.
## Publicações
Sobre confiabilidade de ML, avaliação de LLMs e correção numérica. Os artigos são publicados em inglês.
Apresenta Soft Assertions, um método para detectar e provocar bugs ocultos de instabilidade numérica em aplicações de aprendizado de máquina.
@article{sharmin2025softassertions,
title = {Automatically Detecting Numerical Instability in Machine Learning Applications via Soft Assertions},
author = {Sharmin, Shaila and Zahid, Anwar Hossain and Bhattacharjee, Subhankar and Igwilo, Chiamaka and Kim, Miryung and Le, Wei},
journal = {Proceedings of the ACM on Software Engineering (PACMSE), issue FSE 2025},
year = {2025},
doi = {10.1145/3729394},
url = {https://arxiv.org/pdf/2504.15507}
}
Avalia o desempenho de grandes modelos de linguagem na detecção de discurso de ódio quando recebem contexto geográfico e social.
@misc{zahid2025hatespeech,
title = {Evaluation of Hate Speech Detection Using Large Language Models and Geographical Contextualization},
author = {Zahid, Anwar Hossain and Roy, Monoshi Kumar and Das, Swarna},
year = {2025},
eprint = {2502.19612},
archivePrefix = {arXiv},
url = {https://arxiv.org/abs/2502.19612}
}
Estuda diferenças numéricas entre execuções em GPUs NVIDIA e AMD e suas consequências para a reprodutibilidade e a portabilidade.
@misc{zahid2024gpunumerics,
title = {Testing GPU Numerics: Finding Numerical Differences Between NVIDIA and AMD GPUs},
author = {Zahid, Anwar Hossain and Laguna, Ignacio and Le, Wei},
year = {2024},
eprint = {2410.09172},
archivePrefix = {arXiv},
url = {https://arxiv.org/abs/2410.09172}
}
Apresenta o projeto conceitual de uma plataforma de software para estágios virtuais e para avaliar habilidades de desenvolvimento de software.
@inproceedings{mia2020virtualinternship,
title = {A Conceptual Design of Virtual Internship System to Benchmark Software Development Skills in a Blended Learning Environment},
author = {Mia, Raihan and Zahid, Anwar Hossain and Nath, Bipul Chandra Dev and Hoque, Abu Sayed Md Latiful},
booktitle = {2020 23rd International Conference on Computer and Information Technology (ICCIT)},
year = {2020},
publisher = {IEEE},
doi = {10.1109/ICCIT51783.2020.9392670},
url = {https://ieeexplore.ieee.org/document/9392670}
}
## Experiência
Experiência em pesquisa, bancos, governo eletrônico e software para dispositivos móveis.
Estágio de pesquisa pelo programa de Visiting Scholars do Departamento de Obstetrícia e Ginecologia, na expansão de uma base de dados de pesquisa para vincular registros materno-fetais.
Criei ferramentas para análise de precisão de ponto flutuante em arquiteturas de GPU heterogêneas, incluindo a geração de código para um backend HIP do projeto Varity; recebi menção honrosa no LLNL Summer SLAM & Poster Symposium.
Trabalhei em sistemas de ERP, compras, contabilidade e compliance para a administração pública.
Desenvolvi chatbot para fintech, reconhecimento facial, integração de remessas e sistemas de RPA para processos bancários.
Desenvolvi melhorias em ROMs Android e no sistema operacional de celulares básicos.
## Projetos
Trabalhos de disciplinas e repositórios menores estão recolhidos mais abaixo.
Uma plataforma web que ajuda estudantes da educação básica, da graduação e da pós — e qualquer pessoa curiosa sobre IA — a encontrar as ferramentas certas e aprender a usá-las. Criação e desenvolvimento principal sob a orientação de Wei Le.
Artigo do FSE 2025 que apresenta Soft Assertions para detectar e provocar bugs de instabilidade numérica em aplicações de ML.
Contribuição para o projeto Varity, do LLNL, com a geração de um backend HIP para testar kernels de GPU, permitindo avaliar a consistência numérica entre plataformas.
Um projeto de disciplina ampliado para avaliar modelos de detecção de discurso de ódio com metadados geográficos. Depois foi adaptado para testar grandes modelos de linguagem e publicado em 2025.
Sistema de reconhecimento facial e detecção de fraude em tempo real para aplicações de fintech, que reforça a verificação bancária a distância.
## Ensino
Assistente de ensino no Departamento de Ciência da Computação da Iowa State University, contribuindo com o desenho de disciplinas, introdução à programação e inteligência artificial.
Ajudei a desenhar as disciplinas COMS 3710X: Introduction to Foundation Models I e COMS 3720X: Introduction to Foundation Models II com Wei Le e Qi Li, no Departamento de Ciência da Computação.
Conduzi as aulas de laboratório e de exercícios de COM S 127 (introdução à programação) — laboratórios semanais, materiais de aula e de avaliação, rubricas de correção e correção de trabalhos e provas.
Dei aulas de COM S 472/572 (Principles of Artificial Intelligence) substituindo Jin Tian, antes da saída do departamento, e Yan-Bin Jia.
## Textos
Os textos em si estão em inglês.
Academic papers are necessarily compressed. They describe the method, the evaluation, and the result, but they often leave out the messy middle: why a test design chan...
In our FSE 2025 paper, we introduce Soft Assertions — a new approach to detect and trigger these hidden bugs automatically.
Our SC24-W workshop paper presents a systematic method to detect and analyze these cross-vendor numerical differences.
## Contato
O jeito mais rápido de falar comigo é por e-mail.