¿Podemos fiarnos de la respuesta?
Estudio las alucinaciones de los LLM y evalúo en qué punto los sistemas inteligentes dejan de ser fiables.
Investigación e ingeniería Iowa State University
Soy Anwar Zahid. Estudio cómo y por qué fallan la IA y el software numérico, y creo herramientas para que esos fallos sean más fáciles de detectar, reproducir y corregir.
Fiabilidad de la IA Depuración numérica Ingeniería de software
## Novedades · registro reciente
## Sobre mí
Soy estudiante de doctorado en Ciencias de la Computación en Iowa State University, bajo la dirección de Wei Le en el Program Analysis and AI Lab. Mi investigación se centra en sistemas de IA fiables, depuración numérica y técnicas de ingeniería de software para sistemas de aprendizaje automático.
Antes del doctorado, pasé cuatro años en la ingeniería de software, trabajando en banca, gobierno electrónico, IA y plataformas móviles. Esa experiencia en la industria marca mi forma de investigar: me interesan los métodos que pueden convertirse en herramientas prácticas para quienes desarrollan e investigan. La trayectoria completa está en la página “Sobre mí”.
## Líneas de investigación
Estudio las alucinaciones de los LLM y evalúo en qué punto los sistemas inteligentes dejan de ser fiables.
Rastreo la inestabilidad numérica y las regresiones silenciosas en el software que mueve el aprendizaje automático.
Creo herramientas de prueba y depuración interpretables que ayudan a entender los fallos y a corregirlos.
## Publicaciones
Sobre fiabilidad del ML, evaluación de LLM y corrección numérica. Los artículos están publicados en inglés.
Presenta Soft Assertions, un método para detectar y provocar errores ocultos de inestabilidad numérica en aplicaciones de aprendizaje automático.
@article{sharmin2025softassertions,
title = {Automatically Detecting Numerical Instability in Machine Learning Applications via Soft Assertions},
author = {Sharmin, Shaila and Zahid, Anwar Hossain and Bhattacharjee, Subhankar and Igwilo, Chiamaka and Kim, Miryung and Le, Wei},
journal = {Proceedings of the ACM on Software Engineering (PACMSE), issue FSE 2025},
year = {2025},
doi = {10.1145/3729394},
url = {https://arxiv.org/pdf/2504.15507}
}
Evalúa cómo detectan el discurso de odio los modelos de lenguaje grandes cuando se les da contexto geográfico y social.
@misc{zahid2025hatespeech,
title = {Evaluation of Hate Speech Detection Using Large Language Models and Geographical Contextualization},
author = {Zahid, Anwar Hossain and Roy, Monoshi Kumar and Das, Swarna},
year = {2025},
eprint = {2502.19612},
archivePrefix = {arXiv},
url = {https://arxiv.org/abs/2502.19612}
}
Estudia las diferencias numéricas entre ejecuciones en GPU de NVIDIA y AMD y lo que implican para la reproducibilidad y la portabilidad.
@misc{zahid2024gpunumerics,
title = {Testing GPU Numerics: Finding Numerical Differences Between NVIDIA and AMD GPUs},
author = {Zahid, Anwar Hossain and Laguna, Ignacio and Le, Wei},
year = {2024},
eprint = {2410.09172},
archivePrefix = {arXiv},
url = {https://arxiv.org/abs/2410.09172}
}
Propone el diseño conceptual de una plataforma de software para ofrecer prácticas virtuales y medir habilidades de desarrollo de software.
@inproceedings{mia2020virtualinternship,
title = {A Conceptual Design of Virtual Internship System to Benchmark Software Development Skills in a Blended Learning Environment},
author = {Mia, Raihan and Zahid, Anwar Hossain and Nath, Bipul Chandra Dev and Hoque, Abu Sayed Md Latiful},
booktitle = {2020 23rd International Conference on Computer and Information Technology (ICCIT)},
year = {2020},
publisher = {IEEE},
doi = {10.1109/ICCIT51783.2020.9392670},
url = {https://ieeexplore.ieee.org/document/9392670}
}
## Experiencia
Experiencia en investigación, banca, gobierno electrónico y software móvil.
Prácticas de investigación dentro del programa de visiting scholars del Departamento de Obstetricia y Ginecología, en la ampliación de una base de datos de investigación para vincular registros materno-fetales.
Creé herramientas para analizar la precisión de coma flotante en arquitecturas de GPU heterogéneas, incluida la generación de código para un backend HIP del proyecto Varity; recibí una mención honorífica en el LLNL Summer SLAM & Poster Symposium.
Trabajé en sistemas ERP, de compras, contabilidad y cumplimiento normativo para la administración pública.
Desarrollé un chatbot fintech, reconocimiento facial, integración de remesas y sistemas RPA para procesos bancarios.
Desarrollé mejoras para ROM de Android y para el sistema operativo de teléfonos básicos de consumo.
## Proyectos
Los trabajos de curso y los repositorios más pequeños están plegados más abajo.
Una plataforma web que ayuda a estudiantes de escuela, grado y posgrado —y a cualquier persona con curiosidad por la IA— a encontrar las herramientas adecuadas y aprender a usarlas. La creé y lideré su desarrollo bajo la dirección de Wei Le.
Artículo de FSE 2025 que presenta Soft Assertions para detectar y provocar errores de inestabilidad numérica en aplicaciones de ML.
Contribuí al proyecto Varity del LLNL con la generación de un backend HIP para probar kernels de GPU, lo que permite evaluar la coherencia numérica entre plataformas.
Amplié un proyecto de clase para evaluar modelos de detección de discurso de odio con metadatos geográficos. Más tarde lo adapté para probar modelos de lenguaje grandes y se publicó en 2025.
Desarrollé un sistema de reconocimiento facial y detección de suplantación en tiempo real para aplicaciones fintech, que refuerza la verificación bancaria a distancia.
## Docencia
Asistente de docencia en el Departamento de Ciencias de la Computación de Iowa State University, con aportes al diseño de cursos, a la introducción a la programación y a la inteligencia artificial.
Colaboré en el diseño de COMS 3710X: Introduction to Foundation Models I y COMS 3720X: Introduction to Foundation Models II junto con Wei Le y Qi Li, del Departamento de Ciencias de la Computación.
Impartí los laboratorios y las clases prácticas de COM S 127 (introducción a la programación): laboratorios semanales, materiales del curso y de evaluación, rúbricas de calificación y corrección de tareas y exámenes.
Di clases de COM S 472/572 (Principles of Artificial Intelligence) en sustitución de Jin Tian, antes de que dejara el departamento, y de Yan-Bin Jia.
## Artículos
Los artículos están escritos en inglés.
Academic papers are necessarily compressed. They describe the method, the evaluation, and the result, but they often leave out the messy middle: why a test design chan...
In our FSE 2025 paper, we introduce Soft Assertions — a new approach to detect and trigger these hidden bugs automatically.
Our SC24-W workshop paper presents a systematic method to detect and analyze these cross-vendor numerical differences.
## Contacto
La forma más rápida de contactarme es por correo electrónico.