Malgré sa séparation du pouvoir et sa ferveur à la propagation de l'Islam loin de la politique, le Calife Omeyyade de l'époque ordonna à son propre neveu Ibrahim fils de Walid fils 'Abdallah de l'empoisonner comme il avait déjà ordonné d'empoisonner le père de l'Imam  Al-Baquir (as).
L’Imam (as) se martyrisa à l'âge de 57 ans le 7 Zilhajj de l'an 114 de l'Hégire. Son Imamat dura 18 ans. Il fut inhumé dans le cimetière de Jannatul Baqui.