نظراً لتلك السعايات التي فعلت فعلتها في المعتصم ، قرر التخلص من الإمام (ع) ، فأوعز إلى زوجة الإمام (ع) أم الفضل ، كما أنها فعلت بايعاز من أخيها جعفر بن المامون أيضاً . فجعلت السم في العنب الرازقي واطعمته الإمام (ع) وقيل أنها سمت العنب بمسحه بمنديل مسموم ، وإن الإمام (ع) عندما أحس بأثر السم ادرك انه منها ودعا عليها ، وكانت شهادته (ع) يوم السبت السادس من شهر ذي الحجة الحرام من سنة عشرين ومأتين من الهجرة الشريفة في بغداد ، ودفن في مقابر قريش بظهر قبر جده الإمام موسى الكاظم (ع) وهي اليوم بعيدة عن بغداد مسيرة ساعة في بلدة تسمة الكاظمية ، وفوق بقعتهما قبتان عاليتان من ذهب ، مع اربع مآدن عاليةٍ كبار ، وأربع صغار من جوانبها الأربع . بأحسن ترتيب واجمل هئية .
رزقنا الله تعالى في الدنيا زيارتهما وفي الأخرة شفاعتهما وشفاعة آبائهما الطاهرين صلوات الله وسلامه عليهم أجمعين .
ويقال أن جنازته (ع) بقيت ثلاثة أيام بلا دفن ، ومثل هذا القول ورد بشأن جده الإمام موسى بن جعفر الكاظم (ع ) الذي بقي على جسر الرصافة ببغداد كذلك ، وايضاً بقي سيد الشهداء (ع) ثلاثاً