قالوا: ولم يزل موزعا أوقاته على تلاوة القرآن، ومجالسة أرباب القلوب، وإدامة الصيام والقيام حتى كان في جمادى الآخرة سنة خمس وخمسمائة .
وفي كتاب الثبات عند الممات لابن الجوزي: قال أحمد أخو لما كان يوم الاثنين وقت الصبح توضأ أخي، وصلى، وقال: علي بالكفن، فأخذه وقبله، ووضعه على عينيه وقال: سمعا وطاعة للدخول على الملك، ثم مد رجليه واستقبل، فانتقل إلى رضوان الله تعالى قبل الإسفار، طيب الثناء، أعلى منزلة من نجم السماء، لا يكرهه إلا حاسد أو زنديق، ولا يسومه بالسوء إلا من كان في قلبه ريب أو حاد عن سواء الطريق . الغزالي:
وقال فخر الدين بن عساكر: مضى إلى رحمة الله يوم الاثنين الرابع عشر من جمادى الآخرة سنة خمس وخمسمائة، ودفن بظاهر قصبة طابران، والله يخصه بأنواع الكرامة في أخراه، كما خصه بفنون العلم في دنياه بمنه، ولم يعقب إلا البنات، وكان له من الأسباب إرثا وكسبا ما يقوم بكفايته، ونفقة أهله وأولاده، فما كان يباسط أحدا في الأمور الدنيوية، وقد عرضت عليه فما قبلها، وأعرض عنها، واكتفى بالقدر الذي يصون به دينه، ولا يحتاج معه إلى التعرض للسؤال والمنال من غيره .
قال ابن السمعاني: وقد زرت قبره بالطابران قصبة طوس، سمعت أبا جعفر عمر بن محمد بن أحمد الطوسي مذاكرة يقول: تمثل الإمام إسماعيل الحاكمي بعد وفاة الإمام بهذا البيت: أبي حامد الغزالي
عجبت لصبري بعده وهو ميت وكنت امرأ أبكي دما وهو غائب
ووجدت في كتاب بهجة الناظرين وأنس العارفين للعارف بالله محمد بن عبد العظيم الزموري ما نصه: ومما حدثنا به من أدركنا من المشيخة أن الإمام لما حضرته الوفاة أوصى رجلا من أهل الفضل والدين كان يخدمه، أن يحفر قبره في موضع بيته، ويستوصي أهل القرى التي كانت قريبة إلى موضعه ذلك بحضور جنازته، وأن لا يباشره أحد حتى يصل ثلاثة نفر من الفلاة لا يعرفون في بلاد أبا حامد الغزالي العراق يغسله اثنان منهما، ويتقدم الثالث بالصلاة عليه بغير أمر أحد ولا مشورة، فلما توفي فعل الخديم كل ما أمر به، وحضر الناس، فلما اجتمعوا لحضور جنازته رأوا ثلاثة رجال خرجوا من الفلاة، فعمد اثنان منهم إلى غسله، واختفى الثالث ولم يظهر، فلما غسل وأدرج في أكفانه وحملت جنازته ووضعت على شفير قبره ظهر الرجل الثالث ملتفا في كسائه في جانبيه علم أسود، معمما بعمامة صوف، وصلى عليه، وصلى الناس بصلاته، ثم سلم وانصرف، فتوارى عن الناس، وكان بعض الفضلاء من أهل العراق ممن حضر الجنازة ميزه بصفاته، ولم يعرفه إلى أن سمع بعضهم بالليل هاتفا يقول لهم:إن ذلك الرجل الذي صلى بالناس هو الشيخ أبو عبد الله محمد بن إسحاق أمغار الشريف، جاء من المغرب الأقصى من عين القطر، وإن اللذين غسلاه هما صاحباه: أبو شعيب أيوب بن سعيد بن دازمور وأبو عيسى وازجيح، فلما سمعوا بذلك عملوا الرحلة من العراق إلى صنهاجة أزمور بالمغرب الأقصى، فلما وصلوا إليهم واستوهبوا منهم الدعاء انصرفوا إلى العراق، وأخبروا متصوفة العراق، وأشاعوا كرامتهم، ثم إن جماعة منهم لما سمعوا بذلك أتوا إلى زيارتهم فوجدوهم أولئك الذين ميزوا، واستوهبوا منهم الدعاء، وهو سياق غريب .