هرگاه ابومسلم خولانی رحمه الله بر خرابه‌ای عبور می‌کرد، بر آن می‌ایستاد و فریاد می‌زد و می‌گفت:
"يَا خِرْبَةُ أَيْنَ أَهْلُكِ ذَهَبُوا وَبَقِيَتْ أَعْمَالُهُمْ انْقَطَعَتْ الشَّهْوَةُ وَبَقِيَتْ الْخَطِيئَةُ ابْنَ آدَمَ تَرْكُ الْخَطِيئَةِ أَهْوَنُ مِنْ طَلَبِ التَّوْبَة."
«ای ویرانه! ساکنان تو کجایند؟ رفتند و اعمال‌شان باقی ماند، شهوت‌پرستی برفت و گناه‌ها باقی ماند.
ای بنی آدم! ترک گناه بسیار از طلب توبه آسانتر است».
الزهد لأحمد بن حنبل، ص ۳۱۸، ش ۲۳۲۴.
«در زمان معاویه ـ رضي‌الله‌عنه ـ مردم دچار قحطی شدند. معاویه برای نماز استسقاء همراه آنان بیرون آمد. چون به مصلا رسیدند، معاویه به ابومسلم گفت: می‌بینی مردم را چه حالی فرا گرفته است؟ پس دعایی کن.
ابومسلم پاسخ داد: با همه کوتاهی‌ام این کار را می‌کنم. آنگاه برخاست، کلاهش را از سر برداشت، دستانش را بالا برد و گفت:
«خدایا! از تو باران می‌طلبیم، و من با گناهانم به سوی تو آمده‌ام؛ مرا ناامید مگردان.»
راوی گوید: هنوز مردم بازنگشته بودند که باران بارید.
آنگاه ابومسلم گفت: «خدایا! معاویه مرا در جایگاهی نشانْ‌دار ساخت (جایگاه شهرت و آوازه). اگر نزد تو برای من خیری هست، مرا به سوی خود ببر.»
راوی گوید: آن روز، روز پنجشنبه بود؛ و پنجشنبه بعد، ابومسلم ـ رحمه الله ـ درگذشت.»
الزهد لأحمد بن حنبل، ص ۳۱۸، ش ۲۳۱۹.
پی‌نوشت: او از این که شهرت و آوازه‌اش در میان مردم منتشر شود و بگویند: در اثر دعای ابومسلم بود که خداوند باران نازل کرد، ترسید و ترجیح داد مرگ فرا رسد، ولی چنین چیزی در میان مردم پخش نشود، چون ترس آن را داشت که این شایعه او را در دام عجب و خود بزرگ‌بینی گرفتار کند.
ابومسلم خولانی رَحِمَهُ الله روش تربیت نفس را به یارانش توصیه می‌کند و می‌گوید:
"أرأيتم نفساً إذا أكرمتها وودعتها ونعمتها ذمتني غداً عند الله وإن أنا أهنتها وأنصبتها وأعملتها مدحتني عند الله غداً؟ قالوا: من تيك يا أبا مسلم؟ قال تيك والله نفسي."
«نظر شما در بارۀ آنکس چیست که اگر او را مورد تکریم قرار دهم و با نعمت‌های گوناگون از او پذیرایی کنم، فردا در پیشگاه الله مرا بدگویی کند، ولی اگر به او اهانت کرده و وادار به تحمل زحمت و مشقت نمایم، فردا در محضر حق تعالی مرا مدح و ستایش کند؟» گفتند: «آنکس کیست ای ابومسلم!؟» گفت: «به الله سوگند آن نفسِ من است».
صفة الصفوة: ج ۲، ص ۳۷۲.
