Al-Imam Ibnu Jarir rahimauhullah meriwayatkan bahwasanya 'Ali Al-Asadi telah membuat kerusakan, membuat para penempuh jalan ketakutan dan telah menumpahkan darah dan merampok. Maka iapun menjadi buronan para penguasa dan juga rakyat, akan tetapi ia tidak mau menyerahkan diri, dan mereka tidak mampu pula untuk menangkapnya. Hingga akhirnya iapun datang dalam keadaan bertaubat. Hal ini disebabkan ia mendengar seseorang membaca firman Allah :

قُلْ يَا عِبَادِيَ الَّذِينَ أَسْرَفُوا عَلَى أَنْفُسِهِمْ لا تَقْنَطُوا مِنْ رَحْمَةِ اللَّهِ إِنَّ اللَّهَ يَغْفِرُ الذُّنُوبَ جَمِيعًا إِنَّهُ هُوَ الْغَفُورُ الرَّحِيمُ

Katakanlah: "Hai hamba-hamba-Ku yang malampaui batas terhadap diri mereka sendiri, janganlah kamu berputus asa dari rahmat Allah. Sesungguhnya Allah mengampuni dosa-dosa semuanya. Sesungguhnya Dia-lah yang Maha Pengampun lagi Maha Penyayang (QS Az-Zumar : 53)

Lalu 'Ali Al-Asadi pun berhenti di hadapan lelaki tersebut dan berkata, "Ulangi kembali bacaan ayat ini !". Lalu lelaki tersebut mengulangi kembali bacaannya, maka Ali pun menyarungkan pedangnya lalu datang dalam kondisi bertaubat.

Iapun masuk ke kota Madinah di waktu sahur (sebelum subuh), lalu mandi, kemudian mendatangi mesjid Nabawi lalu sholat subuh. Setelah itu iapun duduk di dekat Abu Huroiroh radhiallahu 'anhu, ia duduk di kerumunan para sahabat Abu Huroiroh. Tatkala matahari menguning maka orang-orangpun mengenalnya lalu merekapun berdiri menuju ke arahnya. Ali pun segera berkata, "Kalian tidak bisa menangkapku karena aku telah datang dalam keadaan bertaubat sebelum kalian berhasil menangkapku". Abu Huroiroh berkata, "Ia telah benar". Abu Huroiroh lalu menggandeng tangan Ali Al-Asadi hingga membawanya ke Marwan bin Al-Hakam –yang merupakan gubernur kota Madinah di zaman kekhalifahan Mu'aawiyah bin Abi Sufyan-. Lalu Abu Huroiroh berkata kepada Marwan, "Ini si Ali telah datang dalam keadaan bertaubat, dan tidak ada jalan bagi kalian untuk menghukumnya atau membunuhnya". Akhirnya Ali pun dibiarkan dan tidak dihukum sama sekali.

Lalu Ali pun keluar dalam keadaan bertaubat dan berjihad di jalan Allah dalam peperangan di lautan. Pasukan kaum muslimin bertemu dengan pasukan Romawi, lalu kaum muslimin mendekatkan kapal Ali ke salah satu kapal pasukan Romawi, lalu beliaupun melompat ke kapal mereka dan merusak salah satu sisi kapal mereka hingga kapal mereka miring dan akhirnya merekapun seluruhnya tenggelam bersama beliau rahimahullah" (Tafsir Ibnu Katsiir 3/102-103 pada tafsir surat Al-Maadiah ayat 32-34)