إن انهماك مروان الثاني في إخماد الثورات والفتن شغله عن الاهتمام بما كان يجري في المشرق خاصة في خراسان التي كانت مركزًا للدعوة العباسية، وقد انتشرت في المنطقة انتشارًا واسعًا، واستقامت الأمور فيها لبني العباس، مما أدَّى إلى اقتناع الدعاة العباسيين بأن الوقت قد حان للجهر بها. وفعلاً حصل هؤلاء الدعاة على موافقة إبراهيم الإمام -الذي كان يعيش في الحميمة- على الجهر بالدعوة والخروج على الأمويين، وقد تولى أبو مسلم الخراساني، الذي أضحى رئيسًا للدعوة في خراسان، أخذ البيعة تحت شعار: البيعة إلى الرضا من آل محمد.
أدرك نصر بن يسار، عامل مروان على خراسان ما يشكله أبو مسلم من خطر على الخلافة الأموية، فبعث برسالة عاجلة إلى دمشق يشرح فيها حالة الفوضى التي سادت خراسان، وخطر أبي مسلم الذي كان يتزايد يومًا بعد يوم، ويطلب مددًا من الخليفة.
ويبدو أن مروان كان عاجزًا آنذاك عن إجابة طلب واليه، ولم يستطع أن يفعل شيئًا سوى أن يمنِّيه بالوعود، ويزوده بالنصائح، مما أتاح لأبي مسلم السيطرة التامة على خراسان، ولم يتمكن نصر من الصمود أمامه؛ فتقهقر إلى نيسابور ومعه أنصاره من العرب الذين هربوا من خراسان.
ثم حدث أن انتقلت القيادة العباسية العليا في العراق إلى قحطبة بن شبيب الطائي وهو عربي، الذي سارع إلى الاصطدام بقوات نصر، وتغلب عليه، وأجبر نصرًا على ترك نيسابور حيث قصد الري، وفيها واتته الإمدادات التي بعثت بها الخلافة بعد أن أدركت خطورة الوضع، وضرورة مساندة صمود نصر، فابتدأت بذلك جولة أخرى من الاصطدامات كان النصر فيها حليف القوات العباسية، ومات نصر بن سيار بالري في عام 131هـ، بعد وقعة أصفهان في جو الهزيمة القاتم.
ثم اتجه قحطبة نحو العراق ليصطدم بالقوات الأموية بقيادة ابن هبيرة -والي مروان على العراق- وتغلب عليه وهَمَّ بدخول الكوفة إلا أنه غرق وهو يعبر نهر الفرات، ودخلت القوات العباسية المدينة بقيادة حميد بن قحطبة في شهر ربيع الأول عام 132هـ، وسَّلم الأمر إلى أبي سلمة الخلال الذي أضحى وزير آل محمد وبُويع في الكوفة لعبد الله بن محمد بن علي بن عبد الله بن العباس المعروف بأبي العباس، وقد كان أخوه إبراهيم الإمام قد عهد إليه بأمر الدعوة عندما قضى عليه مروان الثاني آنذاك بعدما كشف أمره ليصبح أول خليفة عباسي.
وبعد أن تم له الأمر في العراق أرسل جيشًا بقيادة عمه عبد الله بن علي، التقى بجيش مروان على نهر الزاب، وهو أحد فروع نهر دجلة، وكانت الانتصارات التي حققتها الثورة حتى ذلك التاريخ قد أضعفت معنويات الجيش الأموي، فأحجمت بعض وحداته عن خوض المعركة ومنها الوحدات اليمنية، ربما بدافع العصبية من جهة، ومن التأخير في دفع مرتبات الجند من جهة أخرى، وعصت هذه الوحدات أوامر مروان في تلك اللحظة الحرجة ودارت بين الجيشين الأموي والعباسي رحى معركة عنيفة في شهر جمُادَى الآخرة عام 132هـ، استمرت أحدَ عشرَ يومًا انتهت بهزيمة مروان بن محمد، الذي انسحب بعد المعركة باتجاه الموصل لكن المدينة أغلقت أبوابها في وجهه؛ مما دفعه إلى الانسحاب نحو حران مقره السابق، إلا أن الجيش العباسي ظل يطارده فانسحب إلى حِمْص فدمشق فالأردن ثم فلسطين، وكانت المدن في هذه البلاد تفتح أبوابها للجيش العباسي باستثناء مدينة دمشق التي دخلها العباسيون عنوة.
وعهد عبد الله بن علي إلى أخيه صالح بمطاردة مروان بعد أن تجاوز الشام ووصل إلى مصر بعد أن تخلى عنه أنصاره وتوقف في قرية بوصير الصغيرة في منطقة الفيوم؛ حيث داهمته في الليل قوة عسكرية وقاوم مروان حتى خرَّ صريعًا، وانتهت بمقتله الخلافة الأموية، وكان ذلك في عام 132هـ.
وهذا أُسِدَل الستار على حياة أسرة حكمت دولة الإسلام ما يقرب من قرن من الزمان، حققت خلاله لأمتنا الإسلامية ما لا يمكن حصره من منجزات وعطاءات في مختلف الميادين.