公元636年，经过精心策划，哈利德率领“伊斯兰远征军”先用小部队骚扰敌人，然后于636年8月1日在约旦河支流雅穆克河附近与东罗马帝国拜占庭军队进行决战。最后，东罗马帝国被击败，阿拉伯人将罗马人驱逐出叙利亚。这场战争被称为雅穆克战役。
公元633年，阿拉伯骑兵约2.5万人，而东罗马援军约5万人。阿拉伯军队基本上由骑兵组成，机动性强，由哈利德率领。东罗马援军主要由步兵组成，包括由提奥多拉率领的帝国最精锐的重型装甲骑兵团。
公元636年，经过精心策划，哈利德率领“伊斯兰远征军”先用小部队骚扰敌人，然后于636年8月1日在约旦河支流雅穆克河附近与拜占庭军队进行决战。但由于长途跋涉和水土不服，再加上中东气候极热，临时征兵的东罗马军队战斗力严重下降，最重要的士气消失了。哈利德随后采取集中部队，利用阿拉伯军队是骑兵和骑兵的特点，以沙暴为掩护，向东罗马军队发起了大规模的集团冲击。虽然拜占庭军队拼命作战，但它们以强大的方阵对抗阿拉伯人的猛烈冲击。结果东罗马军队阵亡4万多人，先锋指挥官王弟提奥多拉被杀，东罗马军队全线崩溃。
希拉克略皇帝无法回到天堂，被迫带领残疾人撤退。当他撤退到叙利亚边界时，面对祖先艰难夺取的荒凉场景，希拉克略皇帝作为一代杰出的君主，曾经恢复了罗马的荣誉！他抬起天空叹了口气：“美丽的叙利亚，永远不要说再见”！ 这是希拉克略的告别词。
罗马人战败后，叙利亚永别了。雅穆克战役的失败使东罗马帝国失去了叙利亚这个富裕的省份。东罗马帝国的整个叙利亚在公元640年都陷落了。阿拉伯骑兵继续前进：公元638年，占领中东主要城镇耶路撒冷；公元637年，阿拉伯远征军进入另一个大国波斯萨珊帝国。在将军赛亦德的指挥下，阿拉伯骑兵在两个河流域的主要城镇卡迭西亚打击了波斯军队，赛亦德赢得了胜利，并在6月份渡底格里斯河夺得了萨删除波斯首都泰西封。赛亦德建立了巴士拉军营，现在是伊拉克南部最大的城市巴士拉。公元650年，阿拉伯人和波斯军在波斯本土作战，波斯军死伤10万人，此后再也没有恢复过来。波斯王逃往中亚呼罗珊，波斯灭亡。
阿拉伯人在灭亡波斯的同时继续攻击东罗马，公元642年征服埃及，公元645年征服利比亚，结束了罗马对西亚和北非近千年的统治。公元669年，阿拉伯军队首次进攻君士坦丁堡，随后的公元674-680年，阿拉伯人连续七年进攻君士坦丁堡。在叙利亚皇帝君士坦丁四世的带领下，东罗马帝国军队以帝国海军希腊舰队为支撑，进行了极其顽强的抵抗。对抗中东罗马帝国海军希腊舰队，使用了一种即使在现在看来也相当强大的原始火焰喷射器“希腊火”。最终，三分之二的阿拉伯舰队被烧毁，不少于20万人死亡。更重要的是，东罗马帝国的胜利阻止了试图征服欧洲基督教文明的阿拉伯人。而东罗马海军在这场战争中发挥了重要作用。
雅穆克战役是阿拉伯人进入波斯和东罗马帝国的战略开始，意义重大。