از نخستین اقدام های عمر بن خطاب در آغاز خلافت ، عزل استانداران و فرماندهانی بود که ابوبکر نصب کرده بود. آن افراد عبارت اند از : خالد بن ولید ،شر حبیل بن حسنه ،انس بن مالک ، مثنی بن حارثه و...
عزل خالد بن ولید : آخرین منصب خالد در دوره زمامداری ابوبکر فرماندهی سپاه شام بود. او را باید فرماندهی خیره سر شمرد که با تکیه بر پشتیبانی خلیفه آن چه می خواست به جای می آورد. او نه از ابوبکر بیم داشت و نه از عمر. با این حال ، پیوسته جانبدار ابوبکر و رقیب عمر بود. عمر بن خطاب در اولین روز خلافتش وی را از فرماندهی عزل و به جای او به طور موقت ابوعبیده جراح را نصب کرد. (626)
خالد زمانی خبر مرگ ابوبکر را شنید که از کار عزل شده بود. (627)
وی همچنان در لشکرکشی ها حضور داشت تا آن که در سال 21 هجری در حمص به علت نامعلومی به هلاکت رسید.
برای بر کناری خالد دلایلی چند می توان بر شمرد. آن چه منطقی تر به نظر می رسد این است که خالد بن ولید در دوام حکومت ابوبکر و استواری حکومت عمر سهم چشمگیر داشته است و شاید در نگاه سطحی سزاوارتر آن بود که عمر بن خطاب وی را بدین شتاب از منصب خود عزل نکند. گمان می رود مهم ترین سبب عزل وی هراس عمر از نفوذ نظامی و سیاسی خالد در آینده باشد. عملکرد گذشته خالد نشان می داد که وی به لیاقت خود در امور نظامی و سیاسی ، اعتقاد زیادی دارد و پیروزی های کسب شده را نتیجه درایت و سیاست خود می داند و توقع مند است که خود در سایه آن پیروزی ها به منصبی والاتر دست یابد ، حال آن که به اعتقاد عمر کوشش و خدمت گماشتگان حکومت باید به تقویت و ثبات دولت مرکزی بینجامد نه عاملی برای نفوذ اجتماعی و سیای خود آنان شود. خلیفه خود می گوید : من آن دو خالد و مثنی بن حارثه را فقط برای یک لغزش و گناه عزل نکردم ، بلکه دیدم مردم بیش از اندازه لزوم آن دو را تعظیم می کنند.تریدم به آنها گرویده ، فرد سزاوارتر را ترک کنند.(628)
پس از خالد،مدتی ابوعبیده جراح فرمانده بود. این فرماندهی طولی نکشید که به استانداری شام تبدیل شد. پس از عزل ابو عبیده - که سال 18 ق. به مرگ مشکوک مرد - خلیفه نخست معاذبن جبل و پس از مرگ وی یزید بن ابی سفیان برادر معاویه را به جای وی استاندار شام کرد. یزید نیز در مدتی کوتاه در اثر بیماری طاعون در گذشت و از سوی عمر ، معاویة بن ابی سفیان به جای او استاندار شد.
شرحبیل بن حسنه : دومین فرمانده لشکر ابوبکر در عراق ، از فاتحان عراق و مهاجران به حبشه است که اردن نیز به دست وی فتح شده است. عمر او را از مقامش عزل کرد. بعدها درباره اش شایعاتی ساختند و آن گاه او و بلال را در شام کشتند و شایع ساختند که در اثر طاعون مرده اند. (629)
انس بن مالک :وی والی ابوبکر در بحرین بود که عمر به جایش نخست مغیرة بن شعبه و سپس ابوهریره دویسی را نصب نمود. (630)
مثنی بن حارثه : او سومین فرمانده ابوبکر در عراق است که از سوی عمر عزل شد و به جایش ابو عبیده ثقفی پدر مختار فرمانده گردید. (631)
مثنی پس از مجروحیت در جنگ به طور مشکوک مرد.

626) ناگفته نماند که مدت زمانی بعد ابو عبیده را نیز بر کنار کرد و او مدتی کوتاه پس از آن ، به مرگ مشکوک در گذشت.
627) الطبقات الکبری ، ج 7 ، ص 397 ، تاریخ یعقوبی ، ج 2، ص 95.
628) الکامل فی التاریخ ، ج 2، ص 294 ،مروج الذهب ، ج 1 ، ص 670.
629) مختصر تاریخ دمشق ،ج 10 ،ص 290 ،اسدالغابة ،ج 2 ، ص 513.
630) مختصر تاریخ دمشق ، ج 5 ، ص 73 تاریخ الاسلام ، عهد خلفاء الراشدین ، ص 121.
631) اسدالغابة ،ج 5 ، ص 60 و ج 6 ، ص 205 ، الاصابة ،ج 3 ،ص 361