Keluarga Umar tergolong dalam keluarga kelas menengah, ia bisa membaca dan menulis yang pada masa itu merupakan sesuatu yang jarang. Umar juga dikenal, karena fisiknya yang kuat dimana ia menjadi juara gulat di Mekkah. Sebelum memeluk Islam, sebagaimana tradisi kaum jahiliyah mekkah saat itu, Umar mengubur putrinya hidup-hidup. Sebagaimana yang ia katakan sendiri, "Aku menangis ketika menggali kubur untuk putriku. Dia maju dan kemudian menyisir janggutku".
Mabuk-mabukan juga merupakan hal yang umum dikalangan kaum Quraish. Beberapa catatan mengatakan bahwa pada masa pra-Islam, Umar suka meminum anggur. Setelah menjadi muslim, ia tidak menyentuh alkohol sama sekali. Tetapi, setelah masuk Islam, belum diturunkan larangan meminum khamar (yang memabukkan) secara tegas. Sehingga ada kisah, Pada malam hari, Umar bermabuk-mabukkan sampai Subuh. Ketika waktu Subuh tiba, beliau pergi ke masjid dan ditunjuk sebagai imam. Ketika membaca surat Al-Kafirun, karena ayat 3 dan 5 bunyinya sama, setelah membaca ayat ke 5, beliau ulang lagi ke ayat 4 terus menerus. Akhirnya, Allah menurunkan larangan bermabuk-mabukkan yang tegas.
Memeluk Islam
Ketika ajakan memeluk Islam dideklarasikan oleh Nabi Muhammad SAW, Umar mengambil posisi untuk membela agama tradisional kaum Quraish (menyembah berhala). Pada saat itu Umar adalah salah seorang yang sangat keras dalam melawan pesan Islam dan sering melakukan penyiksaan terhadap pemeluknya.
Dikatakan bahwa pada suatu saat, Umar berketetapan untuk membunuh Muhammad SAW. Saat mencarinya, ia berpapasan dengan seorang muslim (Nu'aim bin Abdullah) yang kemudian memberi tahu bahwa saudara perempuannya juga telah memeluk Islam. Umar terkejut atas pemberitahuan itu dan pulang ke rumahnya.
Di rumah Umar menjumpai bahwa saudaranya sedang membaca ayat-ayat Al Qur'an (surat Thoha), ia menjadi marah akan hal tersebut dan memukul saudaranya. Ketika melihat saudaranya berdarah oleh pukulannya ia menjadi iba, dan kemudian meminta agar bacaan tersebut dapat ia lihat. Ia kemudian menjadi sangat terguncang oleh isi Al Qur'an tersebut dan kemudian langsung memeluk Islam pada hari itu juga.
Kehidupan di Madinah
Umar adalah salah seorang yang ikut pada peristiwa hijrah ke Yatsrib (Madinah) pada tahun 622 Masehi. Ia ikut terlibat pada perang Badar, Uhud, Khaybar serta penyerangan ke Syria. Ia adalah salah seorang sahabat dekat Nabi Muhammad SAW Pada tahun 625, putrinya (Hafsah) menikah dengan Nabi Muhammad.
Menjadi khalifah
Selama pemerintahan Umar, kekuasaan Islam tumbuh dengan sangat pesat. Islam mengambil alih Mesopotamia dan sebagian Persia dari tangan dinasti Sassanid dari Persia (yang mengakhiri masa kekaisaran sassanid) serta mengambil alih Mesir, Palestina, Syria, Afrika Utara dan Armenia dari kekaisaran Romawi (Byzantium).
Sejarah mencatat banyak pertempuran besar yang menjadi awal penaklukan ini. Pada pertempuran Yarmuk, yang terjadi di dekat Damaskus pada tahun 636, 20 ribu pasukan Islam mengalahkan pasukan Romawi yang mencapai 70 ribu dan mengakhiri kekuasaan Romawi di Asia Kecil bagian selatan. Pasukan Islam lainnya dalam jumlah kecil mendapatkan kemenangan atas pasukan Persia dalam jumlah yang lebih besar pada pertempuran Qadisiyyah (th 636), di dekat sungai Eufrat. Pada pertempuran itu, jenderal pasukan Islam yakni Sa`ad bin Abi Waqqas mengalahkan pasukan Sassanid dan berhasil membunuh jenderal Persia yang terkenal, Rustam Farrukhzad.
Pada tahun 637, setelah pengepungan yang lama terhadap Yerusalem, pasukan Islam akhirnya mengambil alih kota tersebut. Umar diberikan kunci untuk memasuki kota oleh pendeta Sophronius dan diundang untuk shalat di dalam gereja (Church of the Holy Sepulchre). Umar memilih untuk shalat ditempat lain agar tidak membahayakan gereja tersebut. 55 tahun kemudian, Masjid Umar didirikan ditempat ia shalat.
Umar melakukan banyak reformasi secara administratif dan mengontrol dari dekat kebijakan publik, termasuk membangun sistem administratif untuk daerah yang baru ditaklukkan. Ia juga memerintahkan diselenggarakannya sensus di seluruh wilayah kekuasaan Islam. Tahun 638, ia memerintahkan untuk memperluas dan merenovasi Masjidil Haram di Mekkah dan Masjid Nabawi di Medinah. Ia juga memulai proses kodifikasi hukum Islam.
Umar dikenal dari gaya hidupnya yang sederhana, alih-alih mengadopsi gaya hidup dan penampilan para penguasa di zaman itu, ia tetap hidup sangat sederhana.
Pada sekitar tahun ke 17 Hijriah, tahun ke-empat kekhalifahannya, Umar mengeluarkan keputusan bahwa penanggalan Islam hendaknya mulai dihitung saat peristiwa hijrah.
Kematian
Umar bin Khattab dibunuh oleh Abu Lukluk (Fairuz), seorang budak pada saat ia akan memimpin shalat Subuh. Fairuz adalah salah seorang warga Persia yang masuk Islam setelah Persia ditaklukkan Umar. Pembunuhan ini konon dilatarbelakangi dendam pribadi Abu Lukluk (Fairuz) terhadap Umar. Fairuz merasa sakit hati atas kekalahan Persia, yang saat itu merupakan negara digdaya, oleh Umar. Peristiwa ini terjadi pada hari Rabu, 25 Dzulhijjah 23 H/644 M. Setelah kematiannya jabatan khalifah dipegang oleh Usman bin Affan.