Beliau telah dilahirkan di Pulau Pinang pada 22 Mac 1929 di pagi Aidil Fitri. Bapanya yang berasal dari Lhokseumawe, Aceh, telah mendirikan rumahtangga dengan Che Mah Hussein pada tahun 1925 di Kubang Buaya, Butterworth.
Beliau menerima pendidikan awal di Sekolah Melayu Kampung Jawa dan kemudian ke Sekolah Francis Light. Seterusnya beliau menyambung pelajaran di Penang Free School sehingga meletusnya Perang Dunia Kedua.
Bermula dengan bermain ukele, P. Ramlee beralih kepada gitar dan biola di bawah bimbingan Encik Kamaruddin (pemimpin brass band di Penang Free School). Beliau menyertai Orkes Teruna Sekampung dan kemudian Sinaran Bintang Sore. Beliau pernah menjadi juara nyanyian anjuran Radio Pulau Pinang pada tahun 1947 dan terpilih sebagai Bintang Penyanyi Utama Malaya. Dalam pertandingan itu, beliau menggunakan huruf "P" (bagi Puteh) di awal namanya dan kekallah nama P. Ramlee itu hingga ke akhir hayatnya.
Filem pertama lakonan P.Ramlee adalah CHINTA pada tahun 1948. Beliau memegang peranan sebagai penjahat dan nyanyian latar. Kejayaannya terus berkembang dan telah berjaya berlakun di dalam 27 buah filem di antara tahun 1948 hingga 1955. Salah seorang pendorong dan guru P. Ramlee dalam dunia perfileman Melayu adalah Datuk L. Krishnan (Pengarah filem Melayu tahun 50an dan 60an yang terkenal). Gaya lakonan P. Ramlee yang amat berjaya itu adalah hasil inspirasi P. Ramlee daripada dua pelakon terkenal India Selatan iaitu MGR dan Sivaji Ganesan. Filem terakhir lakonan beliau ialah Laksamana Do Re Mi pada tahun 1972 dan lagu dan lirik terakhirnya adalah Ayer Mata Di Kuala Lumpur pada tahun 1973 sebelum beliau menghembuskan nafas terakhirnya.
P. Ramlee pernah berkahwin tiga kali. Kali terakhir adalah dengan Salmah Ismail (Saloma) pada 1961.
P. Ramlee telah kembali ke Rahmatullah pada pagi Selasa 29 Mei 1973 ketika berusia 44 tahun dan jenazahnya dikebumikan di Tanah Perkuburan Islam Jalan Ampang Kuala Lumpur. Bagi mengenang jasa dan sumbangannya, Allahyarham telah dianugerahkan Bintang Kebesaran Darjah Panglima Setia Mahkota oleh Seri Paduka Baginda Yang di-Pertuan Agong pada tahun 1990 yang membawa gelaran Tan Sri. Selain itu rumah terakhir beliau di Jalan Dedap, Setapak telah diubahsuai dan dijadikan sebagai "Pustaka Peringatan P Ramlee" pada tahun 1986. Manakala di tengah pusat bandar raya Kuala Lumpur namanya turut diabadikan pada sebatang jalan iaitu Jalan P Ramlee (dahulunya Jalan Parry) pada tahun 1982.
