1931 yılında Adana'nın Saimbeyli ilçesinde doğdu. Daha sonra tüm ailesiyle birlikte Kayseri'nin Sarız ilçesine yerleşti ve bir köy ağasının yanında maraba olarak çalışmaya başladı. Ağanın kızı Dilber'e aşık olunca, birlikte Kayseri'den kaçıp Elbistan'ın Sevdili Köyü'ne yerleştiler. Anadolu Aleviliği'nin yoğun yaşandığı bu bölgede uzun süre kaldıktan sonra İstanbul'a taşındı. İşçi olarak Almanya'ya gitmek için çabaladı, fakat nefes darlığı olduğu için başaramadı ve ailesiyle beraber Osmaniye'nin Kadirli ilçesine göç etti. Bu dönemde yazar Yaşar Kemal ile tanıştı ve onun da yardımıyla bir fabrikada işe başladı. Greve çıkan işçilerin başına geçince işten altıldı ve ailesinin geçimini sağlamak için ozanlığa başladı. 1967 yılında Tunceli'de sergilenen bir Pir Sultan Abdal oyununda oynayan ve deyişler söyleyen Nesimi, salonda olay çıkınca gözaltına alındı ve bıyığının yarısı tek tek yolunmuş bir vaziyette serbest bırakıldı. Ailesiyle birlikte Zeytinburnu'nda bir gecekonduya yerleşti. Evinde konaklayanlar arasında Yaşar Kemal, Atıf Yılmaz, İlhan Selçuk, Behice Boran, Mehmet Ali Aybar,Harun Karadeniz, Yılmaz Güney, Mahzuni Şerif, Aşık İhsani, Emekçi ve Ali Özgentürk gibi isimler vardı. İlk kez 1961 yılında sahnede türkü söyleyen Çimen, ilk plağını ise 1964 yılında doldurdu. Sonraki yıllarda birçok plak ve Almanya’da 2, Türkiye’de 3,İsveç’te 3 kaset ve Radio France’ın davetlisi olarak gittiği Paris’te bir uzunçalar doldurdu. 1968’e dek Pir Sultan, Hatayi deyişleri gibi geleneksel tarzda türkü söyledi. Sonraki yıllarda kendi şiirlerini de türküleştirdi. 2 Temmuz 1993 günü Sivas'ta, Madımak Oteli'nin yakıldığı ve 35 kişinin öldürüldüğü Sivas Katliamı'nda hayatını kaybetti. Cenazesi İstanbul Karacaahmet Mezarlığı'na defnedildi. Balet ve müzisyen Mazlum Çimen'in babasıdır.
Fransa'da Amp (Anthologie De La Musique Des Peuples) Tarafından Yayınlanmıştır.
A1 -Bende Şu Dünyaya Geldim Geleli - Depuis Que Je Suis Dans Ce Monde A2 -Açılın Kapılar - Les Portes, Ouvrez-Vous A3 -Bir Güzel Bahçem Var Benim - J'ai Un Très Jolie Jardin A4 -Koca Tanri - Grand Dieu A5 -Aşıklar Diyari - Au Pays Des Troubadours B1 -Dur Diyorlar Bana - On Me Dit D'arrêter B2 -Çöplükte - Dans Les Poubelles B3 -Ağla Gönlüm - Pleure Mon Cœur
1 - İnsanlar Gülsün 2 - Senlik Benlik 3 - Barış Güvercini(Olof Palme’ye) 4 - Ezen Kalmasın 5 - Sor Nazlıyar 6 - Yavaş Yavaş 7 - Yıktır Kardaş 8 - Yola Gelmeli 9 - Beyni Uçuklar 10 - Duvaz İmam 11 - Sorma Derdimi 12 - Ruhumda Sızı
Barış Güvercini Uçsun Dünyada ile yer alıyor.
1 - Yürü 2 - Diplomalı Cahiller 3 - Ah İnan Vah İnan 4 - Yavaş Yavaş 5 - Yaralarım 6 - Gel Ey Dilber 7 - Kalmasın 8 - Ne Acayip Haldeyiz 9 - Ağla Gönlüm
1 - Var Mı Ola 2 - Değişmem Kabeye 3 - El Yerine 4 - Kaşların Güzel 5 - Nedir Suçum 6 - Dikkat Et 7 - Gönülde 8 - Kopmadık Dostlar 9 - Gül Bahçesinde 10 - Ezel Ezeli 11 - Diyemedim 12 - Yazık Değil
1 - Gelsem 2 - Bağışla Beni 3 - Görsen Beni 4 - Lanet 5 - Kimseden Değil 6 - Hasret Rüzgarı 7 - Dayanamadım 8 - Ayrılırsa 9 - Ben Benden Bezdim 10 - Göçelim Gönül
Cd - 1 1 - Aglatti Beni 2 - Yine Bir Hasretlik Dustu Serime 3 - Niye Geldim Dunyaya 4 - Kel Muhtar 5 - Aglarmisin Gulermisin 6 - Delal 7 - Heval 8 - Ben De Su Kapiya Geldim Geleli 9 - Gonlumun Mihmani 10 - Kostumda Geldim 11 - Bize De Banaz Da 12 - Gezelim Gurbet Ellerde 13 - Asiklar Diyari 14 - Cura Acis Cd -2 1 - Acilin Kapilar 2 - Ayrilik Hasreti 3 - Duaz-I Imam 4 - Yar Senden Gayri 5 - Hemi Miroye 6 - Geldik Erenler 7 - Guzelsin Guzel 8 - Isterdim Kalici Kural Gelsin 9 - Bir Gecinmek Icin 10 - Buyuk Evde 11 - Biz Kimin Asiklariyiz 12 - El Kapisina 13 - Gulmeliyiz Biz 14 - Guzel Bir Bahcem Var 15 - Koca Basli Kara Kadi 16 - Ne Gezersin Kardas