南泥灣精神的核心和本質就是艱苦奮斗、自力更生。1941年3月，八路軍三五九旅進駐了作為陜甘寧邊區南大門的南泥灣，一邊練兵，一邊屯田墾荒。正是在開荒過程中，培育和形成了以艱苦奮斗、自力更生為核心的南泥灣精神。

三五九旅剛開進南泥灣的時候，南泥灣還是一個梢林滿山，荊棘遍野，野獸出沒，人煙稀少的地方。戰士們描繪那時的南泥灣是：“南泥灣啊南泥灣，方圓百里山連山。雉雞成伙滿山噪，狼豹成群林里竄。猛獸當家百年多，一片荒涼沒人煙。

沒有房子住，戰士們先是露營，在用樹枝搭起的簡陋帳篷里住，遇到雨天衣服被子被淋濕，就燒火取暖，后搭草棚、打窯洞，解決了住的問題；糧食不夠吃，就在飯里摻黑豆和榆樹錢，旅團首長帶頭，冒著風雪嚴寒，到百里以外的延長等地去背糧；沒有菜吃，戰士們到山里挖野菜，找榆樹皮，收野雞蛋，打獵，下河摸魚；沒有燒的，戰士們就打柴燒木炭；穿的很困難，每個戰士一年只發一套軍衣，平時就縫縫補補，夏天光著膀子開荒、種地、打場，長褲改短褲，短褲改褲衩，磨破褲衩的布條打成草鞋，絕不浪費；沒有生產工具，他們自己制造；沒有耕牛，就用镢頭；沒有燈油，就用松樹明子，或者把樺樹皮卷成筒當燈點；缺少學習用具，就用樺樹皮當紙，用炭當筆；沒有擦槍油，就采集野杏仁榨油代替。部隊在困難的時候，節衣縮食；在生產自給有余的時候，仍然勤儉節約，艱苦奮斗。旅首長曾向全旅發出號召：“生產要多，消費要省?！?942年以后，部隊已經達到了糧食自給，還是將瓜菜、紅薯、山藥蛋等摻和在糧食里做“八寶飯”吃，而且每天仍然堅持吃兩干一稀。從1941年起，部隊基本上沒有向上級領過被子。戰士們被子里的棉絮，早就滾成一團團的疙瘩了，可是發下新被子時，戰士們誰也不肯要，說：“哪天不打敗日本鬼子，哪天就不換被子?！痹诙潭痰娜陜?，三五九旅發揚“自力更生，艱苦奮斗”的革命精神，把荊棘遍野、荒無人煙的南泥灣變成了“處處是莊稼，遍地是牛羊”的陜北好江南。