乐府本是掌管宫廷乐器制作与各类俗乐的朝廷音乐机构。汉武帝“乃立乐府”，遍采各地风谣以“观风俗、知薄厚”，又“以李延年为协律都尉，多举司马相如数十人造为诗赋，略论律吕”，让乐府取代太乐为郊祀之礼配乐，由此扩大了乐府的职能和规模，提高了乐府在朝廷礼乐文化建设方面的地位。班固《汉书·礼乐志》与《艺文志》不仅给“乐府”安排了一个有序的历史逻辑，还通过一系列书写策略，把“乐府”建构成符合儒家礼乐观念的理想化乐署，引发后世文人对“乐府”的青睐与追捧。虽自哀帝罢乐府后，历代未见以“乐府”为名的乐署，但都不乏文人或史家习惯性地以“乐府”泛称乐署或乐官。且随文人拟古乐府的发展，“乐府”逐渐有了诗体含义，成了入乐歌辞、乐府机关收录作品、文人乐府古题与新乐府等的通称。
“乐府”历经长期层累，至唐始有明确的诗体观念与诗体自觉，并终赖郭茂倩《乐府诗集》的编撰，才有相对稳定、科学和普遍认可的内涵界定。
所谓汉乐府、汉魏乐府、南朝或北朝乐府之类，实际均为后人概称。因文献阙如，最早以“乐府”称诗体始于何人难以详知。建安、魏晋已有文人乐府古题，但未见作者自称“乐府”。《晋书·王敦传》谓“（敦）每酒后辄咏魏武帝乐府歌”，但此实乃唐人编史时兼采梁刘孝标注《世说新语》时的说法，非晋人之称。鲍照《松柏篇序》有“傅玄集”“乐府诗龟鹤篇”，但不知序中“乐府诗”是《傅玄集》原有，还是鲍照对傅诗的称呼，估视鲍照为今存最早明确称诗为乐府者。沈约《宋书·自序》称其祖沈林子“所著诗、赋……乐府、表、笺”等首，伯父沈亮“所著诗、赋……乐府、挽歌、连珠”等首，乐府是与诗对举出现的文体。因二人乐府作品未见流传，且沈亮尚有后世视为乐府的挽歌一类，故难知沈约所说乐府为何样文体。
《宋书·乐志》立足礼乐发展视角，详录汉魏以降郊庙、相和、清商三调歌诗与鼙舞歌辞，以及班固未录之汉鼓吹铙歌与后人改制的组歌。这些品类多样的入乐歌辞，沈约虽未明确统称乐府，但通过《宋书》其他一些史料可以判断，它们在沈约意识中均是诗体概念的“乐府”。如《鲍照传》谓鲍照“尝为古乐府，文甚遒丽”，明确称鲍照拟古题而作者为“古乐府”。《志序》又谓“郊庙乐章，每随世改”，“今鼓吹铙歌，虽有章曲，乐人传习，口相师祖，所务者声，不先训以义”，“今乐府铙歌，校汉、魏旧曲，曲名时同，文字永异”，其“今鼓吹铙歌”与“今乐府铙歌”实际均指《乐志》所收“今鼓吹铙歌词”三篇，即乐人以音声相传而致训诂不可复解的《上邪》《晚芝》和《艾如张》，则沈约已称郊庙、鼓吹等乐章为“乐府”。
刘勰《文心雕龙》有《乐府》一篇，明确提出：“乐府者，‘声依永，律和声’也。”视入乐可歌为乐府主要特征。后续论述列举了《大风起》《桂华》《赤雁》《天马》《武德》《四时》《李夫人歌》等许多篇名，以及魏氏三祖的清商三调，曹植、陆机的乐府古题，傅玄、张华创制的朝廷雅乐，并在文末叙中提及汉铙歌十八曲、挽歌以及缪袭、韦昭改制的汉铙歌，涵括了《乐府诗集》分类中除燕射、清商及唐代始出现的近代曲辞与新乐府辞之外的所有类别。同时代的萧统编《文选》，诗类共23个子目，“乐府”目下无名氏古乐府三，陆机十七，鲍照八，曹植四，曹操、曹丕各二，班婕妤、石崇、谢灵运、谢朓各一，均为相和或杂曲。复有颜延年《宋郊祀歌二首》列郊庙，《秋胡诗》列咏史，王粲《从军诗》列军戎，挽歌单列，《渡易水》《大风歌》《扶风歌》《中山王孺子妾歌》入杂歌，曹植《七哀诗》、谢朓《同谢谘议铜雀台诗》入哀伤，王粲《从军诗五首》入军戎，《冉冉孤生竹》《驱车上东门》入杂诗，袁淑《效白马篇》、鲍照《代君子有所思》、江淹《古离别》《从军》《咏扇》《游宴》入杂拟。可见他虽将乐府视为诗之一体，但涵括面很小。且目录题作“袁阳源《效〈白马篇〉》”者正文作《效曹子建乐府〈白马篇〉》，而所录曹植乐府中亦有《白马篇》，表明萧统称“乐府”为诗体并非特别在意，其诗下再列子目，主要就题材、功用、创作方式等角度着眼。另外，任昉《文章缘起》录各体文字85种，有诗、赋、歌、离骚、乐府、赞、颂、哀词、挽词、离合诗、歌诗等韵体，所分虽嫌琐碎，已然视“乐府”为一类。萧子显《南齐书·乐志》于《俳歌辞》下叙述角抵、像形、杂伎等发展时谓“魏世则事见陈思王乐府《宴乐篇》（按，曹植《名都篇》有‘连翩击鞠壤，巧捷惟万端’，疑指此）”。由此观之，真正能确定称诗作为“乐府”者，还是宋、齐、梁之际的鲍照、沈约、刘勰、萧统、任昉、刘孝标、萧子显等人，说明南朝时期“乐府”才成普遍的诗体概念。
“乐府”到南朝才成普遍的诗体概念，实际与文人大量创作拟古乐府并导致诗乐分离紧密相关。
建安、魏晋文人主要以依曲制词方式创作古题，曹植“依前曲改作新歌”的《鼙舞歌》，缪袭、韦昭、傅玄等的铙歌组曲，都是个中典范。魏晋时兴起的模拟之法，单纯从文本出发，在篇章布局及遣词用语上步趋前代经典，已经脱离了音乐。齐梁赋题法仅从题面意义出发构思落笔，更是完全脱离了古题的音乐背景，从其体式新变也可看出时人在藉之探讨声律，虽然这样可以方便入乐，但并非与古题既有之乐来相匹配。可见“乐府”一词的诗体指称义在宋、齐、梁之际大量出现，就是因古题乐府创作中的诗乐分离而又同时仍然保存着某种程度上联系的结果。
起初人们多以“乐章”称配乐歌词，且历代均有此称。如《礼记》“丧复常，读乐章”，郑玄注《周礼》“《驺虞》《采苹》《采蘩》，皆乐章名”，注《仪礼》“《陔》《陔夏》，乐章也”，注《礼记》“《采齐》《雍》《振羽》，皆乐章也”，以及王沈《魏书》“及造新诗，被之管弦，皆成乐章”，《古今注》“后人因为乐章焉”，沈约《宋书》“文帝章太后庙未有乐章”“凡乐章古词今之存者”等。但随着文人拟乐府的大量创作，不以入乐为目的而单纯从“文”出发的案头文字逐步出现，如果仍然以“乐章”称之，就掩盖了它们本不入乐的本质。如果仅视其为诗，又不能体现它们与前代乐章某种程度的关联。考虑到汉武帝“立乐府”与班固《汉书》理想化建构乐府对乐章礼乐教化意义的强化，才导致南朝文人以“乐府”来统称入乐乐章及本不入乐但与入乐乐章渊源颇深的文人拟作这两大类作品。
唐人不仅自称作品为乐府，亦有希望作品入乐府之动机和进乐府、献乐府之行为，乐府杂诗、新乐府、系乐府、正乐府等诗体概念也相继出现，说明唐人乐府诗体意识强烈。明白“乐府”成为诗体指称实际缘于文人拟作终致诗乐分离这一事实，才能更好地理解乐府在唐代成为一种备受