吉水縣自隋朝建縣以來已1300余載，是江西十大文化古縣之一，廬陵文化的發源地之一，歷來文風鼎盛，人才輩出，自古就是“文章節義之邦，人文淵源之地”，有“狀元之鄉”的美譽，曾出現過“一門三進士，隔河兩宰相，五里三狀元，十里九布政，九子十知州”的人文盛況。南宋詩人楊萬里，民族英雄文天祥，《永樂大典》總篡解縉，嘉靖狀元、地理學家羅洪先均出自吉水。
吉水縣早在5000多年前的新石器時代就有先民在境內聚居。夏時屬揚州，位于揚州地域之西境。商末后為吳地，戰國時歸楚。秦始皇（前221年）統一全國后，屬九江郡廬陵縣。
西漢高祖元年（前206年），屬九江王國廬陵縣。高祖四年（前203年），改九江王國為淮南王國，吉水屬淮南王國廬陵縣。高祖六年（前201年），從淮南王國中析置豫章郡，廬陵縣屬之。