新鄉名稱源于西漢為獲嘉縣的新中鄉，《太平寰宇記》卷56：新鄉縣“取新中鄉以為名”。西晉太和五年（370年）在今新鄉市建新樂城。《史記志疑》：“樂者村落之謂，古字通用”，新樂亦即新鄉之意。
“新中”出現在中國歷史上，最早見諸《史記·楚世家》，漢高祖二年（前205年），在衛輝設汲縣，屬河內郡。新中是汲縣的一個鄉，即新中鄉。漢武帝元鼎五年（前112年）夏4月，南越（今廣州一帶）相呂嘉謀反，漢武帝派兵前去討伐。元鼎六年（前111年），漢武帝巡視至新中鄉，得到斬獲呂嘉首級的消息，改新中鄉為獲嘉縣。隋統一全國后，于開皇六年（ 586年）劃汲縣、獲嘉縣兩縣組成一個新縣，取原“新中鄉”首尾二字為縣名，“新鄉”由此見諸史冊。