连江为历代军事、交通之要地。境内自然条件优越、山海资源丰富，可谓人杰地灵、物华天宝，素有“鱼米之乡”的美称。

连江古称温麻。三国时代，孙吴为巩固东南海防，派将弁在连江修造船只，设温麻船屯，温麻之名亦自此始。隋大业三年（607年）并入闽县。唐武德六年（623年）从闽县拆出重置温麻县。

据《读史方舆纪要》，唐朝时因县境有一独流入海的小江，名为连江，先因江名。其年改名连江并沿用至今。