湘潭市境内自汉代设立第一个县治－－湘南县并构筑县城（今湘潭县石潭镇古城村）。自唐移湘潭县治于洛口（今湘潭县易俗河镇）基本确立今湘潭市区和湘潭县的境域有1200余年。湘潭境内的古代居民，已知的至迟在距今5000年前 。 汉代，当今市境湘河口以上，涟、涓二水流域属湘南县（今长沙）。西汉建平四年（公元前3年）从湘南划出西部一片地域作为湘乡侯国，后转为湘乡县。湘乡的划出，有助于保障以临湘为中心的中心文化不受开化较晚的蛮族文化的干扰。因而自战国至汉，乃至其后几百年，湘乡都成为中原文化与南方文化的撞击点。
东汉末年，曹、刘、孙相争，市境初随荆州属刘备，后属孙吴政权。湘乡人蒋琬以州书佐随刘备入蜀。诸葛亮死后，继承相位，位至大司马。
南朝齐，湘南县分解，划地给湘南县周围各县，主要部分入衡阳县，衡阳郡治一度迁至原湘南县城。南朝齐将连道　并入湘乡，加强湘乡的力量，一直待续至解放初期。 咸丰、同治年间（公元1851~1874年），湘乡人曾国藩办团练、建湘军，与太平天国战，与捻军战。湘军名噪一时，仅湘乡一县以战功敍官见于地方志的达7800余人，文官知府以上86人，武官副将以上1153人。湘军的中、上级军官，湘乡人几达半数，时有“无湘不成军”之说。湘军在反对外来侵略中亦多立战功。尤以刘锦棠为前敌总指挥，蒋凝学以布政使兼理粮台专司粮秣供应的西征军最突出。两个湘乡人配合默契，率“老湘营”扫荡阿古柏、白彦虎匪帮，为收复新疆建立了赫赫战功。从此，部分湘军留守新疆、甘肃、宁夏一带，其后裔有的定居于此，甚至自成村落，保留湖湘习俗、方言，故有诗称“湖湘子弟满天山”。
鸦片战争后的清末民初时期，随着湖南行政中心长沙开埠、粤汉铁路通车以及广州贸易地位的相对下降，湖南商业活动向长沙转移，湘潭商业渐趋凋敝。
资产阶级旧民主主义革命兴起，该境内率先投入斗争者刘道一、刘揆一，为黄兴引荐了湘潭会党首领马福益，于光绪三十年（1904年）筹划了“甲辰起事”，不料事泄流产，次年，马福益牺牲。光绪三十二年，湘乡人禹之谟发动湘乡学生反对知县陶福曾，掀起一场震动全省的学生运动，不久，禹之谟冤死狱中。同年，刘道一奉命发动“萍浏醴起义”，湘潭会党成员参加者众多，起义坚持近月，后遭湘、鄂、赣三省五万余官兵反扑，因力量不敌而失败，刘道一牺牲。辛亥革命失败后，各派军阀连年混战，多在境内进行拉据战，弄得兵灾不断，民众叫苦不迭。此后，湘潭工商业日渐衰落，仅滴水埠之石膏、鹤岭的锰矿和谭家山的煤矿先后得到开采，产业工人达到一定数量，湘潭也成了中国的“锰都”。
湘潭县境内民国时开始修筑铁路，粤汉、浙赣、湘黔交汇在县城以东30公里的株洲，湘潭县城的交通枢纽地位逐渐由其取代，株洲镇快速发展，并最终脱离湘潭独立成市。
1936年，当时的国民政府决定在湘潭下摄司地区兴建中央电工器材厂（电机厂）、中央机器厂（飞机厂）、中央钢铁厂、电厂，并修筑湘黔铁路，然而由于日军发动“卢沟桥事变”，全面侵入华北、华中，致使机器厂、钢铁厂、电厂和铁路、铁桥停建，所征9000亩土地后来修成飞机坪，湘潭失去了一次复兴经济的机会。以后由于日本帝国主义有烧杀掳掠和国民党的反动统治，湘潭经济更加萧条，人民生活十分贫困。抗日战争等战争的毁灭性破坏彻底结束其作为消费性贸易城市的阶段，其后湘潭逐渐转入了工业城市的阶段 。 1949年8月，湘潭和平解放，湘潭县人民政府成立。
1950年7月，经中南军政委员会批准，改湘潭县城关区为湘潭市，隶属由岳阳迁至湘潭的长沙专署（1952年10月改名为湘潭专署），湘潭市人民政府正式成立。
1953年4月，政务院批准湘潭市为省辖市，由湘潭专署代管。
1968年9月成立湘潭市革命委员会，1980年10月市革命委员会改名为湘潭市人民政府，同年湘潭市改为省直辖市。
1983年8月，湘潭地市合并，将其原湘潭地区的浏阳县划归长沙市，醴陵、攸县、茶陵、酃县划归株洲市，湘潭、湘乡两县划归湘潭市。湘潭实行市管县体制。全市辖湘潭、湘乡两县和雨湖、岳塘、湘江、板塘、郊区五个区。
1984年，将湘潭县的银田镇和韶山区划出设立县级韶山区，由湘潭市管辖。
1986年湘乡县改市，仍由湘潭市辖。
1990年韶山撤区建市，1992年湘潭市城郊区由雨湖、湘江、岳塘、板塘、郊区五个行政区以湘江为界调整为雨湖、岳塘两个行政区。
2005年8月12日，国务院批准（国函[2005]72号）：将湘潭市人民政府驻地由湘潭市雨湖区雨湖路迁移至湘潭市岳塘区芙蓉路。
2009年，根据湘潭市政府决议，将面积138平方千米的响水乡成建制划归雨湖区，由九华示范区托管，雨湖区面积由74平方千米扩大为212平方千米。
2021年，将响塘乡、姜畲镇成建制划归雨湖区，雨湖区的面积增加到451.39平方公里，由全省35个行政区中的第32位提升到11位，两年时间面积扩大5倍多。
2021年3月20日，湘潭市委决定将湘乡市龙洞镇的7个行政村和金石镇的2个行政村成建制划归韶山市，调整后，韶山市的面积由原来的211平方公里增加到247.3平方公里。 “湘潭”之名来源于它的地理特征。一说为此地因处湘江之曲而多“潭”乃得名“湘潭”，另一说则更广为接受，即得名于昭山下湘江中的湘州潭，即昭潭，此潭实际为湘江中较深的一段，但因为传说中与周昭王的联系而颇为有名，以至于作为一个主要地理特征自唐朝起赋名其所在的地域为湘潭县。