郑州历史悠久，历史上，夏朝，商朝和管、郑、韩三国在此设都。是中国八大古都之一和世界历史都市联盟成员。辖区内发现有距今万年的新密李家沟旧石器晚期遗址，有距今八千年的裴李岗文化和距今五千年的大河村等仰韶文化和龙山文化遗址。距今4000年的夏朝都城遗址和距今3600年的商代都城遗址。郑州被称为“商城”，就是它曾作为商代都城而得名。
3600年前，郑州叫亳都，商朝第一代君王汤在亳建国，郑州作为都城延续了160余年。历史上传说商人曾七次迁都，最后迁都至殷墟（今安阳）。
在郑州市城东路南段和城南路东段，还遗存高大的城墙，这就是商城遗址，存留的商城内城近似长方形，周长近274公里，面积343平方公里。
公元前11世纪，周武王姬发灭殷后，建立周朝，为了更有效地统治，防止商朝遗民作乱，便封其弟姬鲜于管，来监管商王后裔，称管国，其区域即现在的郑州市，因此郑州市史称“管城”，这也是为什么郑州有“管城区”的原因。
春秋战国时期，郑、韩先后在新郑建都，郑州市称管邑，为郑大夫子产的采邑，又称东里。现在郑州市金水区还有一条路叫东里路，得名大概也因此吧。
秦汉时期，郑州地区始置荥阳、巩、京、新郑等县，之后又先后在郑州地区设置荥阳郡，北豫州，荥州等。
1913年，改郑州为郑县，1928年改郑县为郑州市，1931年撤市复改为郑县。这也是为什么现在一些人戏称郑州为大郑县的原因。
1954年河南省人民政府由开封迁入郑州，郑州成为省会至今。如今郑州快速发展，已初具“国际郑”的范儿。
