近代的考古發(fā)掘中，在開(kāi)封的萬(wàn)隆崗遺址中，在尉氏縣縣城西南的斷頭崗，發(fā)現(xiàn)了一處新石器早期裴李崗文化遺址�？脊虐l(fā)掘證明，早在五、六千年前，在開(kāi)封就已經(jīng)有了人類活動(dòng)。

夏朝（帝杼）曾在開(kāi)封一帶建都232年，史稱老丘。公元前8世紀(jì)，春秋時(shí)期的鄭莊公在今開(kāi)封城南朱仙鎮(zhèn)附近修筑儲(chǔ)糧倉(cāng)城，取“啟拓封疆”之意，定名啟封。漢初因避漢景帝劉啟之名諱，將啟封更名為“開(kāi)封”，這便是“開(kāi)封”的由來(lái)。

公元前361年，戰(zhàn)國(guó)時(shí)期的魏惠王遷都大梁，這是開(kāi)封有明確歷史記載的第一次建都。魏惠王遷都大梁之后，他引黃河水入圃田澤（今鄭州圃田）開(kāi)鑿鴻溝、引圃田水入淮河。水利既興，農(nóng)業(yè)、商業(yè)得到極大發(fā)展，日趨繁榮。他還修長(zhǎng)城、聯(lián)諸侯，國(guó)力日盛，乃得稱霸于諸國(guó)，使大梁城與秦國(guó)的咸陽(yáng)、楚國(guó)的郢都并列，成為當(dāng)時(shí)國(guó)內(nèi)最發(fā)達(dá)的名都大邑。魏國(guó)在大梁建都，歷六世136年。在這136年里，曾發(fā)生了孟子游梁、竊符救趙，以及孫臏、龐涓等諸多故事，也給開(kāi)封遺留下不少古跡，不愧被人稱為開(kāi)封古城第一都。

秦統(tǒng)一六國(guó)后，實(shí)行郡縣制，開(kāi)封作為敗亡國(guó)的國(guó)都被降為浚儀縣，屬三川郡。“浚儀”作為開(kāi)封的名稱，一直沿用了八百年左右。 公元534年?yáng)|魏孝靜帝時(shí)，設(shè)立梁州轄陳留、開(kāi)封、陽(yáng)夏三郡。北周武帝建德五年，改梁州為汴州，這是開(kāi)封稱汴之始，由縣治改為州治，失落了數(shù)百年的開(kāi)封重又慢慢的恢復(fù)了元?dú)�，開(kāi)封也成為北魏對(duì)南部各朝作戰(zhàn)的水運(yùn)線上的八個(gè)重要倉(cāng)庫(kù)之一。北齊文宣帝天保六年（555年）和天保十年（559年）分別建了著名的建國(guó)寺（大相國(guó)寺）和獨(dú)居寺（今鐵塔一帶），佛文化的發(fā)展對(duì)后來(lái)的東京文化的勃興做了前期的準(zhǔn)備。