南京一带在100万年至120万年前就有古人类活动 ，35至60多万年前就有猿人在南京地域生活，汤山旧石器时代文化遗址出土了南京猿人化石，是截至2010年已发现最早的南京的人类生活遗迹。约7000-8000年前，出现了以北阴阳营文化为代表的新石器时代原始村落。在市中心的鼓楼岗北阴阳营、江宁区陶吴乡咎庙等地，发现200多处6000多年前新石器时代的遗址，出土大量的陶器和石、骨制成的生活用具。3000年前，相当于中原的商周之际，秦淮河流域出现了密集的原始聚落，被称为湖熟文化。春秋战国时，在这些聚落的基础上形成了南京地区最早的城邑。

　　3100年前，南京是西周周章的封地。周灵王元年（公元前571年），楚国在今六合区已设有棠邑，置棠邑大夫，是南京有历史记载的最早的地方建置，也是南京建城的开始，距今已有2585年。 春秋末年，吴王夫差在今朝天宫一带筑冶城，开办冶铸铜器的手工业作坊。周元王四年，越国灭吴后，范蠡在今中华门外的长干里筑越城。公元前333年，楚威王熊商于石头城筑金陵邑，金陵之名源于此。