全国处于分裂状态，战争频仍，加之北方游牧民族南侵，中原士民为避乱纷纷南迁，江淮和江南地区受到中原汉语的冲击，尤以长江两岸为重，江淮间是主要战场，作为战争手段，军事家往往采取迁民或屯垦的措施。江南镇江以上则是南来难民的主要停留地区。聚居甚众。所有这些情况都是最能引起语言变化的因素。自此以后，江淮之间逐步演变为江淮方言，甚至扩大到南京镇江一带。后来宋朝南渡，历史重演，北人再度南迁，江淮之间为要冲，战争和人口变动促使语言发展，致使江淮方言与吴方言拉开距离，遂成本省三种方言鼎立的局面。
在江淮语言史上，通语和方言的消长，随着帝王都邑的转移和经济文化的发展，曾有两次大变动，六朝时期的建康话和明代的南京话都曾上升为全国性的通语。
四世纪初，东晋政权在建康建立，北方大批南逃的人渡江集结于建康，并进而成为都城的主人。这些从以旧都洛阳为中心南来的人带来洛阳话，他们在政治和文化方面居于主导地位，这种外来语逐步成为建康的官话，士民在公共场合须说洛阳话。本来建康的本地话是吴方言，自从中原来的洛阳话入主以后，经过长期的融合，建康土语逐步被吸收，到南北朝时已基本演变为中原通语。南北朝时的语言学者颜之推云：“自兹（按指三国魏）厥后，音韵锋出，各有风土，递相非笑，指马之喻，未知孰是。共以帝王都邑，参校方俗，考核古今，为之折衷。榷而量之，独金陵与洛下耳。”（《颜氏家训·音辞》）金陵话与洛阳话相提并论，其实金陵话来自洛阳话，当时南北两大都邑的话是基本相同的，都是高于方言的通语，是在一定程度上可以通行全国的共同语。建康方言自来被称为南方官话，是在东晋南朝时期奠定基础的。但是当时南来的人以过江为安，所以大量集中在沿江南岸。江北地区，特别沿江北岸扬州、泰州、如皋一带，吴语并没有很快蜕变，直到隋炀帝游江都（扬州）时，还“好为吴语”。“帝自晓占候卜相，好为吴语。夜置酒，仰视天文，谓萧后曰：‘外问大有人图依（按胡三省注云：吴人率自称为依），然侬不失为长城公，卿不失为沈后（胡注：长城公，陈叔宝，叔宝后沈氏），且共乐饮耳’”。（《资治通鉴》卷185）正如王导在建康时好为吴语，可知隋末扬州尚有吴语的存在。 明代初期建都南京，南京又成为帝王都邑，全国的政治经济文化中心，是当时全世界最大的城市，南京话也就因之取得官话的地位，江淮官话也就是全国性的通语。官吏、商人和知识份子必须学会官话，才能较好地到外地进行语言交际，这是势所必然的。加之明初官修《洪武正韵》，颁行全国，作为读音用韵的标准，在当时享有很高的权威。此书的语言基础当是以南京话为主体，走“参校方俗，考核古今，为之折衷”的老路子，这就加犟了南京话作为通语的地位。此外，南京在地理上和语言系统上都接近中原话，比观《洪武正韵》和《中原音韵》的异同可知，中原汉语自古为全国通语，这是南京话可以作为全国通语的重要条件。这时的中原话和北京话都已失去四声中的入声调。
明末西方传教士来到中国，如利玛窦、金尼阁等，他们看到中国的方言分歧，同时也发现有官话的存在，学会官话对于在各地传教最为方便，据研究，他们认为当时南京话就是官话。利玛窦和金尼阁都在南京学过汉语，并分别着《西字奇迹》和《西儒耳目资》，用他们的拉丁字母拼音方案拼写汉字，采用汉语传统的阴平、阳平、上声、去声、入声五个声调，是符合当时南京话的，直到清末鸦片战争前后，传教士还认为南京话是汉语的代表。虽然明清以来，北京是政治经济文化中心，官话的语音以北京话为标准，成为普通话的前身。但是，就汉语的传统和历史地理的地位而言，南京话始终有其重要地位。
