泗水城始建于春秋初叶(公元前 770 年左右)原名虚汀(读xuting)，是因为城址东临济河、西临玄帝庙河，北临泗河，三面临水，形若水边一洲，所以取名虚汀。
每逢汛期，城址常被水淹，由于迷信，为避水患，将汀字的水字旁改为木字旁而写作虚朾，仍读作“虚汀”(“朾”本读 zhen，即船，意为城似水中之船而免遭水淹)。
据《中国历史地名大词典》第四卷记载:“虚朾春秋地名。鲁襄公时，仲孙蔑会诸侯于虚朾，谋救宋。汉为卞县地。”
《春秋·成公十八年》载:“仲孙蔑会晋侯，宋公、卫侯、邾子，齐崔杼，同盟于虚朾。”隋开皇十六年(公元 596 年)，泗水县治所由卞城(泉林)迁到这里，遂以县名改称泗水城。
此后，泗水城作为泗水县政治、经济、文化中心，已有一千四百多年的历史，县及县城名称世代相沿，至今未变。
古县“泗水”之名，历代传承，沿用至今，长达1400余年，具有古老而鲜明的地名词语文化和深厚而独特的地名实体文化（地域文化），构成了泗水县灿烂的地名文化。
