吃了闭门羹，粟裕却高兴得很。他集合部队训话，说：“我们打鬼子是为了老百姓。我们必须有老百姓的支持，将来还要这些老百姓养我们。因此我们必须严格执行群众纪律，坚决做到群众不让进村就不进村，就在村外或者是田野里露营；不让进屋就不进屋，就在门外或者屋檐下过夜。无论多么困难也不要向老百姓发火，也不许拿群众一针一线。更不能向开枪的群众还击。”
这样一来部队只好睡野地，还饿肚子。到达句容县夏甲村时，部队已经有几顿没有开饭，粟裕想无论如何也要想办法解决粮食问题。于是他亲自带着打前站的前哨分队走向夏甲村，准备找当地一个姓樊先生解决吃饭问题。然而走到夏甲村时，正在黄豆田里劳动的老百姓看到大路上来了一支带枪的队伍，慌忙丢下活儿，撒腿跑回家中关起了大门。
这时，天上突然下起雨来，粟裕命令队伍停止前进，把他们带到夏甲村的打谷场上排成队，唱起了一首又一首抗日歌曲，《义勇军进行曲》、《大刀进行曲》、《松花江上》……。一共唱了十多首歌。雨越下越大，这些兵的上上下下都湿透了。
有几个上了年纪的老人壮着胆，从门缝内注视着这支刚来的队伍：“这是打哪儿开来的队伍呢？天底下有这样秋毫无犯爱护老百姓的队伍吗？”
同江南其它地方的老百姓一样，夏甲村老百姓屡遭土匪抢劫与国民党中央军敲诈，又深受日本鬼子之害，不由得惊讶起来了。有两位老者壮了壮胆，开门来到场边上，想探个究竟。
粟裕迎上去问话：“老伯，这村有没有一个教私塾的樊先生？”
一位老者回答说不晓得，另一位老者正是粟裕要找的樊先生。他见粟裕是慕名而来的，但又不认识这个瘦小的军人，就接过话说：“你们找他做什么？”
粟裕说：“我是粟裕，想到他书房喝杯茶。”
钟期光上前介绍说：“我们是新四军的先遣部队，这是我们新四军二支队副司令员粟裕同志！”
“秀才不出门，可知天下事”樊先生出身书香门第，在茅山脚下教书，很有点名气。当他得知眼面前站着的是新四军二支队副司令时大吃一惊，连声说：“我就是，我就是，真是相见恨晚，请入寒舍用茶。”
在樊先生的帮助下，粟裕得以向村上老百姓买得粮食和柴火。粟裕和战士们开过饭以后，烤干了衣服，然后继续前进，于五月底到达茅山。
茅山处在句容、金坛薛埠镇境内，是江苏省境内主要山脉之一。茅山原名句曲山，后来为了纪念西汉时在句曲山修道行善的茅氏三兄弟，又改名为三茅山，简称茅山。茅山地势险要，距南京、镇江、常州各约六十公里，东至上海、南至杭州各约三百公里，历来是兵家必争之地，也是新四军的希望所在。控制茅山，即可制控长江天险，还可以虎视京沪、京芜两铁路和京杭、溧武两公路，是以**领袖和新四军将士希望利用茅山作为依托，建立起抗日游击根据地，好跟日本帝国主义拚杀一场。先遣支队的战士们是从大山上来的，他们的想象中，茅山也一定如同他们当初打游击的地方一样山高林密。然而到了茅山亲眼一看顿时大失所望：茅山不仅海拔高度只有三百多米，树木也很稀少，在地形意义上不太符合游击战的要求。
部队在芜、宁、沪敌后行军时，因为日寇的飞机每天有三四十次在天上飞行侦察，粟裕就采取昼伏夜行办法。日间部队隐伏于田野草丛，夜间则不论风雨夜夜行军。沿途找向导带路，每走三十里换一个。作家邱东平和工作组一路贴布告，散传单，写大字标语。粟裕则每到一地，总是首先部署部队的宿营与警戒，派出便衣侦察小组侦察敌情。然后亲自找当地有名望的人士、村长、商人和农民谈话，了解情况。
江南的日寇已沿京沪铁路和京杭国道构筑据点，全部控制江南。日寇如入无人之境，气焰嚣张，肆无忌惮，到处野蛮屠杀，疯狂掳掠，**妇女，焚烧村镇。水阳、乌溪、黄池、亭头、青山、护家墩、薛镇、小丹阳、溧水、句容、天王寺、白兔镇等等举不胜举的地方，有的是被烧了一半，如乌溪、薛镇、东昌街；有些烧了一大半，有些是烧完了，如白兔、宝埝，两镇本是千户人家，而今却是一片残墙断壁，瓦砾遍地，成了一片废墟。铁道两侧二十里以内村庄全部烧完。杀人方面，日寇在句容以北的徐家边等村就杀了二百余人，水阳、白兔各杀过几百人，许巷村被杀两百多人，只有三个人逃掉。其它地方更不能统计。**妇女方面，某地一次奸死八个，奸病三十余个，有故意令七十老人与其幼小孙女**，或逼令十余岁青年与其祖母**的灭绝人伦的事情。而敌后广大乡村，国民党政府的各级机构已撤退或无形解散，整个江南已基本上处于无政府状态。因为没了政府的撑腰，江南民众在日寇残酷的掠杀面前害怕了：有钱人或远走高飞逃难去了，或做了日寇的顺民，剩下的穷苦人无依无靠，面对日寇的暴行敢怒不敢言，忍气吞声，只好任日寇为所欲为，政府的政令和抗战国策也无从转达于人民。日寇在这种状态下到处建立它初步的伪政权（维持会）和培养了许多汉奸、护路警作为爪牙。敌探汉奸横行霸道，鱼肉民众，助寇为虐，猖獗一时。甚至有好些地方远在其势力范围以外至五、六十里，甚至百里之地，竟有爪牙为其筹送物品，如朱门、陶吴、谷里等地的维持会还强迫妇女集中以送迎日寇**。
粟裕所到之处，抓紧揭发日寇的罪行、宣传解释抗战国策，摧毁日寇建立的维持会，惩处其维持会的头目，又寻找那些隐姓埋名、隐居他乡的政府人员，帮助恢复地方政权。同时粟裕几乎天天都把部队行动和侦察得到的情况发电报告新四军军部，最后又亲自动笔写了一份综合报告，派专人送回皖南。
六月三日陈毅率一支队沿着先遣支队开辟的路线抵达溧阳竹箦桥，粟裕闻讯又将敌后侦察二十天的情况向陈毅作了汇报，陈毅根据粟裕提供的情报展开部署，所部兵分两路：第一团第一、第三营和教导队由第一支队副司令员兼团长傅秋涛、副团长江渭清率领，从高淳北肇庆圩渡过石臼湖，经博望进至以小丹阳为中心的江（宁）当（涂）溧（水）地区，司令部设在小丹阳。第一支队司令部及第二团和一团二营继续东进，直指茅山。
粟裕则率先遣支队东渡秦淮河，越过京杭国道，到夏家边、土桥、上峰、新塘、金家边等地实施侦察，他一面用“西米司令”名义出示布告，宣传抗日民族统一战线和红军三大纪律八项注意，广泛发动群众，一面寻找机会打击日寇。