同时，何伯准备占领洋枪队的松江基地，想一劳永逸解决掉这支惹事生非的非法武装。
泰记银号的人与华尔都很着忙，立刻指使白齐文等人率洋枪队撤出松江，指使李恒嵩率清军进入松江城。
英国兵已有近一千人逼近松江，见到清军旗帜后，怕重惹事端引发两国大战，只得悻悻退回上海。
不久，在泰记银号的帮助下，华尔传奇一般从防守森然的英国兵舰上跳水逃脱，得返松江城，演出一剧“胜利大逃亡”。
不久后，由于华尔亲笔给何伯写“道歉信”，答应不再诱引英国逃兵加入洋枪队，何伯逐渐改变了对这个美国青年冒险家的印象，并与他和他的助手进行会谈，商议共同对付太平军事宜。如此，华尔就得到了英法军方的有力支持。本来他是一只“贼鸟”，如今忽剌剌换上羽毛，成为真正的大老鹰。
华尔善于总结失败经验，他不再只相信洋人和菲律宾水手的战斗力。在与副手白齐文和福瑞斯特商量后，他决定扩充兵源，并要以中国士兵为主力。
最终，华尔的洋枪队初具劲旅规模，共有一1400名中国兵勇，二百多菲律宾士兵，还有西方教官共近一百人。华尔之所以这样做，一方面是要适合“中国国情”，另一方面从“经济”方面考虑——纯种的“洋兵”太费薪饷，如果数目大了，中国方面以及银会组织不答应。而且，不少外国逃兵和水手浪荡成性，战斗力很差。招募中国人，十多个兵员的薪饷，原先只能招一个洋流氓。
不顾中方“老板”催促他出战，华尔耐心训练洋枪队新兵，并且对军事行动更加慎重，不再轻易冒险打无准备之仗。
为便于统领士众，他从清廷得过暂时的类似“上校”的任命。他委任白齐文和福瑞斯特为“少校”，像模像样地把“洋枪队”变成了一支“正规军”。到了1861年年底，华尔已经有信心邀请英国海军将军何伯亲临松江检阅他的手下。
这时的洋枪队，已经有二千多人的规模，不同“兵种”，统一着装，衣服华丽。中国兵穿深绿紧身制服，为仿效西方制服，他们的衣服上有绯红色饰带。中国“炮兵”穿浅蓝色军服。菲律宾士兵穿深蓝兵衣，头包深绿头巾。军官军衔的高低看袖口条纹多少可加以识别。同时，华尔还设定了来年的军队夏装。
何伯见之大喜，立刻允许英军与太平军交战时正式接纳洋枪队为“友军”，并答应帮助华尔从英国购买最精良的武器装备洋枪队。
何伯确实没有食言。他应华尔要求，从香港的英国兵工厂替洋枪队购进一千支新型来福枪、五千支在当时最先进的短枪以及两批野战炮。所有这些枪支弹药，完全按成本价卖给华尔。
从英法等西方将领的角度看，华尔训练中国人为“洋枪队”确实是想他人所不能想。先前的清政府和太平军都只雇佣过西方将官帮助清军和太平军训练，从未想到过把中国人里外一新从思想到装束加以彻底“改造”。
为了保证洋枪队士兵在战场上能彻底理解长官命令，华尔下令中国士兵学习简单的军事英文术词，并学懂听号声前进或后退。特别重要的是，针对当时城垣坚厚的太平军城镇，华尔有的放矢，特别看重炮兵训练，使得大炮、野战炮的命中率和实际轰击效果大大提高。
由于华尔训练有素，洋枪队的战斗力远远高出清军正规军，大有以一当十之效。相比于太平军，也可一个顶六个。其实，华尔的成功绝非偶然，足够的饷源，充足的弹药，保障到位的训练，优厚的待遇，严格的管理，放到现在，他也能训练出一支优良团队。
万事俱备下，1862年初，正当华尔准备甩膀子大干时，“国际”形势的变化差点打乱了他的全盘部署——当时美国正在打“南北战争”，美国军舰在海上的一只英国船上截走了两位前往英国进行秘密外交的美国南方邦联官员，惹起英国震怒，英美一时间剑拔弩张，大有开打之势。
友谊无恒，利益永恒。在上海的何伯与华尔的神经即刻紧张起来，只要双方政府一开打，他们在上海肯定也要为“祖国”血拼。在何伯秘密筹划俘夺中国沿海的美国船兵的同时，华尔也私下准备利用洋枪队士兵奇袭上海停泊的英国军舰。正在双方准备互相暗中捅刀子之际，英美之间政治危机得以解决，美国政府服软，向英国道歉，双方握手言和。
经过这次小插曲后，华尔开始了在中国干他的“大事业”。
1862年2月，华尔亲率一千多洋枪队员，忽然在凌晨时分进袭上海附近的广富林太平军堡垒据点，打死近一千太平军，迫使其余七千多人仓惶逃往青浦。洋枪队方面，只损失18名士兵，伤42人。以如此微小代价，攻克太平军在上海的一个重要桥头堡，成功不可谓不大。
同时，洋枪队的攻势也使得正在进攻吴淞的太平军分神卸力。因为，从1月7日开始，李秀成已经率大军从杭州出发，兵分五路杀向上海。仅几十天工夫，奉贤、川沙、南汇、金山等县均被攻下。一直与华尔“合作”的清将李恒嵩又来了精神，忙向朝廷递折报功，说自己所率清军经过“激烈”战斗，杀死“长毛”三万多。
见太平军此次来势汹汹，在上海的西方人与满清政府官员不敢怠慢。英国参赞巴夏礼与清朝苏松太道台吴煦经过紧急磋商后，联合成立了“中外会防局”，同时，他们加强调兵遣将，准备迎接暴风雨的拍击。
原本在上海的英法军队总人数只有一千五百人左右，但从２月份开始，英军九十九联队与重炮兵到来，不久英军驻天津的部队全军而来，戈登也在其中。如此一来，仅英军在上海就有近三千兵力，大炮二十多尊，底气雄足。
太平军与洋枪队、英法联军的的第二次上海较量，大致持续五个多月，可分为六次战役：2月24日高桥之战、4月4日王家寺之战、4月17日周浦之战、5月17日太仓之战、5月26日嘉定之战、6月9日青浦之战。
2月24日的高桥之战，乃华尔洋枪队的一次主动进攻战，目的地是太平军向上海推进途中的高桥。此次战役，不仅华尔亲率一千洋枪队，英国、法国也派近千人为左、右翼，一起进攻高桥的五千多太平军守军。在新式武器的优势以及强盛斗志下，洋枪队与英法联军把高桥太平军守军打得惨败，战况只能用“大屠杀”来形容，而华尔洋枪队奇迹般只战死七人，伤32人，英军死一人，法军丝毫无损。
上海的清政府当局来了精神，在闹市把华尔送去的两百多太平军俘虏当众砍头。
华尔乘胜，率军接着向距上海六十多里的萧塘太平军发动了猛烈攻击，打死太平军七八百人，生俘近四百人。洋枪队只损失十名士兵，但华尔副手白齐文肚子受到严重的刀伤。
经广富林、高桥、萧塘的三次大胜，清廷（慈禧以同治皇帝名义）授予华尔“副将”衔，四品顶戴，这可是大清开天辟地第一次。同时，清廷正式命名华尔的洋枪队为“常胜军”。
福无双至今日至。升官发财之余，泰记银行的老板杨启堂把女儿嫁给了这位“大清”名将，华尔一下子成为中国女婿。
在享受新婚燕尔鱼水之欢的同时，华尔仍旧心系战事，决意要“报效”大清和英法联军，想把上海周围30英里以内的太平军全部驱逐出去，确保上海的安全。
由于华尔表现出众，何伯甚至下令把一千多英国大兵调给华尔这个从前他心中的“流氓”指挥。
太平军接连失败后，李秀成意识到华尔“常胜军”的威胁，就想攻取常胜军老巢松江。但要取松江，就势必先要在松江与上海之间打个楔子，攻取七宝、泗泾两处，然后合力取松江。这种步步为营、以守代攻的战略，从前可以，现在遇到了锐气正盛的华尔洋枪队，难免就处于被动。结果，4月4日，华尔、英将何伯、法将卜罗德约五千人汇集，携大炮进攻王家寺的太平军营垒。由于新式大炮威力巨大，太平军不敌，一下就被打死近五百名士兵，近千人被俘，王家寺阵地最终为洋枪队与英法联军所得。
英国将军何伯在此战中负伤，小腿肚子挨了一枪，成为“地不平”。
4月17日，“常胜军”与英法联军进行突袭，把屯结在清浦的太平军堡垒攻克，杀掉六百多，生俘三百多。清浦大胜后，七宝城落入华尔手中，得胜的“联军”露出暴徒嘴脸，大肆洗劫，全城为之一空。所以，七天后清军接收此地时，发现七宝被洋人们洗劫得连根针都没剩下。这些洋鬼子们与假洋鬼子们挨家挨户搜掠，个个变成大富翁。由于太平军在此地有个银库，此时也为华尔所拥有。
得胜得财之余，华尔气焰更盛。4月30日，常胜军与英法联军水陆并进，又有李鹤章（李鸿章之弟）率淮军四千人助战，齐攻重城嘉定。太平军守军不支溃败，共有三千多人被杀，近两千名被俘，其余狼狈遁逃。
嘉定是太平军的一个重要据点，他们撤退时弃留几十万两白银和数千匹战马，军械辎重到处都是。至此，常胜军又有一大笔进账。
5月12日，常胜军、联军在用大炮猛轰青浦城后，呐喊着冲杀入城。虽然有两万多太平军守军，仍旧支撑不住，五六千人被杀，数千人脱下军装逃跑，数千人被活捉。
由于南桥复为太平军所据，英法联军忙于5月16日回军，华尔在交待士兵经营青浦后，也回到南桥，与英法联军一起攻城。