后来左宗棠调任陕甘总督，由沈葆桢接手福州船政局，仍旧以法国人为主，开展了海事海军教学、建造兵船和训练福建水师三大事宜。实事求是地说，这些外国专家还算尽心尽力，譬如福建水师的很多战舰如旗舰扬武号等，就是在法国人日意格和安乐陶等人的监造下完成的。一直到1874年，福州船政局和这些洋人的5年合同期满，这些外国专家才陆续离开福州。
马尾是闽江下游的天然良港，位于福州东南，当时福建水师和马尾船厂都在马尾港内。也许是有这一份师生情缘和故国友谊，或者是认为和议将成，所以法国军舰陆续闯入闽江口并进泊马尾港的时候，当时的钦办福建海疆事宜大臣张佩纶、闽浙总督何璟、船政大臣何如璋、福建巡抚张兆栋和福州将军穆图善等人，根据清廷“不可衅自我开”的训令，对法国舰队的进入不但没有进行任何的拦阻，反而给予了热情款待。
由此，法舰在马尾港可以随意进出，而福建水师反处处受制，左右为难。就双方实力而言，根本就差了好几个档次，福建水师的战舰大都是法国人设计监造，由福州船政局自己生产，和强大的法国舰队相比，根本就是拳击赛中以轻量级对阵重量级，这仗没法打。
基隆退敌，马尾饮恨(2)
我们来看一下数据统计。当时泊于马尾的法国军舰有8艘，排水量为14500吨，重炮77门，官兵1800人。而福建水师虽有兵舰11艘，但排水量仅9900吨，普通火炮47门，官兵1100人。法国舰队另有鱼雷艇2艘，还有2艘军舰在金牌、琯头一带江面，防止清军塞江封口，保障后路的安全。
最为糟糕的是，法国舰队是铁甲船，而福建水师却都是些木肋兵船，正如张珮伦所言，“船略相等，而我小彼大，我脆彼坚”，如之奈何？法国舰队配置的都是重炮，可以轻易击穿福建水师的木肋甲板，而福建水师的火炮对法国舰队的铁甲基本没有威胁。从吨位、防护能力、重炮数量、兵员素质等方面来看，法国舰队有着太过于明显的优势。
最大的失误在于不该让法国舰队轻易进入马尾港。本来闽江口外，满是岛屿礁沙，两岸山岭夹峙，地形险峻，而从闽江口至马尾港，水道极为狭窄，最窄处仅300米，没有熟悉的引水员，法国舰队很难在此航行，譬如他们有一艘炮艇就因此搁浅。沿途两岸都建有炮台，对于贸然进入的法国舰队可以形成很大的威胁，但闽浙总督何璟和福州船政大臣何如璋等人，担心阻止法舰进港会发生冲突，弄不好影响中法和谈，责任太大，于是便听之任之。
等到法国舰队进入马尾港后，问题就复杂了。当时有人建议对驶入马尾港的法舰进行武力驱逐，但敌强我弱，如何驱逐？清廷当时抱定“彼若不动，我亦不动”的妥协方针，恐怕也是无奈之举，而何璟和何如璋等人“严谕水师不准先行开炮，违者虽胜亦斩”，也就毫不奇怪了。
在谈判没有结果的情况下，法国政府于8月22日电令孤拔消灭中国福建海军。孤拔准备妥当后，决定于次日下午开战。据说，当时法国人向福建水师的扬武管驾（舰长）张成递送战书，张成见后赶紧送到福州船政大臣何如璋手中，何如璋收到后，手足无措，竟然秘而不发。
第二天，马尾港内的各国领事和商人都赶忙下船，一副要开战的样子。福建水师的将士们见情况紧急，要求做好临战准备。可恶的是，督办福建军务的总负责人张珮伦居然斥责请战将士，连军火武器也不下发。等到下午一点，法国舰队已经升火起锚，张珮伦和何如璋等人这才慌了神，赶紧派人去见孤拔，要求明日再战。
这战争岂是儿戏，“不是你死，就是我活”，哪有说改就改的！
再说，孤拔选择中午退潮时开始攻击，也早在计划当中。因为当时港口内军舰船身随潮水涨落而改变方向，涨潮时船头指向下游，退潮时船头指向上游。孤拔选择退潮时开战，福建水师的军舰正好暴露在法国舰队的炮火之下，孤拔对此早已观察仔细。
下午一点半，马尾港中潮水涨平，天空突然黑云滚滚，风雨大作，云层中传来沉闷的雷声，只见一道刺眼的闪电划破晦暗的天空，法国人开始攻击了！在倾盆大雨中，福建水师的军舰还没有起锚就被法舰击沉两艘，并被重创多艘。旗舰扬武号，在管带张成的带领下，没有理会何如璋的禁令，事先已经作好了准备，当法国人发动攻击时，立即进行回击，用尾炮击中法国舰队的旗舰伏尔泰号，当下就击毙法军多名。
法军鱼雷艇见扬武号凶猛，便发射了几枚鱼雷，扬武号不幸被击中，随后沉入港中，管带张成等人在混乱中跳水逃生，事后居然被清廷问斩。不知道是因为张成违抗命令备战而被杀呢，还是因为他没有殉国而严惩，反正都没有丝毫道理。
尽管福建水师的官兵都很英勇，但毕竟实力悬殊，准备又不充分（即使准备充分，结果也难有改观），海战不到半小时，福建水师11艘兵舰，扬武、济安、飞云、福星、福胜、建胜、振威、永保、琛航9舰被击毁，另有伏波、艺新两舰自沉，19艘运输船沉没，水师官兵殉国者760人。而法军只有6人被击毙，15人受伤，两艘鱼雷艇受重伤，其他战舰基本无碍。
福建水师的炮艇福星号，刚一开战，就已经被敌舰击中，船上燃起熊熊大火，在危难之时，官兵们仍旧断锚转向，冲入敌阵对敌旗舰猛烈射击并连续命中。但福星号脱离本队后，被敌舰团团围住，重炮轰击下火药库中弹爆炸，全艇官兵壮烈殉国。
基隆退敌，马尾饮恨(3)
战舰扬威号，在被两艘法舰的夹击打穿了船体后，随后又被鱼雷击中，舰上官兵置生死于不顾，在被击沉前的瞬间，发射出最后一发炮弹，重伤敌舰长和两名士兵。还有飞云号、福胜号，都奋勇抵抗，拼命杀敌，直至沉没。对于这些英勇的战士，我们有什么理由去苛责呢？
倒是福州乡人回忆说，总负责人张佩纶和何如璋，听到海港内的隆隆炮声，吓得赶紧从福州船政局的后山逃走。据当时人的描述，当时天下大雨，电闪雷鸣，张佩纶吓得连鞋都掉了，跑到一半实在跑不动了，只好由亲兵拖曳着往前走，最后逃到了鼓山，当地百姓都拒不接待，张佩纶只好隐匿在一个禅寺下院，此地距离船厂已有20多里。第二天，张佩纶到了鼓山彭田乡，恰好这时朝廷圣旨到了，闽浙总督何璟到处找张佩纶都找不到，最后悬赏一千钱给找到或报信的，才算把这个可爱的“主战派”给找到了。
不久前，张佩纶还情绪激昂地在朝廷上慷慨陈词，大骂别人卖国投降，等到朝廷真派他去福建主持军务时，却侈然自大，漫不经心，结果致此大败。据说法国舰队进入马尾港后，张珮伦居然把福建水师的所有战舰全部集中起来，和法国舰队近距离聚泊，并自称是背水布阵，置之死地而后生。后来的事实证明，这其实是为法国舰队聚歼福建水师创造了有利条件，如果福建水师的战舰分散停泊的话，损失是有可能降低的。
文官好战，外行指挥内行，后果当然很严重。
福州船政大臣何如璋更倒霉。马尾海战风雨飘摇之时，何大人吓得躲进安施氏祠，谁知乡人为了将他赶走，竟然连祠堂也给烧了。何如璋没办法，只好连夜逃走投宿到洋行。第二天早晨，何如璋入城后想住到两广会馆，结果又被商人们驱逐，真可谓是狼狈不堪。（罗惇曧：《中法兵事始末》）
8月24日上午，法国舰队又持续炮击了马尾船厂达5小时之久，船厂厂房、仓库和一艘尚未完工的巡洋舰遭到了很大破坏。本来为了防止法国人夺取马尾船厂，清军已经埋下地雷准备炸毁，但当时风雨大作，引线没有点燃，而后来法国舰队轰击时离得太远，破坏效果有限。战争结束后，船厂经过维修后又恢复了生产，也算是不幸中的大幸。
在炮击马尾船厂后的几天里，法国舰队又将两岸炮台全部摧毁后才驶出闽江，至此马尾大战结束。遭此大挫后，清政府谴责法国“专行诡计，反复无常，先启兵端”，决定对法正式宣战，发动反击。
9月中旬，孤拔率军舰5艘，副司令利土比率军舰3艘，分别进攻台湾的基隆和淡水，企图占领这两处后分进合击，进军台北。刘铭传鉴于台湾的兵力不足，便决定放弃基隆而坚守淡水。10月1日，法军在军舰的掩护下攻占了基隆。法军攻占基隆的目的，是想占据当时已经开发的基隆煤矿，以补给他们的燃料需求，不过他们没有想到的是，清军早已在法军到达之前将煤矿破坏，法国人得到的只是一片荒滩废墟。
法国人更没有想到的是，本以为是闲庭信步的淡水登陆战竟然遭到惨败，法军非但没有占领淡水，反而伤亡了上百人，最后只能狼狈地逃回军舰。法军占领基隆一隅，无法深入，只能转而对台湾实行海上封锁。
1885年初，法国舰队跑去骚扰浙江镇海，截击南洋水师由上海往援台湾的5艘军舰。其中，澄庆、驭远两舰由于航速较慢，脱离舰队就近避入了浙江石浦，被7艘法国军舰追上，后来这两艘军舰被法舰的鱼雷击沉。