抗戰(zhàn)爆發(fā)后，英軍于1940年撤離山東威海灣，日軍乘機進占劉公島，扶植汪偽政權(quán)在島上設(shè)立威海衛(wèi)要港司令部，指揮華北各地的汪偽海軍。

1944年下半年，看到日軍的失敗已成定局，駐守劉公島的偽軍士兵在練兵營衛(wèi)兵隊少尉隊長鄭道濟，上士班長連城、畢昆山、李仁德、劉國璋等的領(lǐng)導(dǎo)下，決定發(fā)動起義。

11月5日下午1時30分，鄭道濟按原計劃將起義骨干及部分練兵集合于練兵營第二兵舍，正式宣布起義。他站在床板上，高聲說:“弟兄們，中央軍已經(jīng)快打到威海了(實際上是八路軍在戚家莊打了一個伏擊戰(zhàn))，我們中國人再也不受鬼子漢奸的欺壓了，我們要拿起武器，消滅日本鬼子和漢奸，為我們的父老兄弟報仇。”大家紛紛站起來，表示要跟日軍戰(zhàn)斗到底。

鄭道濟將練兵營編為3個突擊隊，分頭行動。至下午5時，已將島上所有的日軍和企圖頑抗的反動偽軍官消滅，控制了全島，并爭取了島上的5個派遣隊和偽海員養(yǎng)成所70余人及“同春”號運輸艦參加起義，開赴到達相距十五六里路的夏家疃村和東場村（原屬文西縣十區(qū)，今為牟平區(qū)姜格莊鎮(zhèn)）。

膠東半島中共地方黨組織很快將這一情況報告了八路軍東海軍分區(qū)，東海軍分區(qū)黨委當(dāng)即決定，調(diào)東海獨立團一個營、文西獨立營、牟平獨立營以及附近的區(qū)中隊和民兵，連夜向這支隊伍靠攏。

鄭道濟等人率部向牟平進發(fā)，于次日拂曉到達雙林村。上午10時許，由雙林前村的民兵副團長曲作會連續(xù)轉(zhuǎn)交了兩封信給鄭道濟，信中肯定了他們棄暗投明的義舉，歡迎他們加入到八路軍的隊伍中來。經(jīng)過東海軍分區(qū)敵工股股長辛冠吾等的一番工作之后，鄭道濟帶領(lǐng)全體官兵正式加入了八路軍隊伍。受劉公島汪偽海軍起義的影響，11月10日，駐守在龍須島上的偽海軍派遣隊67名官兵也舉行了起義。1944年11月22日，中共東海軍分區(qū)在文西縣鋪集鎮(zhèn)把兩支起義部隊合編為“陸軍第十八集團軍山東膠東軍區(qū)海軍支隊”，鄭道濟為上校支隊長，下轄4個中隊。

1945年8月日本宣布無條件投降后，駐青島的日偽軍拒絕向八路軍繳械投降。8月25日，“海軍支隊”奉命配合八路軍主力部隊參加了攻打即墨縣城的戰(zhàn)斗，“海軍支隊”擔(dān)任第二梯隊。9月，“海軍支隊”移駐萊陽水溝頭，總兵力發(fā)展近千人，其中著名戰(zhàn)斗英雄楊子榮所在的膠東軍區(qū)牟平獨立營就編入了“海軍支隊”，小說《林海雪原》中傳奇式的英雄人物，就是以這支部隊中一個小分隊的隊員們?yōu)樵退茉斓摹５?中隊政治指導(dǎo)員曲波，就是著名小說《林海雪原》的作者。10月24日，部隊開抵龍口，接受了渡海開赴東北的任務(wù)，分乘10艘大帆船和3艘內(nèi)火艇駛向遼東半島。

膠東海軍支隊渡海北上東北時曾留下的一部分人員，組成“山東膠東軍區(qū)海軍教導(dǎo)隊”，駐煙臺、威海一帶，守衛(wèi)海防，訓(xùn)練海軍學(xué)員（包括地方海防民兵）。1947年膠東保衛(wèi)戰(zhàn)后，“教導(dǎo)隊”人員分編到華東軍區(qū)所屬的各部隊中去。全國解放后，中共中央軍委在全軍范圍內(nèi)抽調(diào)原“海軍支隊”中劉公島、龍須島起義官兵170余人參加人民海軍的建設(shè)，使他們成為了新中國海軍建設(shè)的重要骨干力量。