1940 wurde in Warschau und Gdynia eine konspirative Organisation von Matrosen gegründet, um antideutsche Marineaufklärung zu betreiben. Im Jahr 1941 nahm diese Gruppe Kontakt mit dem Oberbefehlshaber des Verbandes für den bewaffneten Kampf (Związek Walki Zbrojnej, ZWZ), General Stefan Rowecki „Grot”, auf. Der bewaffnete Arm des polnischen Untergrundstaates gründete daraufhin im Hauptkommando die Marineabteilung mit dem Codenamen „Alfa”.
Die Marinegruppen konspirierten zunächst im Rahmen des Bundes für den Wiederaufbau der Republik Polen (Związek Odbudowy Rzeczypospolitej). Ihr unumstrittener Anführer war Leutnant Antoni Gniewecki „Witold”. Die Organisation befasste sich mit der Beobachtung der deutschen Marine. Die Informationen flossen in die „Basis”, die sich in einem Warschauer Geschäft am Platz der drei Kreuze befand. Die geheime Korrespondenz wurde auf Schiffen über die Flussrouten transportiert.
Als es den Matrosen 1941 gelang, mit dem Oberbefehlshaber des damaligen Verbandes für den bewaffneten Kampf (später Heimatarmee) Kontakt aufzunehmen, wurden sie in die offizielle Struktur des polnischen Untergrunds aufgenommen. Im April 1942 nahm die Marineabteilung des Hauptkommandos der Heimatarmee mit dem Kryptonym „Alfa”, später „Ostryga”, unter der Leitung von A. Gniewecki ihre Arbeit auf. Organisatorisch war sie dem Befehlshaber des Westgebiets der AK unterstellt. Zu den Aufgaben von „Alfa” gehörten die ständige Aufklärung der Marine, die Vorbereitung der Seeleute auf den Einsatz an der Küste und in den Häfen während des Volksaufstandes sowie die Bildung von Marineeinheiten.
1944 umfasste „Alfa” 51 Offiziere, 153 Unteroffiziere und Matrosen, acht Zivilangestellte und 18 Frauen, also insgesamt 230 Mitarbeiter. Die Abteilung gliederte sich in folgende Unterabteilungen: Organisation und Mobilisierung, Nachrichtendienst sowie eine Gesundheitsabteilung, die für die Vorbereitung des „Alfa”-Krankenhauses zuständig war und unter anderem Medikamente sammelte.
Während des Warschauer Aufstands plante die Marineabteilung, den Hafen Czerniaków an der Weichsel einzunehmen. Zu diesem Zweck gelang es ihr, eine Kampfeinheit mit dem Codenamen „Szczupak” zu bilden, die von Władysław Macioch „Mizio” befehligt wurde. Zu ihr gehörte auch die Besatzung der Werkstätten der Flusswerft an der Weichsel, die mehr als 50 Personen zählte. Während des Aufstands kämpfte auch der Initiator von „Alfa“ — A. Gniewecki. Ihre Aufgabe bestand neben der Einnahme des Hafens darin, den Aufständischen die Überquerung der Weichsel zu ermöglichen.
Der polnischen Marine, wie auch der Luftstreitkräften der Heimatarmee, gelang es nicht, ihre Strukturen während der Besatzung wiederherzustellen. Die Matrosen kämpften hauptsächlich in den Strukturen der Infanterie, des Nachrichtendienstes und in Kommunikationsstrukturen.