Jego ciała nie odnaleziono. W 2010 roku urna z ziemią z miejsca śmierci została złożona w Krypcie Zasłużonych Wielkopolan w kościele św. Wojciecha w Poznaniu.
Florian Marciniak kierował konspiracyjną organizacją harcerską od 27 września 1939 roku, gdy zeszła do podziemia, aż do aresztowania w maju 1943 roku. Był autorem nazwy "Szare Szeregi", opracował też program zatytułowany "Dziś, jutro, pojutrze", którego podstawową zasadą było wychowanie przez walkę. Położył także wielkie zasługi dla scalenia ruchu harcerskiego w warunkach okupacji.
Pod przywództwem Marciniaka Szare Szeregi przeprowadziły liczne akcje sabotażowe i zbrojne, między innymi odbijanie więźniów oraz wysadzanie mostów kolejowych. W marcu 1943 roku wziął udział w przygotowaniach do słynnej akcji pod Arsenałem, podczas której odbito z rąk Niemców harcmistrza Janka Bytnara "Rudego" i 20 więźniów politycznych, przewożonych z siedziby Gestapo przy Alei Szucha do więzienia na Pawiaku.
Florian Marciniak w konspiracji posługiwał się kilkoma pseudonimami - "Szary", "Nowak", "J.Krzemień" i "Flo", nosił też przybrane nazwiska. Mimo to, gestapo aresztowało go w Warszawie 6 maja 1943 roku, podczas zatrzymań wśród harcerzy Chorągwi Wielkopolskiej. Brutalnie przesłuchiwany w Alei Szucha, po kilku dniach został wywieziony do Poznania i uwięziony w Forcie VII. Tam podczas trwającego 6 tygodni śledztwa był torturowany, nie ujawnił jednak swojej funkcji naczelnika i nie wydał współtowarzyszy.
Zorganizowana przez harcerzy akcja odbicia "Szarego" pod kryptonimem "Biała róża", nie doszła do skutku, ponieważ Niemcy wywieźli go do obozu w Żabikowie, a stamtąd do KL Gross-Rosen. Został zamordowany wraz z 23 innymi harcerzami, o świcie 20 lutego 1944 roku. Okoliczności ich śmierci dotąd nie zostały wyjaśnione. W styczniu 1945 roku Niemcy aresztowali żonę Floriana Marciniaka - Zofię, która w kwietniu zmarła na tyfus w obozie Bergen-Belsen. W 2006 roku, postanowieniem prezydenta Lecha Kaczyńskiego, harcmistrz Florian Marciniak został odznaczony Krzyżem Wielkim Orderu Odrodzenia Polski.