המחלקה הימית של הפלמ"ח פעלה מדצמבר 1943 עד אפריל 1945. מפקדה היה זלמן פרח. המחלקה הימית הוקמה לאחר שבמהלך שנת 1943 נערכו קורסים ימיים מקצועיים לכל יחידות הפלמ"ח, בסיוע 'המוסד לעליה ב'', לשם גיבוש ראשוני של המסגרת האירגונית והמקצועית ליחידה ימית עצמאית בפלמ"ח.
בדומה ליתר יחידות הפלמ"ח, פיצלו גם אנשי המחלקה הימית את זמנם בין עבודה לאימונים. הם עבדו בנמל חיפה ברציפים ובמעגני הנמל. בחוזה עם הנהלת 'סולל בונה' ובהסכמת מועצת פועלי חיפה נקבעו סידרי העבודה שאיפשרו לימאים עבודה ואימונים לסירוגין. בסיסה של המחלקה הימית שכן בקיבוץ שדות-ים. המקום נבחר בגלל קירבתו היחסית לחיפה - מרכז הפעילות הימית בארץ-ישראל, ועם זאת, היותו מרוחק במידה מספקת מפיתוייה של העיר הגדולה ומסכנת עיניה האורבות של הבולשת הבריטית. חברי שדות-ים שעבדו אף הם בנמל, סייעו בקליטתם בעבודה של אנשי המחלקה הימית. היה זה ניסיון ראשון במסגרת הפלמ"ח לקיים יחידה שעובדת בעיר ולא בכפר. בימים שהעבודה בנמל פחתה, עבדו אנשי המחלקה הימית במחצבת 'נשר'.
בראשית שנת 1944 הוקמה פלוגת המטה - פלוגה ז', בפיקודו של יהודה בריגר (ברק). לפלוגה זו קובצו כל "המחלקות המיוחדות" של הפלמ"ח, ובהן גם המחלקה הימית. באותה עת עלו הימאים הראשונים של הפלמ"ח על ספינות סוחר ודייג, במטרה לרכוש ניסיון מעשי בעבודה הימית. ההתנסות המקצועית בחברתם של מלחים זרים הייתה כרוכה בהתמודדות בעבודה מפרכת וביחס משפיל, כנהוג בקרב יורדי ים וותיקים המקדמים את הטירונים שבאו זה מקרוב לאונייה. הימאים הראשונים שיצאו להפלגה היו בנימין וויטנברג וזאב מרכוס. הם ניספו כשספינתם טובעה בידי הצי הגרמני.
עקב תנאי הלימוד הקשים בשטח, שונתה מתכונת ההשתלמות המקצועית של אנשי המחלקה הימית, בסיוע 'המוסד לעליה ב'. 12 איש הצטרפו לקורס מכונאים שנערך בקיבוץ יגור. היתר נחלקו לשניים: חלק אחד החל בסיורים בחופי הארץ במגמה לסרוק אותם לצורך איתור מקומות ראויים לנחיתת אוניות מעפילים, וחלק שני עסק באימון הימי.
התירגול וההדרכה בקורסים מיוחדים לאנשי הפלמ"ח שחודשו בקיץ 1944 נמשכו 12 יום בכל מחזור. עם הזמן, הוסבה ספינת הסוחר "עמוס" לבית-ספר ימי צף שבו רכשו ימאי הפלמ"ח הכשרה מקצועית.
לקראת תום מלחמת העולם השנייה, החליט מטה הפלמ"ח כי צורכי ההעפלה הדוחקים מחייבים להרחיב את מסגרת היחידה הימית. באפריל 1945 הופרדו הימאים מפלוגה ז', מספרם הוגדל והם אורגנו בפלוגה חדשה - פלוגה י' שכונתה הפלי"ם (הפלמ"ח הימי).