נולד בתל אביב בשנת 1936. גדל בחיפה, בוגר בתי ספר דתיים וחניך בתנועת 'בני-עקיבא'.
ב – 1952 התגייס לנח''ל. בשנת 1954 הגיע ליחידת הקומנדו הימי. שלוש שנים מאוחר יותר סיים קורס קצינים וקורס חובלים.
בשנים 1962-1966 שימש כמפקד טרפדת. במלחמת ששת הימים פיקד על כוח לוחמים של הקומנדו הימי שחדר לנמל פורט סעיד.
בשנת 1968 קיבל את הפיקוד על יחידת הקומנדו הימי, ובמסגרת תפקיד זה פיקד אלמוג על הפשיטה המפורסמת על האי גרין בעת מלחמת ההתשה. בשנת 1972 התמנה למפקד זירת ים-סוף, ובתפקיד זה מצאה אותו מלחמת יום הכיפורים. תחת פיקודו שלטו ספינות חיל הים במפרץ סואץ ואלמוג עצמו השתתף באחת הפעולות של הקומנדו הימי כנגד הכוח המצרי במעגן ע'רדקה.
ב– 1974 יצא ללימודים במכללה לביטחון לאומי של הצי האמריקאי, ובשובו התמנה למפקד בסיס חיפה. בשנת 1976 הצטרף לצוות ההקמה של המכללה לביטחון לאומי בארץ, ומאז פתיחת שעריה שימש כמדריך במכללה.
בינואר 1979 נקרא לשמש כמפקד חיל הים, במקום האלוף מיכאל ברקאי. האלוף זאב אלמוג פיקד על חיל הים במבצע של''ג, בין הפעולות הרבות של החיל במבצע, יש לציין את ההנחתה הגדולה של הכוחות בחוף האוואלי בלבנון.
במבצע של''ג הוכיח חיל הים את יכולותיו לסייע ללחימה ולהכרעה ביבשה.