יוסף נולד בשנת 1921 בזדונסקה־ווֹלה על־יד לודז’, פולין, למשפחה אמידה ועניפה שמנתה 13 נפשות. אביו, אברהם, היה בעל אותות הצטיינות על גבורה במלחמת יפן–רוסיה, בשנים 1904–.1905 בהיותו בן למשפחה חסידית חרדית, למד יוסף בילדותו בחדר ובתלמוד תורה.

בגיל 14 הצטרף לבית”ר ומאז רקם חלומות לעלות לארץ־ישראל. הוא עלה באניית המעפילים “דיפו”, בשנת 1939, במסגרת עליית “אף־על־פי”, מיסודן של בית”ר והאצ”ל. האנייה עלתה על שרטון, אך העולים נאספו על־ידי האנייה “קטינה”, אשר הביאה אותם אל חופי הארץ. עם הגיעו ארצה, הצטרף לפלוגת בית”ר בראש־פינה ולאחר זמן־מה עבר להתגורר ברמת־גן. הוא היה ראשון המתנדבים למכבי־אש ותוך זמן קצר גויס לאצ”ל.

לאחר הפילוג באצ”ל, הצטרף ללח”י. במרוצת הזמן מילא תפקידים שונים ומגוּונים במחתרת. בשנת 1946 נעצר על־ידי הבריטים בעת חיפוש, כחשוד להשתייכות למחתרת, אולם שוחרר לאחר תקופה קצרה, משלא נמצא כל חשד מבוסס נגדו.

יוסף נימנה עם מתגייסי לח”י לצה”ל ביום 29 במאי 1948 ושירת בחטיבה 8, גדוד 82, פלוגה א’. השתתף בכל קרבות הגדוד, במבצע דני ובדרום, בלוד, רמלה ובאר־שבע.

בשנת 1941 נשא יוסף לאִשה את נחמה, ולזוג נולדו שתי בנות, יהודית ורבקה, שלושה נכדים ושלושה נינים.

לאחר קום המדינה עבד בעבודות שונות ולבסוף בעיריית רמת־גן.

יוסף נפטר בשנת ביום ט”ו בכסלו תשנ”ד, 29 בנובמבר 1993 והובא למנוחות בבית עלמין ירקון.