יוסף, בן ר’ צבי ולאה, נולד ב־23 באוגוסט 1913 בעיירה סנדישוב שבגליציה, פולין. הוא היה הבכור בין שבעת ילדיהם של לאה וצבי. אביו היה אדם חרדי שעסק במסחר והיה גם עסקן ציבורי. יוסף קיבל חינוך תורני, למד ב”חדר” ובבית־ספר.

בגיל 16 הצטרף לתנועת בית”ר והיה פעיל בתנועה הלאומית בפולין. למרות התנגדות הוריו יוסף עלה לארץ ישראל בשנת 1933. הוא הצטרף לפלוגת בית”ר בחדרה. משם עבר לתל אביב, והמשיך את פעילותו בבית”ר. כן הצטרף להסתדרות העובדים הלאומית והיה מראשוני חבריה. בשנת 1934 התגייס להגנה הלאומית. עם פרוץ מאורעות תרצ”ו (המרד הערבי הגדול) נשלח לשמירה ברשפון. בשעת הפילוג בהגנה הלאומית, הצטרף לאצ”ל.

בשנת 1938, כאשר שימש אחראי על השמירה מטעם בית”ר באזור נס ציונה, התנהל קרב בין השומרים העבריים ובין פורעים ערבים מזויינים בקוביבה (כפר גבירול) ויוסף נפצע בקרב זה.

יוסף מילא גם תפקיד של מפקד קן בית”ר בנס ציונה.

באוגוסט 1938 נעצר בידי המשטרה הבריטית באשמת הטלת פצצה ביפו, אך שוחרר כעבור חודשיים מחוסר ראיות.

בשנת 1940 נשא את דבורה (לבית דברקין) לאישה. אף היא הצטרפה למחתרת לח”י. לזוג שלושה ילדים: זאב, רותי ושמשון (על שם אחיו) ונכדים.

ביוני 1940, בעת הפילוג באצ”ל, הצטרף יוסף ללוחמי חירות ישראל והיה מפעילי מחתרת לח”י עד קום המדינה. במסגרת תפקידיו בלח”י, פעל להחרמת כספים (מבנקים, מיהלומנים ומבעלי ממון) לצורך מימון רכישת נשק ואמצעי לחימה. כן, פעל לגיוס כספים. פעל להשגת רכבים לפעולות, לאיתור וארגון דירות מסתור, מפגש, שהייה ומקלט לחברים מבוקשים ופצועים. מקומות אחסון לאמצעי לחימה ולפעילות ארגונית. גיוס סייענים, תומכים ואוהדים וכן לסידור עבודה לחברי לח”י (באמצעות ההסתדרות העובדים הלאומית ועיריית תל אביב-יפו).

לאחר קום המדינה, בעקבות ההתנקשות ברוזן השוודי פולקה ברנדוט, נאסר בידי משטרת ישראל, יחד עם ראשי לח”י ועשרות מחבריו, ישב במעצר כחצי שנה, ביפו, בעכו ובג’למה. יוסף שרת בצה”ל מאוגוסט 1950 עד יולי 1952.

יוסף עבד בעיריית תל אביב במינהל ההנדסה מתחילת שנות הארבעים ועד שנת 1976, עת יצא לגמלאות. בכל שנות עבודתו בעירייה, היה פעיל בארגון העובדים ובהסתדרות העובדים הלאומית.

יוסף נפטר ביום כ”ה בסיוון תשמ”ג, 6 ביוני 1983. נטמן בחלקת לח”י בחולון. אשתו דבורה נפטרה ביום ח’ באדר תשנ”ח, 6 במרץ 1988.