יוסף, בן ר' צבי ולאה, נולד ב־23 באוגוסט 1913 בעיירה סנדישוב שבגליציה, פולין. היה הבכור בין שבעת ילדיהם של לאה וצבי. אביו היה אדם חרדי שעסק במסחר וגם עסקן ציבורי. יוסף קיבל חינוך תורני, למד ב"חדר" ובבית־ספר.
בגיל 16 הצטרף לבית"ר והיה פעיל בתנועה הלאומית בפולין. בשנת 1933 עלה לארץ ישראל, למרות התנגדות הוריו והצטרף לפלוגת בית"ר בחדרה. משם עבר לתל אביב, והמשיך את פעילותו בבית"ר. כן הצטרף להסתדרות העובדים הלאומית והיה מראשוני חבריה. בשנת 1934 התגייס להגנה הלאומית. עם פרוץ מאורעות תרצ"ו נשלח לשמירה ברשפון. בשעת הפילוג בהגנה הלאומית, הצטרף לאצ"ל. בשנת 1938, כאשר שימש אחראי על השמירה מטעם בית"ר באזור נס ציונה, נפצע בקרב, בקוביבה (כפר גבירול), בין השומרים העברים וכנופיית פורעים ערבים מזויינים. בנס ציונה מילא גם תפקיד של מפקד קן בית"ר.
באוגוסט 1938 נעצר בידי המשטרה הבריטית באשמת הטלת פצצה ביפו, אך שוחרר כעבור חודשיים מחוסר ראיות.
בשנת 1940 נשא את דבורה (לבית דברקין) לאישה. אף היא הצטרפה למחתרת לח"י. לזוג שלושה ילדים: זאב (נפטר מדום לב בעת מילוי תפקידו), רותי ושמשון, ונכדים.
בעת הפילוג באצ"ל, הצטרף יוסף ללוחמי חירות ישראל והיה מפעילי מחתרת לח"י עד קום המדינה. במסגרת תפקידיו בלח"י, פעל להשגת כספים ומימון, נשק ואמצעי לחימה, וכן להשגת דירות מסתור ומקלט לחברים מבוקשים ופצועים, מקומות לאחסון אמצעי לחימה ולפעילות ארגונית, וכן דאג לכלי רכב למבצעים.
לאחר קום המדינה, בעקבות ההתנקשות ברוזן השוודי פולקה ברנדוט, נאסר בידי משטרת ישראל, יחד עם ראשי לח"י ומאות מחבריו, ישב במעצר כחצי שנה, ביפו, בעכו ובג'למה. שרת בצה"ל מאוגוסט 1950 עד יולי .1952
בחיים האזרחיים עבד יוסף בעיריית תל אביב במינהל ההנדסה מתחילת שנות הארבעים ועד שנת 1976, עת יצא לגמלאות. בכל שנות עבודתו בעירייה, היה פעיל בארגון העובדים ובהסתדרות העובדים הלאומית.
יוסף נפטר ביום כ"ה בסיוון תשמ"ג, 6 ביוני 1983. נטמן בחלקת לח"י בחולון. אשתו דבורה נפטרה ביום ח' באדר תשנ"ח, 6 במרץ 1988.
