יוסף נולד בשנת 1913 בראש־פינה לשמואל ולרחל הורביץ. אביו היה אגרונום שנשלח לארץ־ישראל על־ידי הברון רוטשילד, כדי לסייע למגדלי הזיתים במושבה. יוסף היה הילד ה־12 במשפחה. בן הזקונים. הוא למד בבית־הספר העברי של ראש־פינה. בגיל 14 הקים, יחד עם כמה מחבריו, את קן בית”ר במושבה. כשסיים את לימודיו בהצטיינות, נשלח לירושלים ללמוד בסמינר ‘המזרחי’ למורים.

יוסף היה מראשוני המצטרפים ל’ברית הבריונים’ של אבא אחימאיר. הוא היה צעיר, מוכשר, ויפה תואר. השתתף בהפגנות נגד סגירת השערים בפני עולים. בראש קבוצת נערים, רגם בלבנים את השוטרים הבריטים שבאו לפזרם. הוא נעצר, נשפט ונידון למאסר עם עבודת פרך במחנה נור־שמש, הידוע לשִמצה ליד טול־כרם. יוסף סרב ללבוש את בגדי האסירים ונענש בהצלפת שוט, כשהוא קשור לעמוד וראשו כלפי מטה. האסירים הערבים העריצוהו על עוז רוחו וקראו לו ‘יוסוף אפנדי’.

בשנת 1937, לאחר שחרורו, חזר לראש־פינה ויסד שם את סניף ‘ההגנה הלאומית’, שכעבור זמן קצר היתה ל’ארגון הצבאי הלאומי בארץ ישראל’. הוא היה אדם חסר פשרות בכל הנוגע למלחמת היישוב היהודי בשילטון המנדט הבריטי. כשהארגון התפלג, הלך עם יאיר והיה לאחד מאנשי לח”י ומפקדיה באזור תל־אביב, ואחר מפקד סניף ירושלים. תקופות ארוכות בילה בבתי־סוֹהר.

סמוך לקום המדינה, נשלח יוסף לאירופה במשימת רכש נשק. לאחר ששהה זמן קצר בפראג, עבר לאיטליה. בגליל עסק גם במחצבות וניצל ידע זה למשלוח נשק ארצה בתוך חביות של גבס.

לאחר קום המדינה ופירוק לח”י, חזר יוסף למושבת הולדתו והתמסר לנטיעת מטע תפוחים, לטיפול בענייני המשק ולטיפוח מטע הזיתים שנטע אביו. במשך שנים רבות היה חבר המועצה המקומית של המושבה, לה הקדיש את רוב זמנו, יזם מפעלי פיתוח שונים ודאג לרווחת התושבים. במשך כל שנות הפעילות במחתרת וההתמסרות לענייני הציבור, לא מצא פנאי לשאת אשה.

היה קשור בידידות עם נתן ילין־מור ואף הזדהה עם דרכו למציאת פשרה עם הערבים.

הוא נפטר ביום כ”ג באדר תש”ם, 11 במרץ 1980. לפני מותו קיבל את אות לח”י ואת עיטור ‘עלה’, ואמר שהדבר משמח אותו מאוד, כי זה שכרו על השנים שהקריב לתקומת המדינה.