הרצל נולד בשנת 1918 בעיירה לוצין בלטביה לזלמן ולבלה. אביו, שותף במפעל עורות ונעלים, היה בעל דעות סוציאליסטיות ומרוחק מהציונות. הרצל למד בבית ספר מקצועי ובגימנסיה העברית. בגיל 10 הצטרף לבית”ר בעקבות אחיו הבכור דוד, שלימים היה נציב בית”ר בלטביה. הרצל קשר את חייו בתנועה הלאומית ובמאבק להקמת מדינה עברית ובגיל 15 כבר היה מדריך.

בשנת 1937 מונה למפקד קן בית”ר “מזרח” בריגה. הוא יצא להכשרה לקראת עליה ויחד עם קבוצת מפקדים הקים תא מחתרתי ללימוד נשק. בשנת 1939 עלה ארצה באנייה “נעמי יוליה”, שנתפסה על ידי הבריטים. הרצל, שכונה בפי כל “הרצקה”, נעצר. עם שחרורו, הצטרף לפלוגת בית”ר בנס ציונה ועד מהרה התמנה למפקד הפלוגה. באמצע שנת 1940 עבר לפלוגת נחלת יצחק, ליד ירושלים, שם גויס לאצ”ל. בפילוג הצטרף ליאיר ובשל כך גורש מהפלוגה. הוא עבר לרחובות, שם נעצר ביום 17 במרץ 1941, נכלא במחנה המעצר מיזרע ואחר כך בלטרון.

הרצל היה אחראי על הצריף ממנו נחפרה מנהרה, דרכה ברח עם 19 מחבריו ביום 1 בנובמבר 1943. הוא נרתם לעבודת המחתרת, יצא לחיפה, לגליל התחתון ולעמק על מנת לארגן ולהרחיב את שורות לח”י. עם שובו לתל אביב, עסק בקשר עם אוהדים ונוער ובהסברה. בשנת 1945 נשלח לחו”ל, ישב באיטליה ותכנן פעולות נגד הבריטים.

בשנת 1946 עבר לצרפת, תכנן פעולות ונעצר על ידי הצרפתים. מששוחרר, שב לאיטליה והתרכז ברכישת נשק. עם הכרזת המדינה, שב ארצה, התגייס לחטיבה 8, גדוד 89, לִפלוגתו של “דב הבלונדיני”, והשתתף בכל קרבות הגדוד, ממבצע דני וכלה במבצע “עין” וגירוש המצרים ב־1949. השתתף ביסוד מפלגת “הלוחמים”. ונמנה על מייסדי קיבוץ נווה יאיר.

בשנת 1950 הרצל נשא לאִשה את דינה גרשון, ילידת בולגריה. לאחר המלחמה עבד ב”רסקו” וב”סיקו”, בעסקי בנייה. בשנת 1956 גויס למערכת הביטחון של המדינה ושירת עד 1972 בצרפת ובדרום אמריקה. לימים נשלח לברית המועצות. לאחר שהשתחרר מפעילות הביטחון, עבד בחברת בנייה ובמשרד הקליטה, שם אירגן סמינרים לעולים חדשים. התמזגו בו תכונות של אנושיות, להט ומסירות ללא גבול לרעיון המדינה העברית והוא היה לוחם בלתי נלאה.

הרצקה נפטר ביום ה’ בתמוז תשמ”ו, 12 ביולי 1986. נטמן בחלקת לח”י בבית העלמין בחולון. הניח אִישה ושלושה בנים.