גרשון נולד בחודש שבט תרע”ד, פברואר 1914 בעיר מוזיר ברוסיה לאביו דב ולאמו הדסה. הוא עלה ארצה עם הוריו בשנת 1924 בהיותו בן עשר. אביו היה איש משכיל שכתב ספרים, מאמרים ושירים בנושאים יהודיים, לאומיים וציוניים. עם הגיעה ארצה, התגוררה המשפחה בשכונת מחלול, על שפת הים, בצפון תל־אביב. גרשון למד בבית־הספר “תחכמוני” ועם גמר לימודיו העממיים התקבל לבית־הספר החקלאי “מקוה ישראל”, שהיה מעוזם של אנשי ההגנה. ואף על פי כן, דווקא במקווה ישראל נזרע בו הזרע הלאומי, שנבט וצמח במשך השנים והביאו לחיק המחתרות העבריות הלאומיות.

אחרי משפט רצח ארלוזורוב, הצטרף גרשון להגנה הלאומית, שלימים היתה לארגון הצבאי הלאומי בארץ־ישראל, והשתתף באמוני נשק בחולות, בין חולון וראשון־לציון. בינתיים רכש אביו אדמה במושבה מגדיאל בשרון ועם סיום לימודיו במקוה ישראל, הלך גרשון לעבד את אדמת המשפחה במגדיאל. הדבר תאם גם את דרישת הארגון, שיילך להתיישב בשרון. וכך, בשנת 1935, הקים לו משק חקלאי. תחילה הקים צריף וגר בו עד אשר ירחיב. לימים בנה בית במו ידיו.

בתקופת מאורעות תרצ”ו–תרצ”ט השתתף במערך השמירה על גבולות המושבה ובפעולות תגמול של האצ”ל נגד כפרים ערבים בסביבה, שמהם יצאו המרצחים נגד הישוב היהודי. בביתו בנה האצ”ל סליק לנשק. באחד הימים הגיעה קבוצת חברי ההגנה מרמת הכובש לחפש נשק, שלדבריהם “סחב” מהם האצ”ל. גרשון נחקר, כדי שיגלה את מקום מסתור הנשק, הוכה, אך שתק. למרות זאת חיפושיהם נשאו פרי, הם גילו את הנשק ולקחו אותו.

בשנת 1938 נשא גרשון לאשה את חיה ברוקנר, אשר ליוותה אותו לאורך כל דרכו במסירות ובנאמנות והיתה שותפה לכל פעילותו המחתרתית. לזוג נולדו שלושה ילדים: שניאור זלמן, אשר ולאה, 14 נכדים ושני נינים.

עם הפילוג באצ”ל, בשנת 1940 הצטרף גרשון אל אנשי יאיר והפך חבר לוחמי חרות ישראל. ביתו, שהיה מוסתר בין הפרדסים, שימש אכסניה לחברי לח”י המבוקשים על־ידי השלטונות הבריטים. בו נחפרו מחסני נשק, הורכבו מוקשים ומטענים, ששימשו להתקפות נגד הבריטים בכבישים, במסילות הברזל ובהתקפות על מפקדותיהם.

עם קום המדינה התגייס לצה”ל.

גרשון נפטר ביום י”ח בטבת תשס”א, 1 בפברואר 2002.