ימים ספורים לאחר מותו של הרצל נכתב בעיתון "השקפה": "דבר אחד יהיה זיכרון נאה להרצל בארץ ישראל. צריך לבנות על שם ד"ר הרצל עיר עברייה... ובעיר העברית הזאת יכוננו על שם ד"ר הרצל בית ספר תיכון עברי".

17 תלמידים נמנו עם הגרעין הראשון של הגימנסיה הראשונה שלימדו בה בעברית. את הגימנסיה הקימו ביפו בשנת 1905 זוג המחנכים יהודה לייב ופניה מטמן-כהן. כעבור ארבע שנים עברה הגימנסיה לתל אביב ונקראה "הגימנסיה העברית הרצליה". חזון הקמת תיכון עברי בעיר העברית הנקראת על שם חיבורו של הרצל, "אלטנוילנד", התגשם.

טקס הנחת אבן הפינה של בניין הגימנסיה התקיים למוחרת תשעה באב, ולא בכדי. האדריכלים ברסקי ושץ תכננו את המבנה בהשראת בית המקדש, והוא כלל צריחים הדומים לקרנות המזבח ועמודי יכין ובועז בחזית. 1,841 שנים לאחר חורבן בית המקדש בירושלים החל להיבנות בתל אביב בית מקדש לחינוך עברי ולתרבות היהודית המתחדשת.

לא רק צורתו של הבניין והחזון לכונן מרכז רוחני-חינוכי מתכתבים עם בית המקדש, כי אם גם שֵם הגימנסיה. למעשה, בנימין זאב - המוכר כשמו העברי של הרצל - החל להיות בשימוש רק לאחר מותו, כשנתגלה בפנקס הקהילה שגדל בה. יהודים רבים כינו את הרצל בחייו בשם מתתיהו כתרגום לשמו תיאודור (מיוונית -מתת האל). הרצל, שסימל את התקווה לעצמאות מחודשת, כונה בשמו של מנהיג המרד החשמונאי, מחולל נס החנוכה, שהיה גם כוהן גדול.

השמועה על הגימנסיה שמלמדים בה חומרי לימוד אירופיים בעברית יצאה למרחוק, ותלמידים החלו לנהור אליה מהארץ ומהגולה. הגימנסיה הייתה למוקד תרבותי וחברתי, ונערכו בה כנסים, דיונים ואירועי תרבות עירוניים ולאומיים. רבים מהמורים ומהבוגרים מילאו וממלאים תפקידים מדיניים, תרבותיים וחינוכיים ביישוב ובמדינה. ראש הממשלה השני משה שרת, אב"א אחימאיר, הסופרת ימימה אבידר-טשרנוביץ, המשורר נתן אלתרמן, האמן נחום גוטמן ונתיבה בן-יהודה הם רק אחדים מהם.

בניין הגימנסיה חסם את המשך רחוב הרצל, ועל כן בשנת 1958, עם הגידול במספר התלמידים ובשל מצבו הרעוע של הבניין והרצון להמשיך ולבנות לאורך הרחוב, עברה הגימנסיה למשכנה הנוכחי ברחוב ז'בוטינסקי. גימנסיה הרצליה כיום היא מהתיכונים המובילים בתל אביב ולומדים בה קרוב ל-2000 תלמידים מידי שנה.

המבנה המונומנטלי של ברסקי ושץ נהרס, ובמקומו נבנה גורד השחקים הראשון בארץ, מגדל שלום מאיר, שבתוכו פעלה שנים ארוכות חנות הכולבו הגדולה מסוגה בארץ. כמו בית המקדש, בניין הגימנסיה הישן נותר בזיכרון הלאומי, והריסתו הפכה לסמל למתח המתמיד בין שימור העבר לפיתוח ולצמיחה עתידיים.