En 1894, el capitán Alfred Dreyfus, un oficial judío del ejército francés, fue acusado injustamente de traición, principalmente debido a la atmósfera antisemita reinante. Herzl estuvo presente cuando el populacho gritaba «Muerte a los Judíos» y llegó a la conclusión que existía una sola solución a este ataque antisemita: la emigración masiva de los judíos hacia un país al que pudieran llamar propio. Así, el Caso Dreyfus pasó a ser uno de los factores determinantes en la génesis del Sionismo Político.
Herzl llegó a la conclusión de que el antisemitismo era un factor estable e inmutable en la sociedad humana, que la asimilación no sería la solución. Consideró la idea de llegar a una soberanía judía y, a pesar del ridículo al que sería sometido por líderes judíos, publicó en 1896 Der Judenstaat (El Estado Judío).
Herzl planteó que la esencia del problema judío no era algo individual sino algo de carácter nacional. Declaró que los judíos lograrían la aceptación del mundo solamente si dejaban de ser una anomalía nacional. Los judíos son un pueblo, dijo, y su condición puede ser transformada en una fuerza positiva por medio del establecimiento de un estado judío con el consentimiento de las grandes potencias. Él vio la cuestión judía como un problema de política internacional, que debía ser tratado en la arena de la política internacional.
Herzl propuso un programa práctico para la recolección de fondos de los judíos de todo el mundo por medio de una organización que trabajaría hacia la realización práctica de esta meta (esta organización, cuando fue creada finalmente, se llamó la Organización Sionista). Consideraba que el futuro estado sería un estado modelo desde el punto de vista social, basando sus ideas en el modelo europeo de la época, una sociedad ilustrada moderna. Debía ser neutral y a favor de la paz, y de naturaleza secular.
Las ideas de Herzl fueron acogidas con entusiasmo por las masas judías en Europa Oriental, aunque los líderes judíos mostraron menos fervor. A pesar de eso, Herzl convocó y presidió el Primer Congreso Sionista en Basilea, Suiza del 29 al 31 de agosto de 1897, la primera reunión internacional de judíos sobre una base nacional y secular. Aquí los delegados adoptaron el Programa de Basilea, el programa del movimiento sionista, y declararon que «el sionismo pretende establecer en Palestina un hogar para el pueblo judío que esté basado en la ley pública». En el Congreso se fundó la Organización Sionista como brazo político del pueblo judío, y Herzl fue electo su primer presidente. Ese mismo año, Herzl fundó el semanario sionista Die Welt e inició las actividades para obtener el reconocimiento internacional para un asentamiento judío en la Tierra de Israel (Eretz Israel).