En Cambridge estudiaba lenguas clásicas y orientales, a la vez que era un activo miembro de la juventud de la Federación Sionista, donde escribió algunos trabajos en la revista editada por la Federación. Además, pudo colaborar con el líder del Movimiento Sionista Mundial, Jaim Weitamann.
Al comenzar la Segunda Guerra Mundial se inscribió en el ejército británico donde, por su dominio de las lenguas orientales, se desempeño en el área de inteligencia, y luego de una breve estadía en El Cairo fue enviado a Jerusalem como oficial de enlace con la comunidad judía. Allí se le encomendó la organización de una unidad de resistencia clandestina, ya que la región era dominada por los nazis.
Finalizada la contienda mundial, decidió no regresar a Gran Bretaña, sino quedarse a colaborar con la conducción del Yshuv(la organización que gobernaba a la comunidad judía), integrándose al Departamento de Información de la Agencia Judía para Palestina, en donde desarrolló su labor hasta la creación del Estado de Israel.
David Ben Gurión, quien estaba al frente del gobierno del naciente Estado de Israel lo designó representante permanente del estado judío en la Naciones Unidas a partir de 1948, cargo al que le agregó dos años después el ser el embajador israelí ante el gobierno de Estados Unidos. Al cumplir con esta simultanea representación diplomática, Abba Eban se destacó por sus habilidades retóricas, pues hablaba nueve idiomas con fluidez, lo que le permitió a Israel tener una buena posición entre las naciones que integraban la organización internacional. Tal es así que en 1952 fue nombrado vicepresidente de la Asamblea anual.
Abba Eban culminó su representación diplomática en 1959, y regresó a Israel donde fue electo miembro de la Knesset, parlamento israelí, en representación de partido Mapai, liderado por Ben Gurión, quien lo nombro ministro ministro de Educación y Cultura en el período 1960-1963.
Luego de que Levi Eskol asumió como primer ministro en 1963, Eban ocupó el cargo de viceministro, que después abandona para ocupar la cartera de Relaciones Exteriores hasta 1974. En ese puesto, tuvo la responsabilidad de demostrar que en 1967, tras la Guerra de los Seis Días, Israel había actuado defensivamente. Fue un conocido defensor de la postura de intercambiar territorios por paz con Egipto y los palestinos, por lo que tuvo un papel importante en las negociaciones que culminaron con la resolución 242 del Consejo de Seguridad de las Naciones Unidas.
En 1974, luego de la guerra de Yom Kipur, y antes de dejar el cargo de ministro de Relaciones Exteriores, tuvo una activa participación en el acuerdo de separación de las fuerzas de Israel y Egipto. Retirado del gobierno, Abba Eban continuó siendo miembro de la Kneset hasta 1988, e integrando en la Comisión de Asuntos Exteriores y de Seguridad, que presidió en la cadencia 1984-1988.
Diferencias con las políticas instrumentadas por su partido, el Laborismo, lo hicieron abandonar la política activa y dedicarse exclusivamente a la enseñanza y la literatura, pues con anterioridad ya había incursionado en estas disciplinas, siendo miembro de la Academia Americana de Ciencia, presidente del Instituto de Ciencia Weizmann (1958-1966), profesor invitado en la Universidad de Columbia (1974) y de la Universidad de Princeton.
También fue un autor comprometido con el judaísmo, el sionismo y el futuro del pueblo judío e Israel, habiendo escrito y publicado una serie de trabajos, tantos políticos como históricos, como así también su autobiografía: “Herencia: la civilización y los judíos”, “Mi País: la historia de Israel moderno”, “Mi pueblo: Historia de los judíos”, “Diplomacia para la próxima centuria”, entre otros.
En 1989 la Universidad Hebrea de Jerusalem le otorgó el título de Doctor Honoris Causa, y en el 2001 recibió el Premio Jerusalem, el máximo galardón que otorga el Estado de Israel.
Casado en 1945 con Susan Ambache, fue padre de dos hijos, uno de los cuales es profesor en la Universidad de Indiana y reconocido clarinetista.
Abba Eben, considerado como uno de los “padres fundadores” del Estado de Israel falleció el 17 de noviembre de 2002 en la ciudad de Petaj Tikva.