Di origine sefardita, ha studiato letteratura ebraica e filosofia all'Università Ebraica di Gerusalemme.
Ha iniziato la sua carriera letteraria come scrittore di racconti, la raccolta completa è stata pubblicata in Israele nel 1993 (Tutti i racconti, Torino, Einaudi 1999). I due romanzi per i quali è particolarmente amato dal pubblico italiano sono L'amante (Israele 1977; Torino, Einaudi 1990) che racconta l'atmosfera e la crisi attraversata da Israele dopo la guerra del Kippur (1973) e Il signor Mani (Israele 1990; Torino, Einaudi 1994), che ricostruisce a ritroso la saga di una famiglia sefardita - i Mani - nell'arco di più di un secolo di storia. Il suo ultimo romanzo Fuoco amico è stato pubblicato in Israele nell'aprile 2007. La sua scrittura si caratterizza per una forte attenzione alla realtà storica e all'ideologia, cui si unisce una potente vena ironica.
A. B. Yehoshua è anche autore di opere teatrali, Possesso (Israele 1986; Torino, Einaudi 2001), di saggi politici, L'elogio della normalità (Israele 1980; Firenze, La Giuntina 1991), e letterari, Il potere terribile di una piccola colpa (Israele 1998; Torino, Einaudi 2000).
Ha vinto numerosi premi in Israele e all'estero, tra cui il Premio Brenner e il Premio Bialik (1989), e in Italia il Premio Giovanni Boccaccio (2005) e il Premio Viareggio alla carriera (2005).