Né à Tunis, Hichem Yacoubi passe toute son enfance et son adolescence à Chavanoz, dans l'Isère. À l'âge de 18 ans, il quitte cette petite ville pour Paris, où il s'inscrit à la faculté de droit de l'Université Panthéon-Sorbonne. Après seulement trois mois d'études, il plaque tout pour faire de la danse-jazz. Sa carrière de danseur l'amène à se produire, notamment, dans l'opéra-ballet de Laura Vega Orfeo, Ni Ange ni bête, au Casino de Paris et en tournée, ou dans la comédie musicale Mille et un soleil, à la MC93 Bobigny. Il débute au cinéma par hasard, lorsqu'il se fait remarquer dans la rue par Mounir Bekka, qui le fait tourner dans son court-métrage Barberousse en 1984. Il faut attendre le début des années 2000 pour que le cinéma devienne une activité à part entière. Il apparaît en garde arabe dans Munich de Steven Spielberg, mais c'est son personnage de Reyeb, le jeune homme qui se fait assassiner par Malik (Tahar Rahim) et qui va devenir son ami imaginaire, dans Un prophète de Jacques Audiard, qui le fait connaître. En 2014, il interprète un djihadiste dans Timbuktu d'Abderrahmane Sissako, film aux multiples récompenses dont le César du meilleur film et du meilleur réalisateur, le Prix du jury œcuménique au Festival de Cannes 2014, et une nomination comme meilleur film en langue étrangère aux Oscars du cinéma 2015.