Παρόλο που κατάφερε να ανελιχθεί ως ένας από τους κορυφαίους αξιωματικούς της Λιβύης, εντούτοις από τα τέλη της δεκαετίας του 70 οι σχέσεις του με τον Καντάφι διαταράσσονται.
Σε αντίθεση με άλλους αξιωματικούς, ο Χαφτάρ επιδεικτικά δεν χειροκροτεί τον «ηγέτη της επανάστασης».
Εξ ου και στον πόλεμο με το Τσαντ ο Καντάφι τον αιχμαλωτίζει και τον αποκηρύσσει (1987).
Τότε ο Χαφτάρ φεύγει για την Αμερική, ζει εκεί για αρκετά χρόνια και αποκτά την υπηκοότητα.
Το 96 επιστρέφει στη Λιβύη όπου παίρνει μέρος σε αποτυχημένη εξέγερση κατά του Καντάφι, ενώ 15 χρόνια μετά, το 2011 επιστρέφει στη χώρα, λίγο πριν τελικά εκτελεστεί ο Καντάφι μετά από βασανισμό από το πλήθος.
Αρχικά ο Χαφτάρ δε βρίσκει ρόλο στη νέα κυβέρνηση εξ ου και επιστρέφει στις ΗΠΑ, ενώ το 2104 ιδρύει τον Λιβυκό Εθνικό Στρατό.