Aunque normalmente se asocia el anarquismo al ateísmo y al rechazo de una religión organizada, y, por otro lado, se suele unir al Islam con los regímenes autoritarios y las críticas por violaciones de los derechos humanos en algunas partes del mundo islámico, también ha habido notables movimientos subterráneos de cariz anarquista a través de la historia del Islam, y su relevancia ha ido aumentando a lo largo del siglo XX, justo cuando el concepto de anarquismo musulmán es acuñado, acompañado del auge de los movimientos liberales dentro del Islam.
El anarco-islamismo está fundamentado sobre una interpretación estricta de "Islam" como "entrega a Allah", y la idea de "no coacción en la religión". Los anarco-musulmanes creen que sólo Allah tiene autoridad sobre los musulmanes, rechazando, por tanto, las fatwas [declaraciones sobre ley islámica] de los imames y basándose en el concepto de Ichtijad para acuñar una interpretación individual del Islam. Las tendencias antiautoritarias dentro del Islam y muchos musulmanes anarquistas suelen estar asociados al sufismo y su literatura.