La iglesia parroquial de San José se ubica en los primeros tramos de la calle San José Alta, conforme se asciende desde la cuesta de San Gregorio. Constituye una imponente fábrica de ladrillo y mampuestos que destaca poderosamente sobre el resto de edificaciones. Esta se trata de una de las iglesias más singulares del Albaicín, por la conservación de elementos árabes, su trayectoria histórico-artística a lo largo de la Edad Moderna, continuidad de culto y atesoramiento de obras de arte.

Esta Iglesia gótico-mudéjar fue construida en 1525 sobre el solar de la mezquita de Al – Murabitin (siglo VIII) en el barrio de la Alcazaba, con trazas de Rodrigo Hernández. La capilla mayor es una fundación nobiliaria. La portada principal, clásica, es obra de Luis Arévalo, de mediados del siglo XVIII. En la iglesia, sede de gremios relacionados con las artes, están enterrados artistas como Torcuato Ruiz del Peral o Felipe Gómez de Valencia.

De su pasado como mezquita islámica conserva el alminar, que data del siglo XI, siendo de los más antiguos conservados en España y el único conocido anterior al tipo almorávide. El alminar presenta un arco de herradura que servía de balcón. Su imagen es muy semejante al del desaparecido alminar de la mezquita mayor de Granada, que se situaba junto a la catedral. El campanario fue añadido en 1525. Al pie de la torre hay un aljibe árabe, relacionado con la primitiva mezquita.

El templo contiene un magnífico conjunto de techumbres mudéjares, como la que cubre la capilla mayor decorada con lazo, racimos de mocárabes y pechinas góticas. Y también una extraordinaria colección de obras artísticas: El Cristo del Perdón de Diego de Siloé o el Cristo del Silencio de José de Mora son ejemplo de ello, junto al retablo gótico con pinturas flamencas.