Secondo la tradizione la chiesa è stata dedicata a San Marco per riconoscenza dell'aiuto prestato da Venezia a Milano nella lotta contro il Barbarossa ma le prime notizie certe risalgono al 1254 quando Lanfranco Settala, priore generale degli Eremitani di sant'Agostino, fece costruire una chiesa gotica a tre navate inglobando costruzioni precedenti. La struttura non subì modifiche rilevanti sino al XVII secolo quando la chiesa, divenuta casa generalizia dell'ordine agostiniano, fu trasformata in forme barocche e divenne, dopo il Duomo, la più ampia di Milano.
La facciata è frutto di un completamento e restauro del 1871 di Carlo Maciachini che mantenne il portale a tutto sesto in marmo con architrave, una galleria di archetti gotici, il portale e le tre statue soprastanti. Con il suddetto restauro, l'architetto cercò di ripristinare le caratteristiche originarie gotiche della facciata, eliminando le aggiunte e le modifiche successive.
L'interno della chiesa è a pianta a croce latina, con piedicroce suddiviso in tre navate coperte con volta a crociera da pilastri decorati con paraste corinzie, transetto sporgente e profonda abside semicircolare. La crociera è coperta da cupola circolare priva di tamburo. Il rifacimento barocco degli interni è dovuto all'architetto romano Giovanni Ruggeri.
Il presbiterio è delimitato da una balaustra marmorea e sopraelevato di alcuni gradini rispetto al resto della chiesa. In esso si trova l'altare maggiore neoclassico. Questo è in marmi policromi con bassorilievi e decorazioni dorate, ed è caratterizzato dal tempietto circolare sorretto da colonne corinzie, ispirato al ciborio dell'altare maggiore del Duomo, sotto il quale si trova un tabernacolo. Sulle pareti laterali del presbiterio sono la Disputa di sant'Ambrogio e sant'Agostino di Camillo Procaccini e il Battesimo di sant'Agostino del Cerano.
La decorazione della prima cappella della navata destra fu avviata dalla famiglia Foppa per ospitare la sepoltura di Pietro Foppa. Il monumento funebre, progettato da Bramantino, è scomparso, mentre si possono ancora ammirare gli affreschi di Giovanni Paolo Lomazzo, artista milanese di scuola manierista fortemente influenzato dall'opera di Leonardo e Michelangelo. Egli stesso narra di aver condotto l'impresa decorativa nell'anno 1570. La cappella è dedicata ai santi Pietro e Paolo, che si vedono raffigurati nella pala d'altare nell'atto di rendere omaggio alla Vergine, insieme con sant'Agostino, opera a olio sempre del Lomazzo, ideatore ed esecutore del ciclo di affreschi, deperiti dal tempo.
Diverse le opere d'arte all'interno della chiesa di importanti artisti tra i quali il Legnanino, Fiammenghini, Giovanni di Balduccio, Paolo Pagani, Federico Bianchi e altri.
