Den 26-årige spanjoren stod för en vacker frispark i 24:e minuten där bollen seglade in mot krysset. Sedan slog Alonso till igen några minuter från slutet när han med vristen drog in 2-1 efter en svag målvaktsinsats av Hugo Lloris där bollen gick under honom.
Huvudtränaren Antonio Contes glädje visste inga gränser efter det sena segermålet.
Dessförinnan hade Tottenham kvitterat till 1-1 i den 82:e minuten efter ett nickmål i egen bur av Chelseas Michy Batshuayi.
Men några minuter senare, i 88:e, fick Marcos Alonso sista ordet när han fixade Chelseas första seger för säsongen efter bottennappet i premiären (2-3) hemma mot Burnley i premiären.
– Jag är väldigt glad för segern. Det har varit mycket snack i veckan, men tycker vi visade att vi står enade, jobbar hårt och förtjänar segern till 100 procent, säger matchvinnaren Alonso i Viasats sändning.