Migliaia di anni fa l'area oggi occupata da Taipei era un lago che, nel corso dei secoli, si prosciugò diventando un bacino seccato interrotto da paludi e verdi pianure. La gente della tribù Pingpu, probabilmente originari di qualche isola del Pacifico, che abitava i rilievi attorno al bacino era dedita alla pesca fluviale con canoe. Qualche secolo fa, un gruppo di cinesi, della regione dello Han, si stabilirono nella zona. Essi utilizzarono i corsi d'acqua per la pesca, vivendo lungo le rive del fiume Tamsui non molto distante dall'attuale Taipei.

Nel 1790 un contadino, originario della provinicia di Fukien, costruì una fattoria a Takala, in quello che è oggi il centro di Taipei. Questo segnò l'inizio di una massiccia immigrazione nella regione, e portò alla formazione di vari insediamenti. L'area di maggiore concentrazione demografica (la più antica nella zona di Taipei) era denominata Manka. Anche a Talungtung, Sungshan e Shihlin si insediarono popolazioni della Cina continentale, che influenzarono lo sviluppo della nascente città di Taipei. Questa ampia partecipazione al potere fu la causa di frequenti scontri armati. Dopo una dura lotta nel 1853, gli abitanti di Chuanchou migrarono verso nord a Tataocheng sulle rive del fiume Tamsui e crearono una nuova e prospera comunità che, alla fine del XIX secolo, finì per dominare Manka. Lungo le sponde del fiume Tamsui il commercio di tè e canfora portò prosperità e sia Manka sia Tataocheng fiorirono proprio grazie alla loro vicinanza al fiume. Considerato la culla di Taipei, questo fiume fu non solo la forza vitale che sta alla base dello sviluppo della Taipei antica, ma ebbe anche la funzione di arteria principale nel successivo sviluppo della città.

La Prefettura di Taipei fu istituita nell'odierno distretto di Chungcheng nel 1875. L'antica Taipei fu costruita secondo le regole tradizionali della geomanzia cinese: in un luogo circondato da montagne e in prossimità di un bacino d'acqua (il fiume Hsintien), con la cinta muraria a est e a ovest. La città era orientata a nord e sud con cinque porte lungo le quattro mura principali. La zona dentro le mura era denominata Cheng-nei ('dentro le mura'). La Dinastia Ching stabilì nella giovane città agenzie amministrative e finanziarie e anche i giapponesi, quando colonizzarono Taiwan nel 1895, stabilirono i propri quartieri generali amministrativi a Taipei, proseguendone lo sviluppo. Nel corso dei vari domini, e in soli 100 anni, la città dentro le mura si trasformò da zona rurale nel centro amministrativo, economico e culturale di Taiwan.

Malgrado i giapponesi avessero modernizzato la città con la costruzione di strade e infrastrutture, il loro duro dominio causò un diffuso malcontento popolare. Durante la Seconda Guerra Mondiale e i bombardamenti degli alleati, molte infrastrutture furono distrutte e, alla fine della guerra, l'economia di Taiwan subì un terribile crollo. Con gli Accordi di Yalta alla fine della guerra, Taiwan passò sotto il dominio cinese. La felicità di aver espulso i giapponesi terminò con l'arrivo del corrotto Generale Chen Yi, inviato dalla Cina come governatore. Nel 1947, le rivolte anticinesi furono brutalmente represse e culminarono con il massacro di ben 30.000 civili (28 febbraio). Fino all'abolizione della legge marziale nel 1987, questo incidente (noto come '2-28') è stato un argomento vietato.

Quando i comunisti assunsero il controllo della Cina nel 1949, il presidente cinese Chiang Kai-shek e il suo partito nazionalista (il Kuomintang) spostarono il governo a Taiwan (Repubblica Cinese), fu l'inizio della saga delle 'due Cine'. La Repubblica Popolare della Cina (Cina continentale), rimase invischiata nella Guerra di Corea, non portò mai a termine l'annunciata invasione della Repubblica della Cina Nazionale (Taiwan). Il governo del Kuomintang dichiarò temporanea la propria presenza a Taiwan (fino alla riconquista del paese) e vietò la costituzione di partiti d'opposizione. Nonostante la sua impopolarità, il Kuomintang diede il via a un efficace programma di ricostruzione che, con la rapida industrializzazione degli anni Sessanta, fece di Taiwan uno dei paesi più ricchi dell'Asia.

Nel 1971 la Repubblica della Cina Nazionale perse il proprio seggio di rappresentanza alle Nazioni Unite e, nel 1979 gli Stati Uniti e molti altri paesi cessarono di riconoscerne il governo. D'altro canto, però, almeno ufficiosamente la maggior parte dei paesi appoggiò il capitalismo di Taiwan. Nel 1986 grazie all'ascesa di nuovi partiti d'opposizione, ebbe inizio una riforma politica che culminò con l'abolizione della pena di morte nel 1987. Con il passaggio alle industrie dell'high tech, l'isola si affrancò dalla produzione di manufatti di bassa qualità che contraddistinguevano il marchio 'Made in Taiwan' e riuscì a superare la crisi economica che serpeggiava nel continente asiatico. Nel 1994, le pressioni di Taiwan per ottenere un seggio di rappresentanza alla Nazioni Unite furono interpretate come una dichiarazione d'indipendenza dalla Cina continentale, che diede il via a esercitazioni missilistiche a 25 km dalla costa taiwanese, ottenendo però scarsi risultati tanto che, nel 1997, Taiwan invitò persino il Dalai Lama per una visita ufficiale di sei giorni. Nel 1999, Taipei fu colpita dal terremoto che ebbe come epicentro la zona centrale dell'isola.

Taipei continua a essere oggetto di tese negoziazioni con la Cina per quanto concerne la riunificazione. Il neoeletto presidente di Taiwan Chen Shui-bian ha di recente proposto un incontro con la Cina per negoziare una riconciliazione, ma il Ministro degli esteri cinese ha dichiarato inutili le trattative fintanto che Taiwan rimarrà una provincia ribelle.

Il Parlamento europeo ha approvato il 5 settembre 2002 una risoluzione che auspica lo smantellamento dei missili cinesi puntati su Taiwan dalla regione costiera sud-orientale.

Frattanto, un segno concreto di riavvicinamento tra i due paesi è avvenuto il 26 gennaio 2003, quando è atterrato all'aeroporto Pudong di Shanghai un Boeing 740-400 della China Airlines decollato da Taiwan. Non accadeva dal 1949. Sono stati effettuati altri quindici viaggi sino al 9 febbraio ma si è trattata per ora di un'iniziativa temporanea. La continuità di questi voli significherebbe lasciarsi alle spalle gli scali a Macao e Honk Kong, obbligatori per chi viaggia da Taiwan alla Cina.