Le notizie storiche sulla Sumatra pre-islamica sono piuttosto sommarie. Sumatra ha avuto pochi contatti con il resto del mondo fino al regno di Sriwijaya, alla fine del VII secolo. Gli storici ritengono che questo regno avesse sede nei pressi della moderna città di Palembang e che esercitasse un controllo sullo stretto di Malacca, braccio di mare dell'Oceano Indiano che separa la penisola malese dall'isola di Sumatra. Al culmine del suo potere, Sriwijaya controllava un’ampia porzione del Sud-est asiatico, buona parte di Sumatra, la Penisola malese, il sud della Thailandia e la Cambogia. Nel 1025, tuttavia, il regno crollò sotto la conquista di re Ravendra Choladewa, che governava l’India del sud. Per quasi due secoli, Sumatra fu controllata dal principale rivale di Sriwijaya, il regno di Malayu. Dopo la sconfitta inferta a Malayu da una spedizione javanese, nel 1278, il centro del potere si spostò a nord e passò nelle mani di mercanti di fede islamica, che diedero all’isola il nome attuale. Samudra in sanscrito significa ‘oceano’. Fu Marco Polo a corrompere il termine in ‘Sumatra’, nel suo resoconto di viaggio in questa regione.



Dopo l’occupazione portoghese di Malacca, nel 1511, Aceh divenne il centro principale dell’isola e lo rimase fino agli inizi del XVII secolo, quando gli olandesi fecero la loro comparsa. Stanziati a Padang, gli olandesi vi rimasero fino agli anni ’20 del XIX secolo. Furono seguiti dagli inglesi, che occuparono Bencoolen (oggi Bengkulu), mentre i commercianti statunitensi monopolizzavano il commercio di pepe da Aceh e i cinesi davano fondo ai giacimenti di stagno di Bangka e Belitung, a est di Palembang. Il tentativo olandese di riprendere l’egemonia di Sumatra si protrasse fino al 1847, con continui scontri. Dopo tre spedizioni militari, finalmente gli olandesi presero il controllo di Nias, nel 1863. Gli scontri per il controllo di Aceh proseguirono fino al 1903, quando il sultano Tuanku Muhamat Dawot si arrese agli invasori.



Nel corso della seconda guerra mondiale, agli olandesi seguirono i giapponesi, che tennero l’isola fino al 1949, quando l’Indonesia ottenne infine l’indipendenza. Sumatra diede un grande contributo al processo di liberazione del paese, con il futuro vice-presidente Hatta e il primo ministro Syahrir. Nel 1953, i musulmani di Aceh insorsero contro il governo che concedeva tolleranza religiosa e diedero luogo a una repubblica islamica indipendente.

Gli anni 1958-1961 furono contraddistinti da una ripresa degli scontri a Sumatra, dove nel febbraio del 1958 fu dichiarato il Governo Rivoluzionario della Repubblica di Indonesia. Alla metà dello stesso anno, il governo di Jakarta aveva ripreso quasi del tutto il controllo, ma gli scontri continuarono per altri tre anni.

Alla fine degli anni ’70, Aceh tornò ad essere un’area turbolenta, perché il governo locale chiese l’indipendenza dall’Indonesia. Nel 1989 vi fu una violenta insurrezione, ma il governo rispose con successo e nei successivi otto anni fu in vigore la legge marziale. Per tutti gli anni ’90 gli scontri insanguinarono l’isola. Solo nel dicembre 2002 si venne ad un accordo di pace, ma nel paese rimasero vive forti tensioni. A metà del maggio 2003 ad Aceh tornò in vigore la legge marziale. L’elezione, nel settembre 2004, del presidente Susilo Bambang Yudhoyono non sembra aver avviato in modo serio il processo di pace e di dialogo all’interno del paese. L'atteggiamento del nuovo presidente non sembra diverso da quello dei suoi predecessori.

All'inizio del 2005 si verificò un violento terremoto sull'isola di Nias che causò la morte di oltre 1000 persone.