Circa 12 mila anni fa, l'innalzamento del livello del mare portò alla definitiva scomparsa del lembo di terra che univa l'Elba al continente e a quelle che oggi sono le altre isole dell'Arcipelago Toscano.
Nell'VIII sec a.C. i potenti Greci tentarono di impossessarsi dell'isola che chiamavano "Aethalia" e di cui conoscevano la straordinaria ricchezza mineraria. Purtroppo però non vi riuscirono perché una volta giunti vi trovarono un'altra formidabile civiltà: gli Etruschi.
Furono essi a sviluppare l'estrazione e la lavorazione dei minerali di ferro dell'Elba, con cui fabbricavano e commerciavano bellissimi oggetti oggi conservati in vari musei italiani.
Anche i Romani che dominarono l'isola per oltre sette secoli, continuarono l'attività di sfruttamento delle risorse minerarie dedicandosi soprattutto alla produzione di oggetti di guerra. Questo periodo è documentato da interessanti ritrovamenti subacquei, come ad esempio la nave presente sul basso fondale di Procchio o le anfore ritrovate un po' ovunque nei mari elbani.

Dal VI sec. d.C. l'Elba rimase esposta a domini di vari sovrani d'Oriente e a continui saccheggi, invasioni e incursioni di Pirati, finché la Repubblica Marinara di Pisa la conquistò favorendo il suo rapido sviluppo civile, economico e commerciale. I Pisani riaprirono le miniere di ferro dimenticate da circa cinque secoli e costruirono varie fortezze sulle colline a ridosso del mare, all'interno delle quali si spostarono progressivamente i centri abitati. Ne è un esempio l'odierno paese di Marciana.
Essi inoltre dettero impulso all'attività di escavazione e lavorazione del granito elbano che utilizzarono ad esempio per la creazione delle colonne del Duomo di Pisa.
Le numerose guerre in cui era impegnata la Repubblica di Pisa finirono però per influire negativamente sulle condizioni economiche dell'isola provocando una sempre maggiore emigrazione verso il continente. Gli elbani iniziarono così una serie di proteste e ribellioni contro il Governo pisano che, invece di aiutarli a vivere meglio, imponeva loro ingenti tasse e sfruttava le straordinarie ricchezze minerarie del suolo per sostenere le varie guerre in cui era impegnata la Repubblica di Pisa.
Nel 1348 gli abitanti dell'isola furono colpiti da un'epidemia di peste, anche a causa delle pessime condizioni igienico-sanitarie in cui vivevano. La popolazione si ridusse notevolmente fino ad arrivare a soli 2 mila abitanti. 

Nel XIV sec. l'Elba passò sotto la Signoria di Piombino e in seguito sotto la Signoria fiorentina dei Medici.
Cosimo de' Medici credeva fortemente nelle potenzialità dell'isola e voleva farla diventare il centro del dominio fiorentino sul Tirreno. Egli realizzò ben presto il suo sogno di creare una città-fortezza nei pressi di Ferraia (oggi Portoferraio). Nacque così Cosmopoli costituita da tre capisaldi (Forte Stella, Falcone e Linguella) cinti da poderose mura. Queste straordinarie fortezze sono ancora oggi sostanzialmente intatte nella loro maestosità. 
Ben presto Cosmopoli si ingrandì e iniziò ad ospitare anche edifici civili e amministrativi divenendo meta di artisti, marinai, soldati e ricche famiglie che crearono bellissimi quartieri dando vita al primo assetto della futura Portoferraio.

I secoli XVI e XVII furono caratterizzati da continue lotte per il possesso dell'isola in particolare tra inglesi, francesi e spagnoli. Durante il periodo di dominazione spagnola fu costruita una fortezza a forma di pentagono irregolare che doveva controbilanciare quella creata nel versante settentrionale dell'isola da Cosimo. Gli spagnoli fortificarono quindi Porto Longone (la futura Capoliveri) che, con l' insenatura di Mola, era l'altra sicura e spaziosa rada dell'Elba. 

Nel XIII secolo l'Elba divenne parte del Granducato di Toscana governato da Pietro Leopoldo. Il Granduca attuò varie riforme amministrative e legislative che favorirono una rapida crescita economica. La produzione del ferro, del sale e del vino e i traffici commerciali ebbero un grande incremento.
E' in questo periodo che, sulle coste dellEelba, da piccoli gruppi di magazzini e case di pescatori, cominciarono a prendere vita e ad ampliarsi le "Marine": Marina di Rio, Marina di Campo e Marina di Marciana.
Cosmopoli invece venne chiamata Portoferraio e divenne la sede del comando della flotta del Granducato. 

Dopo una breve occupazione da parte delle truppe inglesi, il Trattato di Amiens sancì l'annessione dell'Elba alla Repubblica Francese. 
Nel 1814 ebbe inzio il periodo che rese l'Elba famosa in tutto il mondo: Napoleone Bonaparte, l'uomo che aveva dominato per anni l'intera Europa, abdicò e gli fu data la possibilità di scegliere un nuovo regno tra le isole di Corfù, Corsica e Elba. L'Imperatore scelse proprio l'Elba e vi soggiornò per circa dieci mesi. 
Decise subito che il simbolo del nuovo regno sarebbe stata una bandiera in campo bianco con una banda diagonale rossa e tre api d'oro. 
Napoleone aveva letto numerosi trattati, mappe geografiche e relazioni che riguardavano l'isola, per cui già prima di vederla conosceva perfettamente la sua storia e i suoi problemi economici, politici e amministrativi. Apportò quindi numerosi cambiamenti occupandosi personalmente di varie questioni: lo sviluppo e l'organizzazione dell'agricoltura e della pesca, il potenziamento delle fortificazioni, la realizzazione di nuove strade per collegare i paesi e l' abbellimento della città di Portoferraio (grazie alla ristrutturazione di varie vie e alla creazione di nuovi edifici, come le sue due ville dei Mulini e di San Martino o il suggestivo Teatro dei Vigilanti). 
Il 24 febbraio del 1815 Napoleone lasciò per sempre l'isola che tornò a far parte del Granducato di Toscana e nel 1860 venne finalmente incorporata al Regno d'Italia.