A magyar nemzeti opera megteremtõje, a kiváló zeneszerzõ, karmester, zongoramûvész és zenepedagógus apai ágon muzsikus dinasztia leszármazottjaként született, a család tíz gyermeke közül másodikként, egyben az elsõ fiúként. Apja, Erkel József [1787-1855], nagyapja, id. Erkel József [1757-1830] és dédapja, Erkel Vilmos egyaránt képzett, élete rövidebb-hosszabb részét hivatásos muzsikusként töltõ személy volt.
Egyes feljegyzések szerint a család ezen ága holland, más adatok szerint német eredetû, bizonyos azonban, hogy a dédszülõk - a Wenckheim grófok szolgálatában állva - Pozsonyból költöztek Gyulára. Erkel (keresztnevének akkor szokásos írása szerint Ferencz) zenei tanulmányait szülõvárosában, atyja irányításával kezdte, aki iskolai tanítóskodása mellett a magyargyulai plébániatemplom kántora és kórusvezetõje is volt. 10 éves korában már orgonált és misék kíséretére is vállalkozhatott. Ismereteit 1822-tõl Pozsonyban - Klein Henrik [1756-1832] és Turányi Károly [1806-1872] útmutatásával - tökéletesítette. 1828-1833 között Kolozsvárott élt. Kapcsolatba került az 1819-ben megalakult "Muzsikai Egyesület" vezetõivel, majd a város akkoriban elsõ számú zenei tekintélyének számító, késõbb országosan ismert és elismert zeneszerzõvel, Ruzitska Györggyel [1789-1869], akivel késõbb õszinte barátokká váltak. Itt kezdte meg zongoratanári tevékenységét is, s itt lépett elõször koncertezõ mûvészként is közönség elé.
A pesti közönségnek 1834. május 4-én mutatkozott be a Nemzeti Kaszinóban rendezett est egyik hangszeres szólistájaként. 1835 tavaszától a Budai Várszínházban mûködõ magyar színtársulat, a Nemzeti Játékszín karmestere. 1836-1837-ben a pesti Városi (német) Színház másodkarmestere, majd 1838-tól az egy évvel korábban megnyílt Pesti Magyar Színház, a késõbbi Nemzeti Színház zenei vezetõje, késõbb fõzeneigazgatója. E minõségében nemcsak a zenei irányítás a feladata, hanem a társulatszervezés is (énekesek, kóristák, zenekari tagok, karmesterek szerzõdtetése, felügyelete, szereposztások, mûsorterv készítése). E periódushoz fûzõdik mûvészeti vezetõi (egyben alkotói) tevékenységének egy érdekes epizódja is: mivel Saverio Mercadante [1795-1870] mûsortervbe felvett Az eskü (Il giuramento) c. operájának csak zongorakivonatos partitúráját sikerült megszerezni, a hangszerelést neki kellett elvégeznie. A mû Pesten ebben a formában került is bemutatásra.
1844-ben komponálja Kölcsey Ferenc versére a Himnuszt, 1848-ban meghangszereli az Egressy Béni és Szerdahelyi József által megzenésített Nemzeti dalt. Mélyen gyökerezõ magyar érzelmeit magával ragadják a szabadságharc eseményei. Bár tevõlegesen nem vesz részt a harcokban, magatartásával, alkotói tevékenységével nem hagy kétséget meggyõzõdése felõl. Õ áll március 15-én a Nemzeti Színház karmesteri pultján, amikor a közönség mind sürgetõbb tüntetésére Katona József Bánk bánját félbeszakítva beinti a Hunyadi László c. opera híres "Meghalt a cselszövõ" kórusát, majd sorban egymás után a Himnuszt, a Rákóczi-indulót és a Marseillaise-t.
A szabadságharc leverése rövid idõre eltávolította a közszerepléstõl és a komponálástól, csakhamar azonban újra a régi tûzzel tér vissza feladataihoz. 1853-ban megalapítja a (Nemzeti) Filharmóniai Társaságot. 1873-ban a Nemzeti Színház operai tagozata, 1875-ben a Liszt Ferenccel közösen létrehozott Zeneakadémia igazgatójává nevezik ki (elõbbi annak elnöke lett). Bár 1874-ben formálisan lemondott nemzeti színházi posztjáról, élete végéig a társulat "tiszteletbeli fõzeneigazgatója" maradt (tiszteletdíja megtartásával). Közben az 1867-ben Aradon megalakult Országos Daláregyesület országos karnagyává választotta (1881-ben lemond tisztségérõl, de elfogadja a felkínált tiszteletbeli karnagy címet). 1884-tõl a Magyar Királyi Operaház fõzeneigazgatója. 1867-ben a Ferenc József-rend lovagkeresztjével, 1889-ben Vaskorona-renddel tüntették ki. 1888-ban fényes külsõségek közepette, egy ország tiszteletétõl övezve emlékeztek meg 50 éves karmesteri jubileumáról. 1890-ben visszavonult a nyilvános szerepléstõl. 83 éves korában érte a halál.
