Jacobsen is geboren en getogen in Kopenhagen en studeerde af in architectuur aan de Koninklijke Deense Academie voor Schone Kunsten in Kopenhagen. Nadat hij in 1927 was afgestudeerd, werkte hij eerst voor de stadsarchitect van Kopenhagen. Slechts twee jaar later opende hij zijn eigen studio.
Als architect was Arne Jacobsen een bijzonder sterk besluitvormer. Dit stond aan de basis van veel van zijn beroemde projecten: 'Gesamtkunstwerk', wat betekende dat hij niet alleen het gebouw zelf ontwierp, maar ook het merendeel van de interieurdetails, zoals verlichtingsarmaturen, meubels, deurklinken, stoffen en zelfs bestek. Samen met de stoelen 'The Egg' en 'The Swan' ontwierp Jacobsen oorspronkelijk de AJ-lamp voor het SAS Royal Hotel in Kopenhagen dat in 1960 haar deuren opende.
Gedurende zijn leven nam Arne Jacobsen diverse prestigieuze prijzen in ontvangst voor projecten zoals de Nationale Bank in Kopenhagen (1971), SAS Royal Hotel & Terminal, Kopenhagen (1960) en St. Catherine's College in Oxford, VK (1963). Er wordt beweerd dat zijn angst om te vliegen zijn potentieel in de weg stond om invloed uit te oefenen op de Amerikaanse architectuurwereld.
Hij was ook 11 jaar hoogleraar aan de Koninklijke Deense Academie voor Schone Kunsten en beïnvloedde een hele generatie Deense architecten. Elk van hen ontwikkelde uiteindelijk een eigen architectuurtaal, waarbij velen uitgingen van dezelfde functionele en minimalistische aanpak als Arne Jacobsen.