Его детство прошло в негритянском районе Сторивилль, где маленький Луис жил в основном с бабушкой. Отец рано оставил семью, а мать часто работала в других городах. Подростком Армстронг делал всё возможное, чтобы приносить в дом деньги, — торговал газетами, развозил уголь и пел на улицах с группой ребят, иногда при этом посещая школу, где научился грамоте. В 14 лет он попал в городской исправительный дом, освоил там игру на корнете и участвовал в местном духовом оркестре. Джазовым азам Луис затем учился у самого «короля джаза» — трубача Джо Оливера, который взял его под своё крыло в Новом Орлеане, а позже пригласил к себе на работу в Чикаго в 1922 г., когда негритянский диксиленд стал мигрировать на Север. Здесь молодой Армстронг произвёл сенсацию, но прирождённый талант вёл его всё дальше и выше, и в 1924 г. он оказался уже в Нью-Йорке в знаменитом бэнде Флетчера Хэндерсона. Популярность и слава вскоре привели к тому, что Луис превратился в лидера собственных составов (тогда же он начал петь джазовым скэтом) «Hot Five», «Hot Seven» и больших оркестров, но, прежде всего он всегда оставался первоклассным солистом-трубачом.
В 1932 г. он впервые поехал на гастроли в Европу, где его уже знали по пластинкам, и затем побывал там ещё дважды. Как раз во время этого первого визита Луис получил своё знаменитое прозвище «Сэчмо» («Satchelmouth» — рот-кошелёк) от редактора лондонской газеты «Melody Maker».
В эпоху свинга Армстронг в течение 10 лет возглавлял биг-бэнд Луиса Рассела, но главным образом оставался ведущим джазовым солистом и певцом. Он часто снимался в кинофильмах, выступал в театрах и ночных клубах, много записывался, включая дуэты с Бингом Кросби, Эллой Фитцджеральд, Джеком Тигарденом и даже Фрэнком Синатрой.
В 1947 г. Луис вернулся к новоорлеанскому комбо из семи человек (три духовых и четыре в ритме) и в этом составе работал фактически до конца жизни. С ним он записал исторический диск «Армстронг играет Хэнди» (1954), который представлял собой поразительное единство исполняемого материала и исполнителя, а в последующие годы — ещё десятка два аналогичных шедевров. Начиная с 1920-х Армстронг оказал огромное влияние почти на каждого джазового музыканта, не только на трубачей. Он стал символом американского джаза во всём мире и главной джазовой личностью в Европе. «Луис — это главная причина триумфа джаза», — говорил Диззи Гиллеспи. Его популярные хиты вроде «Mack the Knife» (1955) и особенно «Hello, Dolly!» (1963) знал каждый. Со своей группой «Аll Stars» как «полномочный посол» джаза Армстронг объездил десятки стран. В Африке было объявлено всеобщее прекращение военных действий на время его гастролей в 1961 г. «Если бы в правительствах всех стран заседали джазмены, то войны никогда бы не было», — говорил Луис.
