Компанията е основана през 1903 г. от 21-годишният Уилям Харли и 20-годишният Артър Дейвидсън. Първата фабрика е представлявала дървен сайвант с надраскан надпис на вратата "Харли Дейвидсън Мотор Къмпани" (официалният сайт на компанията).
През същата година двамата произвеждат първия си мотоциклет. Три години по-късно във фирмата вече работят шест души. Успехът не закъснява и през 1912 г. компанията има вече достатъчно средства, за да започне строителството на шестетажната си сграда в Милуоки. Моторите "Харли Дейдидсън" започват да се продават и в Япония.
През 1920 г. компанията е един от най-крупните производители на мотори в света (галерия от снимки). Монополът на "Харли Дейвидсън" в САЩ се запазва чак до 1953 г. Единственият конкурент по онова време била фимата "Индиан".
През 1956 г. изгряващата звезда Елвис Пресли става рекламно лице на един от моделите на компанията. Славата на "Харли" идва благодарение на киното, в средата на миналия век, когато моторът става един от символите на бунтарското поколение. Пример за това е култовият филм "Easy Rider", който прави страхотна реклама на "Харли Дейвидсън".
През 80-те години компанията преживява трудни времена заради проблеми с качеството и проблеми с конкуренцията на фирми, базирани в други страни. През 90-те обаче фирмата успява да излезе от кризата и значително увеличава числото на продажбите си.
