Otis Harlan urodził się 29 grudnia 1865 roku w Zanesville w stanie Ohio jako syn Williama Vaughana Harlana i Mary E. Harlan. Był bratankiem Johna Marshalla Harlana, sędziego Sądu Najwyższego Stanów Zjednoczonych, co sytuowało jego rodzinę w kręgu znanych i wpływowych postaci życia publicznego. Już w młodości związał się ze sceną, a aktorstwo stało się jego wyuczonym i praktykowanym zawodem. Szczegóły dotyczące jego formalnego wykształcenia nie są szeroko udokumentowane, jednak od lat 80. XIX wieku występował zawodowo w teatrach repertuarowych i wodewilowych.
Przez wiele lat był cenionym aktorem scenicznym, specjalizującym się w rolach komediowych i charakterystycznych. Do filmu trafił w epoce kina niemego, lecz największą popularność przyniosły mu produkcje przełomu lat 20. i 30. Jedną z jego najważniejszych ról była postać Kapitana Andy’ego w pierwszej ekranizacji musicalu „Show Boat” z 1929 roku – częściowo dźwiękowej produkcji, która zajmuje istotne miejsce w historii amerykańskiej kinematografii. Występ ten należy do najważniejszych osiągnięć jego kariery filmowej.
Szczególne miejsce w historii kina zapewnił mu udział w animacji „Królewna Śnieżka i siedmiu krasnoludków” z 1937 roku. Otis Harlan użyczył głosu Wesołkowi (Happy), stając się częścią pierwszego pełnometrażowego filmu animowanego w historii amerykańskiego kina. Jego interpretacja postaci wniosła do filmu wyrazistą energię i komediową lekkość.
Na ekranie często wcielał się w role pogodnych, temperamentnych starszych mężczyzn – właścicieli teatrów, kapitanów, ojców czy postaci komediowych o wyraźnym charakterze. Był aktorem niezwykle pracowitym i przez kilkadziesiąt lat aktywności zawodowej wystąpił w licznych produkcjach teatralnych i filmowych, pozostając rozpoznawalną twarzą epoki przejściowej między tradycją XIX-wiecznej sceny a wczesnym Hollywood dźwiękowym.
W życiu prywatnym był żonaty z Nellie Louise Wantz, występującą jako Nellie Harlan. Mieli córkę, Marion Harlan, która również próbowała swoich sił w aktorstwie i pojawiła się m.in. w filmie „Show Boat” z 1929 roku.
Otis Harlan zmarł 21 stycznia 1940 roku w Martinsville w stanie Indiana w wyniku udaru mózgu. Miał 74 lata. Został pochowany na Crown Hill Cemetery w Indianapolis w stanie Indiana. Pozostaje w historii kina jako aktor łączący tradycję amerykańskiego teatru XIX wieku z wczesnym Hollywood oraz jako głos jednej z najbardziej rozpoznawalnych postaci klasycznej animacji Disneya.