Karl Dane urodził się 12 października 1886 roku w Kopenhadze w Danii jako Rasmus Karl Therkelsen Gottlieb. Pochodził z ubogiej rodziny i zanim został aktorem, pracował m.in. jako robotnik portowy, mechanik oraz artysta cyrkowy. Do Stanów Zjednoczonych przybył w 1916 roku przez Ellis Island, uciekając przed trudnościami związanymi z I wojną światową. Początkowo podejmował dorywcze prace fizyczne, zanim trafił do przemysłu filmowego.
W latach 20. stał się jedną z najbardziej charakterystycznych twarzy Metro-Goldwyn-Mayer. Przełomem była rola Slima w filmie „The Big Parade” (1925) w reżyserii Kinga Vidora. Jego kreacja prostolinijnego żołnierza przyniosła mu ogromną popularność, a scena, w której uczy bohatera granego przez Johna Gilberta żuć tytoń, przeszła do historii kina niemego. W kolejnych latach wystąpił m.in. w „La Bohème” (1926) oraz „The Scarlet Letter” (1926), często kradnąc sceny głównym gwiazdom.
Po sukcesie „The Big Parade” MGM stworzyło oficjalny duet komediowy „Dane & Arthur” z George’em K. Arthurem. Ich wspólne filmy, począwszy od „Rookies” (1927), cieszyły się popularnością i ugruntowały pozycję Dane’a jako jednej z największych komediowych gwiazd studia. W 1928 roku należał do najlepiej opłacanych aktorów MGM.
Nadejście kina dźwiękowego przyniosło jednak gwałtowny upadek. Problemem był nie tylko silny duński akcent, ale także specyficzny, powolny sposób mówienia, który niweczył jego komediowy timing oparty wcześniej na pantomimie i ekspresji fizycznej. W krótkim czasie utracił kontrakt i źródło dochodu.
Po utracie kariery zainwestował resztę oszczędności w budkę z hot-dogami przed bramą studia MGM, w którym jeszcze niedawno był gwiazdą. Przedsięwzięcie zakończyło się niepowodzeniem, a aktor popadł w depresję i samotność.
Karl Dane zmarł 14 kwietnia 1934 roku w Los Angeles w wieku 47 lat w wyniku samobójstwa przez postrzał. W jego pokoju znaleziono album ze skrawkami gazet z czasów jego sławy oraz pożegnalny list o treści: „To All My Friends — Goodbye”. Przez kilka dni nikt nie zgłosił się po jego ciało. Pogrzeb został sfinansowany przez jego dawnego partnera ekranowego, George’a K. Arthura. Dane został pochowany na cmentarzu Forest Lawn Memorial Park w Glendale w Kalifornii.
Pozostaje jedną z najbardziej tragicznych postaci przełomu kina niemego i dźwiękowego – symbolem gwałtownej zmiany epoki, która w ciągu kilku lat potrafiła wynieść aktora na szczyt, a następnie bezlitośnie strącić go w zapomnienie.