Kossel urodził się w 1888 roku w Berlinie jako syn laureata Nagrody Nobla w dziedzinie biochemii, Albrechta Kossela. W 1911 roku uzyskał stopień doktora w Heidelbergu pod kierunkiem Philippa Lenarda. W 1913 roku był asystentem Sommerfelda w Monachium, gdzie pracował nad modelem atomowym Bohra-Sommerfelda. W 1916 roku, niezależnie od Lewisa, zaproponował teorię wiązania jonowego opartą na zasadzie oktetu. Kossel jako pierwszy wyjaśnił granice absorpcji widm rentgenowskich w latach 1914–1920. Kossel współtworzył prawo przemieszczenia Sommerfelda-Kossela w 1919 r., łączące widma neutralnego Z i zjonizowanego Z+1. Kossel wyjaśnił strukturę krawędzi absorpcji promieniowania rentgenowskiego wynikającą z elektronów wyrzucanych na wyższe poziomy. Kossel zaproponował kinetyczną teorię wzrostu kryształów w 1928 r. – model Kossela-Stranskiego. W 1934 roku Kossel odkrył sferyczne fale interferencyjne sieci krystalicznej w kryształach miedzi. W 1933 roku Kossel podpisał przysięgę lojalności profesorów wobec Adolfa Hitlera. Kossel był profesorem w Kilonii w latach 1921–1932, w Gdańsku w latach 1932–1945 oraz w Tybindze w latach 1945–1953. W 1944 r. Kossel otrzymał Medal im. Maxa Plancka. Zmarł w 1956 r. w Tybindze w wieku 68 lat.