关于日耳曼人的来历以及起源的时间，说法不一，一种说法是中亚西部直至黑海北岸的广大地区，是各路蛮族的发源地，先后有五批广义的雅利安人（如果定义日耳曼人为狭义的雅利安人，而把所有印欧人定义为广义的雅利安人的话），在公元前两三千年的时间里，从中亚西部和黑海北岸，一批又一批来到欧洲大陆。第一批是希腊人和拉丁人，他们最后占领了欧洲南部的两个半岛；第二批是斯基泰人，现在已经绝迹；第三批是凯尔特人，一路进入西欧，后被日耳曼人所融合；来自中亚西部和黑海北岸的第四批蛮族，就是日耳曼人，他们一路与凯尔特人搅杀在一起，在把凯尔特人赶向西欧的同时，他们推进到莱茵河一线；而在他们身后，又来了第五批蛮族斯拉夫人，斯拉夫人最终被日耳曼人阻挡在维斯瓦河一线。
　　
　　 而另一种说法是，日耳曼人早在公元前一千年以前，就生活在北欧。公元前数百年的时候，开始南下驱逐凯尔特人，所以北欧日耳曼人被看作是最纯种的日耳曼人。
　　
　　 两种说法的共同之处在于，都认为公元前一世纪时，大部分日耳曼部落开始定居于莱茵河以东的地区，这一地区被称为日耳曼尼亚。这时的日耳曼人处于原始社会氏族部落阶段。
　　
　　 公元376年，日耳曼人由于受匈人的冲击，开始了长达两百年的民族大迁徙，西罗马帝国在日耳曼蛮族的冲击大潮中灭亡了。日耳曼人在帝国的废墟上建立了一系列日耳曼蛮族国家，其中最强大的是法兰克王国（481年-987年）。这个国家经历了两个朝代，墨洛温朝（481-751）和加洛林朝（751-987）。从六世纪末到十世纪初，历经三个多世纪，封建制度终于在法兰克王国建立起来。
　　
　　 公元800年，加洛林朝法兰克君主查理加冕为罗马人皇帝，称为查理大帝，其国也称为查理曼帝国。843年他死后帝国一分为三，其中，东法兰克王国后来发展成为德国，西法兰克王国后来发展成为法国。
　　
　　 911年，加洛林朝在东法兰克王国绝嗣。919年，萨克森公爵亨利当选为国王，他改国名为德意志王国。德国萨克森朝统治开始，此为德国历史的开始。

 

 

　　 962年，教皇为德意志国王奥托一世加冕为罗马皇帝，德国自此后八百四十年，都称“罗马帝国”，当时称为“德意志民族的罗马帝国”，被认为是古罗马帝国和查理曼帝国的继承者，后来，1155年，教皇在为霍亨斯陶奋朝的红胡子斐特烈加冕时，又加上神圣的光环，称为“神圣的德意志民族的罗马帝国”，简称“神圣罗马帝国”。
　　
　　 帝国的各个朝代，萨克森朝的统治从962-1024年；
　　
　　 此后，萨利安朝，1024-1137；
　　
　　 霍亨斯陶奋朝，1138-1254；
　　
　　 中间还有个短暂的威尔夫朝，1198-1215；
　　
　　 大空位时期，1254-1273
　　
　　 前哈布斯堡朝，1273-1308；
　　
　　 卢森堡朝，1308-1437；
　　
　　 中间还有两次威登巴赫朝的皇帝在位；
　　
　　 后哈布斯堡朝，1438-1806。
　　
　　 中间有一次短暂的威登巴赫朝复辟。
　　
　　 1806年，立国八个多世纪的神圣罗马帝国，被拿破仑帝国灭亡。拿破仑帝国的意图是取代神圣罗马帝国，成为欧洲的正统帝国。
　　
　　 而哈布斯堡家族则只好放弃对德国其他领土的统治，在其直接控制的领土上，建立奥地利帝国。拿破仑帝国灭亡后，列强将德国改造为德意志邦联，奥地利帝国和普鲁士王国同为邦联内最大两邦。
　　
　　 一山不容二虎，1866年，俾斯麦领导的普鲁士王国击败奥地利帝国，将其彻底逐出德意志邦联。奥国内的匈牙利势力崛起，1867年，奥地利帝国改为奥匈帝国。1918年，一战结束，奥匈帝国灭亡。