雖然德國統一了，但俾斯麥這位鐵血宰相仍需面對眾多國內外問題。 在國內問題方面，首先在1871年至1877年間的「文化鬥爭」中，與羅馬教廷互相攻擊，最後以雙方互相妥協結束。接著制定《反社會主義非常法》，以打壓社會民主黨。但同時祺，他也制定了很多保障工人的措施，雖然很多只屬表面性質，但仍使德國成為世界上第一個擁有勞工立法的國家。

國外問題層面，自德國統一後，俾斯麥便不希望再有對外戰爭，以便讓德國可以休養生息，培養國力。因此他並不像其他歐洲國家一般，大量掠奪殖民地。但他又擔心法國報復，因此他採取結盟政策，孤立法國。 首先在1873年，他與奧匈帝國、俄羅斯締結同盟。而在1877年，俄土戰爭爆發，俄國大敗土耳其，並簽訂了《聖斯提法諾條約》，但這損害了英、法等列強的利益，因此列強便請沒有置身其中的俾斯麥作出調停。結果在1878年，於柏林舉行了柏林會議。

在會議中，他偏袒奧國，但在表面上仍表現中立，但這使俄國成了大輸家。結果德、俄關係惡化，俄國退出三帝同盟。但於1879年，俄國因與奧匈帝國在巴爾幹半島有利益衝突，所以退出；俾斯麥隨即與奧國重訂盟約，稱為「德奧同盟」。然而俾斯麥擔心俄國會轉投法國，因此於1887年與俄簽訂「再保險條約」。 這些問題在俾斯麥執政晚期一直困擾著他，甚至使他感到坐立不安。在1882年，他又與義大利、奧匈帝國簽訂「三國同盟」。