流亡瑞士蘇黎世的黨刊《社會民主黨人》編輯赫希爾博格、施拉姆、伯恩斯坦三人宣揚投降主義路線,鼓吹放棄階級斗爭,放棄革命,建“全面的”黨,走“合作的、改良的”道路。馬克思、恩格斯對“蘇黎世三人團”的右傾路線進行了嚴厲批評,建議將他們開除出黨,維護黨的純潔。1880年黨的秘密會議決定撤銷三人的黨刊編輯職務。
同時,以福爾馬爾為代表的黨內另一部分人主張建立秘密組織發(fā)動暴動,反對合法斗爭。福爾馬爾本人兩度被捕。李卜克內西和倍倍爾在馬克思、恩格斯的指導下克服了左傾路線,采取合法斗爭與秘密斗爭相結合的策略,使黨在這一時期依舊蓬勃發(fā)展,一躍成為德國最大的黨派,并且積極參與第二國際的建立。
1888年,威廉二世登基,迫于工人階級有力的反抗運動,不得不在1890年解除“非常法”,向工人階級妥協。
同年,德國社會主義工人黨改名“德國社會民主黨”。在1890年、1893年和1897年三次帝國議會選舉中,社民黨分別占有19.7%、23.3%和27.2%的議席!1892年,社民黨在埃爾福特召開黨大會,通過了由倍倍爾、伯恩斯坦、考茨基起草的《埃爾福特綱領》。綱領強調了資本主義的必然滅亡、生產資料的社會主義公有制和反資本主義的政治斗爭,認為當下的主要斗爭方式是合法的政治參與、提高勞動者生活水平,而不是暴力革命。這部綱領成為了第二國際各國政黨綱領的藍本。不過,綱領沒有按照恩格斯的意見明確無產階級專政。
到1895年恩格斯病逝的時候,社民黨已長年穩(wěn)居議會第一大黨。在社會主義者的不懈斗爭下,德國的社會保障和工人待遇不斷改善。