394 stemte for mistillit, 207 stemte mot og 116 avsto fra å stemme, ifølge tyske Bild.
Nå er det opp til president Frank-Walter Steinmeier å oppløse nasjonalforsamlingen, noe han har en frist på tre uker til å gjøre, men som bare anses som en formalitet.
Etter det må det holdes nyvalg innen 60 dager. Scholz har uttrykt et ønske om at valget skal avholdes 23. februar, noe Steinmeier har antydet at er en realistisk dato.
Scholz har ledet en stort sett handlingslammet mindretallsregjering med sitt sosialdemokratiske parti SPD og De grønne i Forbundsdagen etter at markedsliberale Fridemokratene (FDP) forlot regjeringen i november.
SPD har igjen pekt på Scholz som sin foretrukne kandidat i neste valg, til tross for dårlige målinger.
Meningsmålingene tyder på at konservative CDU ligger an til å vinne valget. I en måling forrige uke fikk partiet 31 prosent, foran ytre høyre-partiet Alternativ for Tyskland (AfD) på 18 prosent, Scholz' sosialdemokratiske SPD på 17 prosent og De grønne på 13 prosent.
