La 4º Division Panzer es conformada en Wurzburg el 10 de Octubre de 1938, la brigada de la division es constituida con los 35º y 36º Regimientos Panzer. En Agosto de 1939, las tres primeras divisiones Panzer son identicas en organizacion y tamaño, la 4º Division sin embargo no cuenta con infanteria motorizada, ni unidad antitanque. Para la Campaña en Polonia la unidad es asignada al XVI Panzerkorps dentro del 10º Ejercito del General von Reichenau con la mision de avanzar en direccion a Varsovia, el 8 de Septiembre alcanza los suburbios de Varsovia y entra en la ciudad al dia siguiente, la Wehrmacht aprende con esta operacion una valiosa leccion, los tanques no deben pelear dentro de las ciudades, la division pierde 50 de sus 120 tanques antes de ser reemplazada por las unidades de infanteria. Al final de la operacion en Polonia, la unidad es regresada a Alemania a la ciudad de Niederrhein, donde forma parte del 6º Ejercito en la reserva del Grupo de Ejercitos B. En Mayo de 1940. la unidad esta asignada al XVI Panzerkorps de Hoeppner que esta tomando posiciones en la frontera Belga. Junto con la 3º Division Panzer, forma la punta de lanza del Grupo de Ejercitos B de von Bock que atacara a traves de Holanda y Belgica.