1928年，南京國民黨政府舉行二次北伐，攻打奉系軍閥張作霖，而日軍出于自身利益，蓄意阻止北伐軍北上和英美勢力向北方發展，以保護僑民為借口，一方面繼續扶植張作霖，另一方面進行武力威脅，出兵侵占了濟南。同年5月1日，北伐軍占領濟南。為了麻痹中國軍隊，日軍故意散布和平煙幕；5月2日下午，日軍派人前往國民黨軍隊總司令部謁見蔣介石，謊稱社會秩序甚好，由天津派來的日本兵即日將撤回天津……5月3日清晨，濟南城內各處商店相繼開門，生意興隆，一片太平景象。但是誰也沒有料到，上午9時許，日軍無故射殺一名北伐軍士兵，與此同時還向國民革命軍第四十軍第三師第七團的兩個營發起攻擊。北伐軍奮起還擊，一度壓制了日軍的囂張氣焰。日軍指揮官福田彥助看事不好，急派官員去見蔣介石，并威脅說：“如不停火，中日將全面開戰。”蔣介石只好下令對日軍停止還擊。然而，日軍言而無信，其駐濟南的3000官兵傾巢出動，對中國軍民發動了突然襲擊，這天慘遭日軍殺害的中國人達千人之多，血流成河，尸橫滿街，慘不忍睹，繁華的商埠頃刻化為一片廢墟。5月8日，日軍開始了對濟南全境進攻；5月11日，濟南淪陷。據不完全統計，此次事件中國軍民死傷11000多人，財產損失無數。