日軍可沒有這么好的耐心。1月2日上午10時50分（一說9時），日軍中尉兒玉利雄見談判仍無結(jié)果，急不可耐地指揮部下架起長梯強行登城。城上的中國士兵奉有不得先開火的命令，只好用石頭向下砸，這時有日軍士兵向城上投擲手榴彈，守軍將手榴彈擲回，一下將兒玉中尉炸死，并炸傷士兵兩人。日軍架設(shè)在民房之上的機槍、迫擊炮當即開火，城上守軍也放槍還擊，雙方爆發(fā)武力沖突，后世將由此而開始的事件稱為“榆關(guān)事變”或“山海關(guān)事變”。
　　事后，日本方面始終堅持是中國抗日義勇軍襲擊了日軍營地和派出所。時任偽滿山海關(guān)國境警備隊副隊長兼山海關(guān)警察派遣隊隊長的日本人柏葉勇一（1890年生，廣島縣人，后任偽滿撫順市警察局長）回憶道，1933年1月1日，在中午日本人小學(xué)校舉行的新年慶祝會上，山海關(guān)守備隊長落合甚九郎發(fā)言稱：“山海關(guān)因為是國境，所以隨時可能發(fā)生某種事變，甚至現(xiàn)在就會發(fā)生。”會后不久，守備隊就通知附近日僑撤入兵營。柏葉與他的副手一致回憶，當晚的爆炸是山海關(guān)警察派遣隊的分隊長國弘亮二帶領(lǐng)特務(wù)員佐佐木源九郎、長澤長一和阿部陸雄所為，使用的是國弘私留的奉天兵工廠所生產(chǎn)的木柄手榴彈，因為這種手榴彈東北軍也有裝備，可以用來制造事端、推脫責任。