吴玉章到日本后,就如饥似渴地学习各种新学问、新学说,并参加了一系列爱国学生运动,成为四川留日学生中的积极分子。
1905年,同盟会组织了对清朝官员的暗杀活动。吴玉章对在汉口谋炸两江总督端方进行了周密的谋划,对人员进行了培训,并负责在日本购置器材和筹措经费等。但此次行动却因为端方临时改变行走路线而未能实现。随后,吴玉章等人又计划集中力量去刺杀清政府最高掌权者、摄政王载沣,还有好几次暗杀活动,却都失败了,但暗杀是革命党人投向清王朝专制统治者的一枚枚爆裂弹,像惊雷,震撼着社会,惊醒了国人,激发了一些革命青年杀身成仁的志气,鼓舞人民进行反对封建专制主义的斗争。
吴玉章为发动广州起义,被分配到日本去负责购运枪支弹药,他不怕困难和危险,想尽了各种方法购买,向香港运送了五批军火。有一次吴玉章去购运军火,左右两个腋下各挂了千余发子弹,外穿一件日本和服,足蹬一双约四寸高的高底木屐,手上还打把伞。负担沉重,稍有不慎就会屐齿折断。谁知一走出秘密住所就遇见了两个警察,大家都为他捏了把汗,吴玉章却沉着冷静从容不迫地摆脱了警察,把军火安全运到了目的地。
还有一次,一位同志把120支手枪装在一个长不到2尺的皮箱里,引起了火车站管理人员的怀疑。此事如走漏风声,不仅从日本运送的几百支军火有损失,而且起义的密谋也会暴露。吴玉章知道后想了许多办法,居然把皮箱安全地取了出来,化险为夷。孙中山和一些革命党人对他都非常佩服。