吴玉章1878年12月30日出生在荣县一个被称为“三荣望族”的书香门第，少年时父母就去世，靠兄嫂抚养成人。他6岁开始读书，13岁到23岁的10年里，先后就读于成都尊经学院，自贡旭川学院，泸州经纬学堂等，后因不满当时腐败的学政，弃学回家。
甲午战争后，吴玉章从新书报中读到了康梁变法维新的言论，深受影响，非常热心新学。每当他二哥从外地寄来一些新书时，他就兴奋不已，到处宣传。他认为中国可以由此得救了。他的身边围绕了一群年轻人，听他宏谈高论，称他为“时务大家”。戊戌变法失败后，吴玉章很苦闷。清末妇女缠小脚的陋俗较普遍，吴玉章劝大嫂别给侄女缠脚：“太痛苦了，以后走路做事也不方便。”大嫂不听 ，硬给女儿缠了脚。吴玉章非常失望，感叹说：“变什么法?维什么新?在自己家里也行不通啊!”他领悟到：在中国改良是行不通的，必须寻找新路。1903年3月，吴玉章离开故乡，去日本留学。
当船过三峡时，吴玉章写下了慷慨沉郁的述怀诗：
不辞艰险出夔门，救国图强一片心。
莫谓东方皆落后，亚洲崛起有黄人。
