1893年1月2日，远藤三郎出生于日本山形县东置赐郡，6岁进入小松町立普通高等小学读书，14岁时进入仙台陆军幼年学校学习，由此开启了长达近40年的军事生涯。1922年，他从日本陆军大学毕业后，于翌年12月进入参谋本部作战课任职，同时兼任海军军令部参谋。1926年到1929年的3年里，他被委派到法国留学，先后在梅斯防空学校和法国陆军大学学习。1929年底，他从法国回到日本，继续在参谋本部作战课任职。
1931年“九一八”事变爆发。1932年1月28日晚，日本海军陆战队又对驻守上海的十九路军发起攻击，“一二八”事变爆发。战事期间远藤三郎接到指令负责拟定了“上海七了口(这个地名在中国普遍称“七丫口”，可能是远藤三郎本人笔误——作者注)登陆作战计划”。1932年8月，他离开参谋本部作战课转任关东军作战主任参谋。1933年3月初，日军进攻热河与长城沿线，中国军队所组织的长城抗战以失败告终，被迫与日本签订《塘沽停战协定》，远藤三郎亲历了该协定的签字过程。1934年7月，他被调离驻扎东北地区的关东军，回国担任日本陆军大学军事教官，在日本向中国发起全面进攻的前一年即1936年7月，他又转任野战重炮兵第5联队长。
上阵突袭蒋介石黄山官邸，坚持“重庆轰炸无用论”
1941年8月30日，重庆迎来了炎夏里普通的一天。而这天，因为远藤三郎的一次突击轰炸，二战的历史差点改写。
这天下午，蒋介石正在黄山官邸云岫楼召开军事会议，来自各个战区的将领和高级参谋都汇聚于此。时任第3飞行团长的远藤三郎已在早些时候获得这一重要情报，他还通过从重庆撤回的意大利领事处了解到云岫楼的具体位置，甚至连该栋别墅的屋顶瓦的颜色都打听得一清二楚，“为了将此别墅炸毁，我们是斟酌着蒋介石本人在场的时候发起了进攻”。
远藤三郎决定由飞行第60战队执行突袭任务，他亲自搭乘别府中队长的飞机于上午11点从汉口出发。下午3点，云岫楼里的军事会议正在紧张进行着，27架日军轰炸机突然出现在重庆上空，向云岫楼发起猛烈攻击，密密麻麻的炸弹顷刻间倾泻而下，在黄山官邸四周炸开。其中1枚炸弹恰巧落在了云岫楼西面的防空洞入口附近，守卫在这里的2名卫兵当场被炸死，另有4名卫兵负伤。警报声尖锐地响起，云岫楼中与会的将领和参谋慌忙躲进了防空洞。幸运的是，云岫楼附近没有被炸弹二次击中。
蒋介石亲身体验的这次大轰炸给他带来了极大触动，在随后的一次全国广播中，他动情地说：“……在房子里感到震动才知道敌机来轰炸，到了夜里下起雨来，实在难以入睡。经历此次轰炸更加使我体会到重庆全市同胞所经受的肉体和精神的双重苦痛，这是任何语言都难以形容的，而国民遭受这种苦难并不是一次，而是已持续4年之久了。”这次经历也让远藤三郎终生难忘，他在战后的回忆录里有这样一段描述：“虽然没有遭遇到敌人战斗机的迎击，但是其高射炮的射击不仅激烈而且准确，有些时刻我们的飞机差点儿被炮弹击中，由于那些炮弹在距离我们非常近的地方爆炸，爆炸所形成的冲击波使得我的臀部屡次从座位上被抬起。连超低空精密轰炸都很难达成目标，在超高空进行平稳的一般性轰炸就更没有理由命中目标了。”
对蒋介石黄山官邸突袭无果后，远藤三郎对自己思考已久的一个想法变得愈加自信了，它就是著名的“重庆轰炸无用论”。
“重庆轰炸无用论”在远藤三郎头脑中酝酿已久，“重庆轰炸无用的看法是我在执行轰炸任务之前就已经理解到的，为了赋予这一观点权威性，我亲自乘上重型轰炸机与飞行员一同连续数次去轰炸重庆。到达重庆上空向下俯视，果然看到被江水隔开的重庆半岛上，大街小巷已经被破坏得乱七八糟了，但是两岸地区尤其是右岸地区，在广阔的范围之内已经有了很好的发展势头，究竟轰炸哪里能够给予致命伤害也完全不得而知”。在对黄山官邸突袭无果后，9月3日，远藤三郎向上级提交了一份意见书——《有关内地进攻作战的意见》。
在意见书中他这样写道：“最近一段时间敌人空军的动向表现为——遭到我军攻击时就选择躲避，并且采取迷彩、遮蔽、掩护以至欺骗等手段。尤其是我军为了进行攻击所需要的行动距离很长远，而在此区间内敌人的谍报监视网络又很严密，因此，想要通过偷袭来取得成果几乎是不可能的，通过一般性的进攻性作战终究是无法达成歼灭敌人航空力量之目的，这是极为明显的。”他不仅开门见山地提出自己的观点，还言辞激烈地对日方记者夸大战果和不实报道给予批评：“一直以来所报道的轰炸效果显得过于夸大了，有人作出判断说我军已经把重庆炸成了如同废墟一般，这就大错特错了，依据卑职实际所看到的情况，我觉得中国方面已经索性使重庆由半岛区域向其周边发展了。”
此外，他还更为深刻地道出了“重庆轰炸无用论”的深层次原因：“支那(“支那”一词本是近代日本侵略者对中国的蔑称，此处为了不破坏史料本身的原始性，故不做人为转换——作者注)民族自古以来历经种种改天换地、兵燹之祸，以及其它之人为灾害，几千年来所受虐待与欺凌甚多，他们对一切灾害都已习惯并且熟识，按照他们的风俗与习惯早已看破了这些灾难并谓之‘天命’。因此，由轰炸所造成的那种打击，最初有什么样的影响姑且不谈，就现在来说，由于经过了数年时间的洗礼，重庆人民似乎已经有了免疫力，对轰炸没有太大感觉了。因此，仅仅通过轰炸就能使其屈服的这种想法是绝对不可能实现的。”
对于以重庆为中心的大后方军事设施特点以及航空部队自身轰炸成本，他也进行了充分的说明：“尤其是像四川省内的那些军事设施，大多规模比较小且分散在各地，不管是炸毁了哪一个都不足以置蒋介石政权于死地。因此，如若今后继续实施此类进攻的话，考虑到目前的帝国航空部队的战斗力，特别是燃料方面的问题，真是很让人寒心。以上这些就是切盼长官您重新考虑轰炸重庆的理由。”
这份言辞恳切的意见书在相当程度上影响了上层的决策，9月7日，日本驻中国派遣军接到命令，中止了对以重庆为中心的大后方地区的轰炸。
深刻反省侵华战争，对田中角荣表达不满
1945年8月15日拂晓，曾指挥了两次长沙会战的日本陆军大将阿南惟畿切腹自杀，几个小时之后的正午时分，“玉音放送”(天皇广播)开始发布已于前一天提前录好的日本裕仁天皇亲自宣读投降诏书的声音，宣布接受《波茨坦公告》，停止战争行为。
听完天皇广播的远藤三郎百感交集，各种思绪在他的脑海中翻腾涌动，只是这些思绪当中全无懊恼和愤懑，有的只是忏悔和反省：“当我拜受完停战的诏书，冷静地离开的时候，在我的头脑当中浮现出来的是——‘战争是最大的罪恶’‘军队是危险的存在’‘真正的武力是无形的而只存乎于心中，如果具备威武不屈、富贵不淫的心志，军队就没有存在的必要’，还有‘以德胜人者则强、以力胜人者则亡’这一古训，‘真正的胜利不是用暴力把对手打垮、而是以仁德将其化敌为友，正者无敌’。这些认知是我在经历长达近40年的军旅生活之后得出的结论。”
在远藤三郎的回忆录《日中十五年战争与我》的序文里，他开门见山地写到：“那场战争客观的来讲，是确凿无疑的侵略战争，其结果也正如我们所知道的那样，惨痛败北。因此，我在当时(战时)的一切的所作所为当然也就徒劳无益了。”在书的最后还有写给年轻人的寄语：“我相信日本与中国之间这场持续了15年(日本侵华战争从“九一八”事变算起共计14年，日本学界很多学者算作15年，是周年与非周年的算法差异——作者注)的战争，客观的说，就是一场日本对中国发动的侵略战争，无论任何人都不能否定……即使在今天仍然有一部分人肯定这场战争，他们自我陶醉似地认为这场战争进一步解放了世界范围内的殖民地……”
不仅如此，他还对田中角荣表达了不满：“对于日本在这场侵略战争中对中国犯下的罪行，田中角荣首相的认识是粗浅的。”并对田中角荣访华时在欢迎宴会上的致辞表示质疑，认为田中角荣当时所说的“日本给贵国添了麻烦，我们对此表示深刻反省”这句话没有充分表达出“罪孽的深重和道歉的诚意”，而中日两国最终签署的共同声明里所使用的措辞——“战争给中国国民造成了严重的损害，对此，我们深切的认识到这一责任并表示深刻的反省”，也只能说差强人意。
献身护宪运动，反对军备国防
在日本宣布投降的第8天，即1945年8月23日，远藤三郎亲自撰写了一篇文章并在日本国内各大著名报纸上同时发表。文章鲜明地指出，“日本已经接受了《波茨坦公告》，所以就没有军备了，但这绝不是值得悲痛的事情，相反，倒不如说这是日本的黎明，为了日本的将来，更为了世界的和平，这是应该高兴的事情”。此番言论一出，立即受到一部分军人和右翼分子激烈地逼问指责。但当时战争刚刚结束，军人集团与右翼势力正处于最低谷，盟军占领之下的日本终于还是制定了一部和平宪法即《日本国宪法》，并于1946年11月正式公布。
然而，朝鲜半岛在1950年爆发战乱，日本政府无视并歪曲和平宪法，开始重整军备，再次走上“军备国防”的道路。这促使远藤三郎积极投入到护宪运动中，他坚信“军备式国防是错误的，军备应当完全废除……日本在世界上争做率先完全废除军备的领头者才是日本的黎明”。
远藤三郎在护宪运动中的不遗余力与兢兢业业得到了日本国内众多和平主义人士的赞赏，日本前首相片山哲在给《日中十五年战争与我》一书作序时说：“……远藤三郎君所致力的和平运动是基于持续40年之久的军人生活和实战体验，附有作为军事专家的科学的判断，贯穿了反对军备国防之理论，……远藤三郎君的这本书的论述会将彼等的糊涂言论打破到体无完肤的地步。”这几句话充分显示出远藤三郎在护宪运动中所作出的巨大贡献。
开启中日友好运动，与毛泽东互赠礼物
远藤三郎深知，能否废止“军备国防”并维护和平宪法不仅取决于日本自身，还大大受制于国际政治环境。他开始积极地寻求机会与新中国政要接触和沟通。
1955年8月，作为中国代表之一的刘宁一赴日本广岛参加世界和平大会，寄住在东京品川区的王子酒店，远藤三郎与护宪联盟的风见章等几个人于会议结束后一同去拜访他。交谈中，远藤三郎十分坦诚地对刘宁一说：“尽管台湾问题是贵国的国内问题，但是如果发展成了武力冲突的话，蒋介石的背后有美国，贵国又与苏联交好，这两个国家都是有核武器的，冲突会逐步升级到何种程度就难以预料了。因此，想恳请你们双方务必停止争斗啊。”这些话出自一个侵华日军原高级将领之口，着实令刘宁一感到意外，遂当即回应远藤三郎说：“像今天这样有实质内容的话，我还是第一次听到，我回国以后就向我的上级报告，希望先生能来中国直接与我们交谈。”几个月之后，远藤三郎收到了来自中国外交学会会长张奚若的邀请。1955年秋，远藤三郎与日本前首相片山哲先生一同来到中国访问。
这次访问给远藤三郎留下了非常深刻的印象。来中国之前，有一个问题一直困扰着他：“中国对日本有没有复仇或是侵略的企图？”当他实地考察了新中国国民教育以及军队教育的情况后，这个疑问彻底解开了，“一国国民从孩童时代就彻底地接受‘国际友好’‘发动侵略战争的军队必败’等内容的教育，像这样的国家会去侵略别的国家吗？”
远藤三郎还受到了毛泽东、周恩来以及其他政要的亲切接见，毛主席在会谈中对远藤三郎说了这样一句话：“一直以来，从日本来的客人大多数是左翼人士，我们也想见一见右翼人士。尤其是像远藤三郎君这样的军人，我们也是想见一见的。”远藤三郎回忆，当他离开北京回国的时候，“廖承志先生在飞机场向我转达了周总理的口信——希望我尽快寻求机会组成一个军人代表团来中国访问。中国政府方面存有这样的一个期望”。
回国后，远藤三郎积极组建“原军人代表团”，并于1956年和1957年两次率“原军人代表团”访问中国。
值得一提的是，在1956年访问中国期间，远藤三郎特意准备了一把家传的日本宝刀赠与毛主席，毛主席则以齐白石先生的一幅名画作为答礼，还附上一封亲笔书写的感谢信，信中写道：“承远藤三郎先生惠赠珍物，无以为答，兹以齐白石画竹一帧为赠。”
1960年初，日本国内爆发了大规模的反战群众运动——安保斗争，远藤三郎于此时再度接到来自中国方面的邀请。随后，他以个人名义带领友好人士德地末夫来到中国访问，这是他在战后第四次访问中国。访问的过程中，远藤三郎与德地末夫商量把那些志同道合的旧军人聚集起来，组织成立一个“中日友好原军人会”，两人回国后立即着手实施且订立了创立宣言：亲身体验过战争之罪恶的我们这些原军人，发自内心的认识到人类的尊严，因而我们否定战争。
我们立足于对过去的反省，遵守已经写明“放弃战争”“不保持作战能力”等内容的日本国宪法，为了真正地能为人类的幸福与世界的和平作出贡献，需遵照成立本会的宗旨书以及会则行事，同志之间应相互协助阻止一切战争准备，努力消除战争原因，主动推动与近邻各国尤其是中国的友好关系。
周恩来评价：“远藤先生比我们还要‘左’啊！”
1972年6月6日，远藤三郎一行自羽田机场出发，先在香港停留两晚，然后在广州停留一晚，最后于6月9日傍晚时分到达北京。他在日记中详细的记述道：
从深圳到广州的途中，我透过车窗眺望两旁农村的状况，田地整理得井然有序，真的是今非昔比啊。另外，我还在到达广州后的8号下午参观了交易会场，产业方面的进步也让我眼前一亮。时隔12年再次来到中国，真的是令我百感交集。6月9日傍晚到达北京机场，我受到了王国权先生等诸位的热情迎接。已经许久没见的孙平化先生、肖向前先生、金苏城先生、金黎先生等和以往相比一点儿都没变，看上去还是那么年轻有精神。他们都热情地欢迎我的到来，令我完全感觉不到岁月之隔带来的生疏，那种亲切感反而令我感觉就像是回到故乡，受到亲兄弟迎接一般。
远藤三郎于6月14日下午4点在人民大会堂见到了周恩来总理，两人畅谈了三四个小时，其间聊的最多的仍然是日本的军备与国防问题。交谈中周总理说道：“日本作为一个独立国家，持有一定的自卫力量也是理所当然的，……但是现如今大搞军国主义化，不能不引起中国的关注啊。”远藤三郎立刻认真起来，他借用日本前首相吉田茂的话回应：“自古以来，总是有人借着自卫的名义发动侵略战争，正因如此，和平宪法中即使考虑到国家的自卫权也禁止保持军队。”周总理听后大笑：“远藤三郎先生现在变得比我们还要‘左’啊。”
6月16日上午，远藤三郎来到陈毅、李德全、蔡廷锴以及谢光南的墓前献花，随后与陈毅将军的长子陈昊苏会面并交谈，之后又到西安、延安、南京、上海、长沙、韶山等地参观考察，最后于7月7日上午8时40分在香港乘飞机回国。这次访问前后历时一个月，远藤三郎见到了他的中国“老朋友”，也参观了中国各地城市，留下了一段珍贵和难忘的记忆。
对于中日两国关系，远藤三郎的认识非常客观，他常对他的朋友说：“切莫害怕改正错误，这是古训。做了坏事就坦率的道歉，在此基础上去商讨未来，我认为应该这样做才对。”
对于先后5次访问中国，中国政府与中国人民的热情与友好常令他感激不已：“(他们)也不问我最初去中国访问的动机是什么，对于像我这样一个参加了自1931年以来全部的日本侵华战争、罪孽深重的旧军人，中国政府和人民还是把我当成一个亲切的朋友来款待。”
远藤三郎认为，中日关系终究会向前发展，虽然前进的道路十分曲折，“我觉得中日两国之间的人际的交流、文化的交流、经济贸易的往来都会越发的兴盛起来，但是我认为心灵层面的交流是最重要的”。
1984年10月11日，远藤三郎去世，时年91岁。
