在甲午战争和日俄战争中，日军极少有人被俘，个别当了俘虏的人也要寻找机会自杀。后来日军在中国战场一再发动以“事变”为名的侵略战事，官兵一直以凶悍著称，在个别战斗中败退时也几乎没有人当俘虏。
1937年 7月中国全面抗战开始后，国民党军在华北战场激战三四个月都未抓到日军俘虏。红军改编为八路军上前线时，一一五师师长林彪就表示要抓一些日本战俘到太原街头示众，然而初战就证明活鬼子极难抓到。
八路军首战平型关，伏击日军击毙伤近千人(其中大多数击毙)，却未抓到一个俘虏。八路军有一位营长背起一个半死不活的日本伤兵，准备送往急救站，半路上伤兵清醒过来，竟一口咬掉了营长的耳朵，大家气愤之下只好把这个家伙杀死。林彪在《平型关战斗的经验》中便感叹地说：“日本兵至死不肯缴枪，一来因受日本之武士道的教育、法西斯教育，同时也因他们对中国军民太残暴，恐怕中国人报复。 ”
日本官兵死不缴枪，其实并非不怕死，其原因一是出于恐惧，二是不了解中国军队的政策。由于日军在中国烧杀奸淫极为残暴，他们认为落入中国人手中肯定会受到可怕的报复，还不如拼死一战。
考虑到日军的这种心态，八路军注重在阵前展开了宣传喊话，很快有了效果。平型关大战后一个多月，部队在山西昔阳县包围了一小股日军后，就用日语喊“缴枪不杀，宽待日本俘虏”，有一个日本兵用生硬的中国话回答“明白的”，接着老实地举手出来。此人是日军第 20师团第 79联队辎重兵军曹加膝幸夫，成为八路军捉到的第一个日军俘虏。有了这一经验，后来八路军通过战场喊话，捉到的俘虏越来越多。
国民党军队最早抓到的俘虏，主要是跳伞的日本飞行员。按日军规定，飞行员最好在自己占领区上空跳伞，在敌区跳伞后也要尽快设法逃回，遇抓捕就要用手枪自尽。不过也有一些日本飞行员珍惜生命，跳伞后没有自杀而当了俘虏。
日军不允许自己的官兵被俘，当了俘虏的日本官兵如果没有自杀，若被释放回部队而暴露了被俘经历，也不会被允许再活下去。当年解放区军民了解到日本对俘虏的规定后，抓获日本兵后对坚决要返回者经简短教育后尽快送归，对多数人还是动员其留下。起初被俘日军普遍害怕受报复和虐待，又感到人生无望，大都想自杀。八路军、新四军则根据优待俘虏的一贯传统，对伤者治疗，不打不骂不辱人格，除生活上照顾外，还由懂日语的敌工干部进行耐心说服。被俘日军以本国军队对中国人的残害和自己所受优待相对照，普遍感到过去所受宣传是欺骗，认识到中共军队是仁义之师，产生敬意后便愿意留下。
留下的日本俘虏普遍又有一种心理，即认为“旧的我已经死了”，自己只能作为“新人”再活下去，为优待自己的人服务也会没有多少思想包袱。接着，这些日俘大都被送到反战同盟及所办学校，经过教育懂得了只有打倒日本军阀，自己和祖国才有光明的前途。
国民党军起初对抓住的少数日军战俘只是关押，没有多少思想教育，结果这些人在俘虏营中长期坚持每天向东朝拜天皇，说明军国主义思想还未清除。在第二次世界大战中，最早能有效动员战俘组织起来反对侵略战争的，还是中国共产党领导的八路军、新四军，这是因为过去的红军就有争取和改造俘虏的传统和经验。
1939年 11月 7日，日本战俘杉本一夫等人在八路军总部所在地山西省辽县建立了华北日本士兵觉醒联盟，此后在晋察冀、山东和华中战场上也陆续建立了日本战俘反战组织，日本共产党中央代表野坂参三在延安又直接领导成立了在华日人反战同盟，并集中了 300多名转变了立场的日军战俘建立日本工农学校，进行反战干部的培训。
在抗日战争期间，一些国际友人到敌后解放区帮助中国人民进行反侵略斗争，如白求恩、柯棣华广为世人所知。然而数量最多的国际友人，却来自敌对国日本，除部分日本共产党派来的干部，主要成分还是转变了立场的日本战俘，当年根据地群众称他们是“日本八路”。
在当年八路军收容的日本战俘中，学历最高的是原名佐藤猛夫的山田一郎。他毕业于东京帝国大学医学部，应征入伍担任一个大队的中尉军医。 1939年 8月，他所在的长田大队在“扫荡”山东梁山八路军时中了埋伏几乎全部覆没，本人因头部受伤当了俘虏。这个中尉军医被俘后曾想自杀，却又爱惜生命而犹豫，此时八路军为他治好伤，事实证明了中国人的友善。于是，佐藤猛夫同意留下来工作，不过一段时间内他的思想仍是动摇的，被分配到八路军模范医院当医生后曾有过逃跑的念头，却又感到回去后也只能落得个被逼自杀的结果。
在思想犹豫之时，佐藤猛夫生病发高烧。失去知觉三天三夜。他醒来后发现身边站着一个人，拎着一桶酱菜，原来是晋冀鲁豫军区的刘伯承司令员特地来看他。这个当时还叫佐藤猛夫的日本战俘在感动之余，下决心彻底“新生”，毅然把名字改为山田一郎，因为他说原来的佐藤猛夫已经死了，灵牌都送到靖国神社了。
新生的山田一郎读了关于马克思主义的书籍和毛泽东的《论持久战》，还常参加日人反战同盟会议，思想立场发生了根本转变。他对八路军病员热忱、周到，而且医术精湛。在根据地药物奇缺的情况下，他就地取材研制出治疗肺病的代用药品，倍受军民称赞，曾被誉为“日本白求恩”。1943年山田一郎自愿加入了中国共产党，成为一个日本籍的中共党员。战争结束后，他继续在解放区从事医疗工作，直至 20世纪 50年代才回到日本，后来几十年间又一直努力奔走于中日友好事业。
