1945年8月日本宣布投降，国民政府立即发表广播讲话，声明中国政府对日方针：作为仁义之师，恪守我国民族传统，不念旧恶、与人为善。中国政府“以德报怨”的政策给战败的日本民众一颗定心丸。当时，不少日本人担心战后的日本将被瓜分成殖民地，即使作为日本国留下来，如果课以庞大的赔款，国民生活也将变得非常艰苦。因此，正在上海办理战败事务的日本大使馆参事官冈崎嘉平太看到报纸上“以德报怨”这句话时，真是感谢不尽。
1
建立虹口集中区
1945年8月21日，国民政府委派知名的“亲日派”、第三方面军司令官汤恩伯负责接收上海。9月30日，中国陆军总司令部颁布《中国境内日本侨民集中营管理办法》，规定“每一日侨集中居住区域设一日侨集中管理所。日侨集中管理所之劳役、杂役均由管理所长分配并指挥日侨担任之；日侨对外通信应受检查，其行动亦受监视，但准许日侨家属聚居一起，并准许日侨内部自行成立一种自治组织，藉使管理臻于便利；日侨集中管理所应对日侨施以民主政治，消除帝国主义之教育。”
10月25日至27日，中美两国在上海举行遣送中国战区日本人返国联合会议。根据遣送计划，中日双方各自建立有关遣送工作机构。上海日侨管理处设在狄思威路（今溧阳路）1177号。处长由国民党第三方面军参谋长王光汉中将兼任，副处长为邹任之少将。
中国政府在各地设立日侨集中营，不是把日侨像犯人那样囚禁在监狱里，而是组织他（她）们在指定的地点集中居住，并给予充分的外出自由时间。设立集中营的主要目的，一方面是为了保证日侨的生命安全，维持其正常生活；另一方面是通过集中居住的管理办法，对他（她）们进行严格的思想教育和改造，使其逐步认清日本发动侵略战争的危害，同军国主义思想决裂。
对于如何在上海建立日本人集中营，有人强硬提出“惩罚论”和“追放论”。惩罚论即把日俘移至崇明岛北部、长江口荒地，日侨迁往崇明岛，在回日本国内的遣送船到达以前，自力更生自给自足；而追放论则是把日俘押送崇明岛或浦东，日侨搬到杨树浦郊外，上海市区不许留下一人。
但是，第三方面军司令官汤恩伯拒绝了上述观点，坚持“吴淞为日军集中营地点，日军海军陆战队集中在浦东，日侨集中在虹口”原则。9月19日，正式确定虹口集中区范围，并明确在上海不称“集中营”，而一律改称“集中区”，以体现中国政府以及民众的友善和宽大政策。
自1945年9月13日起，约10万日侨陆陆续续迁入虹口集中区居住。集中区“所有编组皆依我国保甲条例，户设户长，以理家政，十户为甲，十甲为保，保之上为区。区保甲长之产生，以公推为原则”。
上海日侨管理处规定，集中区里的日侨早上6点至晚间8点以外时间不准出营；不准日侨穿中国服装，以冒充华人或朝鲜人；除年老与疾病外，不准乘坐人力车。对于不遵守中国法律和集中区规则的日侨，上海日侨管理处采取措施，对其逮捕关押。时有41名囚犯，其中吸鸦片者21人，另有越轨行为、盗窃、违反宵禁者、酗酒者、冒充中国宪兵者等数人。当时，上海民众虽然对政府过分宽大政策有所不满，但从大局出发，均能和平对待居住在虹口集中区内的日侨，没有发生敌对性冲突事件。不过也有一些国民党军人和歹徒光天化日去日侨住宅抢劫，引起日侨恐惧。为此，第三方面军严厉处罚各种抢劫行为。
2
日侨生活两重天
在虹口集中区里，日侨失去了以往的骄横霸道以及工作，许多人因此生活陷入困境，无奈靠摆露店“（露天货摊和饮食店）”谋生。北四川路和乍浦路，以前这两条马路上的店铺，十有八九为日商所开，现在被当局封闭，显得冷冷清清。但海宁路吴淞路一带，反而比过去闹猛。马路两旁人行道上露店林立，出现很多做“天妇罗”之类的日式小吃。书摊也不少。昆山路口竖立着两个帐篷，一个卖汤面；一个卖豆沙饼。设摊的除了日本成年男子外，有妇女，甚至还有学校的老师和学生。因为被集中管理，多数日本人先依赖积蓄过日子，用完后便卖家当。最后就是摆露店。大量日货抛售，令虬江路旧货市场的生意骤然兴隆。据说那时在虹口流动着好几千人专做日本人的旧货买卖。
虹口集中区内日侨大量设摊经营引起上海当局注意，起初为照顾日侨生活，并没有严格限制，但随着日侨的露店越开越多，产生了影响市容与市场秩序的社会问题，上海市警察局不得不公布《上海市日侨集中区日侨临时摊贩取缔办法》，规定“拟摆设摊贩者以日侨中生活困难而非设摊不能维持生活为限”。仅允许销售饮食、日用品、漱洗用具，或从事理发。允许设摊的地点也比较冷僻，决不能设在闹市区而有碍交通和观瞻。
一部分无积蓄、无额外收入的日侨度日如年，但仍有一部分富裕户在虹口集中区里照样锦衣玉食，神气活现。如家住长春路公寓房的一个日侨，家中装潢摆设远比一个中国报社记者的阔气；如溧阳路某条弄堂里，一群群日侨孩子，身上漂亮的羊毛衫裤，脚上新皮鞋，在无忧无虑玩耍；如嘉兴路一家大餐馆，里面尽是吃喝说笑的日侨；如胜利影戏院电影开场时，坐满了日侨。上海日侨圈里划分“土著派”和“会社派”，其社会地位与富裕水平大不相同。
尽管如此，上海日侨管理处为保障日侨生活，将绝大部分生活必需品通过日侨民生商会原价配给，经济困难家庭另外特别照顾。所以，贫困的日侨，有了政府补助，加上开露店赚些外快，都能维持生计，并无因生活窘迫而饿死、因病无钱医治而病死的事件发生。
3
教育改造正能量
对日侨施以民主政治、消除帝国主义思想教育，是国民政府日侨遣返工作核心。《中国境内日本侨民集中营管理办法》指示：“各级聘请当地名流学者，组织各种委员会，专门从事宣传工作，以消灭日人之侵略思想及帝国主义观念，进而使其明瞭民主政治及三民主义之真谛。”上海日侨管理处的舆论机关为《改造日报》社，先是在乍浦路455号办公，后搬迁到汤恩路（今哈尔滨路）1号原《大陆新报》社址。社长乃陆久之，总经理为金学成（两人均是中共地下党员）。编辑部人才济济，中方人员皆精通日语且学有专长；日方人员大都为日本进步人士。该报发行量10余万份。除了《改造日报》，还出版日文《改造周刊》、日文《儿童三日刊》、日文《改造评论》、中文《改造论坛》、中文《改造画报》等。这一系列报刊杂志的发行，揭露了日本法西斯军国主义罪行；报道了侨俘遣返回国后的生活情况；指出了怎样为自己幸福未来创造条件；宣传了和平民主进步思想，令精神苦闷思想混乱的日侨们耳目一新，深表欢迎。
上海日侨管理处还通过教育改造活动训话、学生教育座谈会、宗教座谈会、妇女座谈会、放映新闻电影等多种形式对日侨进行感化教育。从1946年1月30日起，日侨管理处租借汉口路军政广播电台，每周三、六下午，对日侨实施广播教育，其中的生活讲座由中国著名学者和日侨主讲。为使日本儿童重获教育机会，并灌输民主政治意识，上海日侨管理处在虹口集中区设置约150所简易学校，每所收容约40名学生，中国语是必修课，中国的国民性、风俗也是学习内容，其他课目有理数、家政、书画、技能等。另外虹口集中区内的文化生活丰富多彩，1945年12月13日，日本艺人组织的协同剧团为筹措日侨共济金，在公平路前练武馆旧址举行首次公演，曲目有独幕喜剧、土风舞、西洋舞、独唱等。两天后，又在虹口日进剧场第二次公演，由前东京宝塚少女剧团演出。
4
严格规定遣日侨
即将遣返日侨之际，为了统一口径，完成这次史无前例的遣送，上海日侨管理处对归国日侨随身携带物品作出具体规定：每人准带1000日元（日军官500日元、士兵200日元）；每人准带行李30公斤，包括盥洗具一套、毡毯（或棉花被褥）一套、棉花被一条、冬季衣服一套、夏季衣服一套、大衣、皮靴三双、短裤三条、衬衫三件、手提包一件、手提袋一件、自来水笔铅笔各一支和手表一只（成人）、其他随身用品（合理规定数量之内并以自行带走为限）。医务人员另可携带40公斤医学图书；不得携带的物品：武器弹药、照相机、望远镜及光学仪器、金条或银条、未镶之宝石、艺术物品、股票、没经批准的珠宝及奢侈品、超过正常所需的烟草和雪茄、超过正常所需的食物、超过必须的衣服、历史书籍和文件报告书、其他类似资料等。
但是，并不是所有的日侨都能遵守中国政府法令，有的因为担心回到日本国内后的生活，还是想方设法藏一些值钱的东西带回去。为此，第三方面军设立视察组和物资组，专门处理物资查缉，并出台《奖励密报敌伪财产条例》，公开受理民众举报。据事后统计，共受理密报2496条，查获物资最低估值176亿元。
1946年12月3日凌晨，第一批遣返日侨2185人排成零乱长队，在几名国民党宪兵带领下，从沪江大学出发，步行至虬江码头。4日上午8点，日侨登上“明优丸”轮。日侨管理处处长王光汉中将、副处长邹任之少将同时亲临现场巡视，以表明第三方面军对遣送一事的高度重视，并当场向日侨散发了《告归国日本侨民书》，再次强调：“这次日本的侵华战争结束以后，在华的日本军民从战败投降之时起虽然不得不在集中区生活，但中国方面根据一贯的传统的立国精神，丝毫没有对诸位加以侮辱和危害。诸位回想中国人民因持续八年遭受日本的侵略战争，沦陷于水深火热中而救亡的凄惨情况，必须进行痛切的反省和彻底的觉悟。”下午1点30分，“明优丸”起航。
1946年1月，美军方面供给上海28艘船只用于遣送日本人。由于运输能力跟不上，2月份上升到59艘，但远远满足不了人数庞大的遣返需要。回国速度的缓慢，引起部分日侨不安。于是3月份的船只增加至123艘，日遣送人数最高纪录日俘16000余人、日侨5000余人。鉴于大部分上海日侨于4月初可遣送完毕，上海日侨管理处于4月1日撤销，改名为上海日本战俘管理处。
在遣送日侨过程中，曾经有一艘日本轮船沉没，即1946年1月22日下午3点，运载4300多名日侨的“江岛丸”在长江口60英里外的花岛山海面突然碰触水雷。造成死亡和失踪者共计78人，受伤111人。“江岛丸”上所有生还日侨由美国轮船“白利华脱号”救起并返回上海码头。上海日侨管理处立刻将受伤者送往日侨管理处医院（江湾陆军医院）医治，其余安排回原住所，并向遇难日侨提供紧急救济。
1946年4月17日，《民国日报》刊登醒目大标题：全沪10万日侨遣送完毕。
