1932年3月，经同学陈世卿介绍，舒群参加了第三国际，成为一个中国情报站的组织者，年底被任命为第三国际洮南情报站站长，广泛接触社会各阶层，搜集日军火力分布和军事设施情报。9月，因工作出色，秘密加入中国共产党。他以《哈尔滨五日画报》分销处为掩护，团结塞克、萧红、萧军、罗烽、白朗等一批左翼文学青年，创作一批抗日文学。此时，他自己的创作也渐入佳境，以黑人为笔名，在报刊上发表进步文学作品。哈尔滨洪灾，他和大家一起营救陷入困顿中的萧红，将自己做情报工作的活动经费省下来，本来要给在洪灾后讨饭的母亲，可是，他慷慨解囊全部资助萧红、萧军出版了第一部小说集《跋涉》。他给萧军、萧红讲述磐石游击队的抗日故事，为他们后来创作《八月的乡村》和《生死场》提供了丰富的素材。事实上，年轻的舒群，已经成了东北流亡作家雏形的思想引导者与组织引领者。
1934年年初，哈尔滨陷入更加严重的白色恐怖，日伪军到处抓人，满洲省地下党组织遭受严重的破坏，舒群与组织失去了联系，同时他的身份也暴露了，夜深时，只在家中的院子里丢下一封便函，便匆匆离开哈尔滨，奔赴青岛。刚安顿下来，便去信约来萧军、萧红夫妇。在青岛的半年，两人分别完成了《八月的乡村》《生死场》。秋，青岛地下党组织由于叛徒告密，遭到严重破坏。在国民党蓝衣社的一次大搜捕中，舒群和革命党人倪家兄妹均未能幸免。由于敌人未掌握他的真实身份和在哈尔滨的活动情况，及至年底，他被释放了。在狱中，他写下了中篇小说《没有祖国的孩子》。
