三、身居虎穴，丹心向党
1928年6月，舒玉璋去广州接受党组织的任务时，正值海陆丰农民起义军在共产党领导下，与国民党“围剿”展开大规模游击战争时候，充满血腥恐怖的广州城，到处所见是抓共产党人的标语、通缉令，杀害革命人士的罪恶枪声不时震碎人们的旧梦。置身于这种危险境况下的舒玉璋，随时都有牺牲的可能。他与中共地下党员王梦龄扮成国民党人，供参观黄埔军校旧址、“黄花冈七十二烈士墓”的机会秘密山九了工作，转达了上级布置的任务，从速奔向了各自的战斗岗位。舒玉璋离开广州前夕，在给弟弟舒玉瓉的信中说:“兄为实现孙中山先生的遗训，弘扬黄埔精神，奉命去国民革命军第二集团军冯玉祥部工作……”冯玉祥将军见到舒玉璋时，感慨万分地说：“你们一共十二人赴日本学习军事，唯有你舒玉璋看得起我来我部工作，故破格提升你为中校步兵科长，兼战术教官，你意下如何?”舒玉璋诚恳地回答:“将军既然信任我，玉璋不计禄位高低，誓为这支部队效力，为将军尽忠尽职!”
“那为什么?”冯玉祥开怀一笑，反问一句。
“因为将军开明大义，敢于革命，乃属正义之师。”舒玉璋斩钉截铁地回答。
冯玉祥恭而大笑:“那我还有啥子短处呢?”
“有，听说，将军有点独裁，信奉天主教，而且强迫部下亦信仰。”
冯玉祥默默点头，说了声“好好地干吧!”一年后，舒玉璋被提升为手枪旅上校旅长。舒玉璋初接触这支部队，觉得与其他军阀部队相比，确有差异，不愧是刘伯坚、丘侠富、邓希贤（邓小平）等共产党人协助冯玉祥起死复生的军队，受过爱国的民主革命教育和共产主义思想的影响。但是，这支部队始终受蒋介石所歧视和不公正的待遇。舒玉璋抓住军内这一错综复杂的矛盾心理，不断地给广大官兵灌输反帝反封建的革命思想，宣传鼓动部队官兵向专制独裁的卖国主义分子作斗争。时到1930年4月，新军阀为争权夺利爆发了一场规模巨大的“中原战争”。舒玉璋趁此联合邓宝珊率手枪旅起义，准备开赴豫西，配合起义的农民革命军开展游击战争，不幸意图暴露，被蒋介石分化瓦解，于河南许昌地区击溃。
舒玉璋与邓宝珊爬在火车厢底下，连夜逃出险区，潜伏南京，躲进国民党监察院院长于佑任家避难。后经于佑任先生的掩护，送出虎穴，旋往北京、河北、山西等地做党的地下工作。
1930年8月，舒玉璋回老家沈阳悼念死去的母亲，目睹家庭日趋困难，党组织同意舒玉璋将么弟舒玉琛接到北京，免费入北平宏达中学（后改称为东北中学）读书。舒玉琛利用学生身份为掩护，在兄长的安排下，为革命做了许多通讯工作。1931年“九·一八”事变的第二天早晨，日本侵略军抄了舒玉璋的老家，并通缉捉拿舒玉璋、舒玉琛兄弟俩。翠日凌晨一家人悄悄逃入关内。舒玉由张学良部转入傅作义部学兵大队。此间，一家人不时在北京相聚，弟兄肝胆相照。舒玉在回忆录中写道:“长兄住北平尚贤公寓他主要干学运工作，经常东奔西走，变化莫测。有时利用我这个军为掩护，给中共地下党人送信，递便条。返回来的是一个白纸条或一本杂志、书，长兄收到心，用化学药水一抹，现出两行字，阅后即毁，相当机密。有时候，兄叫我坐人力车，他扮成力夫拉车，掩护他通过埠城门、西顺城街等关卡，去开会、送密码、传文件，直到1931年11月，舒玉璋被党组织派赴江苏淮阳的国民党第二十五路军任战术教官。临行时，长兄对我幺弟嘱咐:“我明日去江苏，照顾弟妹的重担，全落在你的肩上了，今后做任何事情要谨言慎行，不许暴露我的去问。幺弟要努力学习，做一个真正的人。”家兄的言行，至今耳濡目染，使我真正体会到一个产党员公而忘私的崇高品德，自我牺牲的伟大精神!”
第天，舒玉琼弄来半新不旧的国军服装，告别了他战斗过一年的北京城，乘坐南行的火车走向新的战斗岗位。
当时，党中央鉴于梁冠英（河南人，解放后任苏州市政协委员，1968年病逝）部系蒋介石在中原大战中收编的杂牌军，调往苏北，归江苏清乡督办张之江指挥，广大官兵对蒋介石怀有不满情绪，故中央派舒玉璋等共产党人去该部开展兵运工作，发动基树田、董致和等团抗日反蒋，壮大抗日民主力量。一次舒玉璋针对张之江的反共训词，有讲了孙中山先生的“联俄联共，扶助农工“三大政策’”，团结御敌的抗日主张。结果被国民党特务告密，认定舒玉璋是“异党分子”迫张之江下拘捕令。幸亏中共地下党员肃伯严（梁冠英的机要秘书）得到密码后，立即通知舒玉璋离境。舒玉璋连夜逃往上海后，向党组织汇报了自己在苏北的工作情况，后被党中央派往鄂豫皖革命根据地任中国工农红军第四方面军参谋主任。