1912年，香翰屏离乡到广州入法政学校攻读，加入国民党。1916年在广东海防司令部任文职，并结识后来的海军名将陈策，从此开始其30年的军事生涯。

1919年，香翰屏在讨龙（龙济光）之际，其认为在海军服役难以施展自己才能，因而转入广东护国军第五军军官讲武堂学习陆军，以优异成绩毕业后到阳江护国军任下级军官。不久，所在部队编入以邓铿为师长的建国粤军第一师，在该师陈铭枢的第四团先后任连长、副营长、中校营长等职。该团各级军官“均属青年，颇具革命思想，对军风军纪及操练动作，极为认真，”成为粤军第一师主力团，此团也是日后的淞沪抗战民族英雄部队第十九路军前身。香在该团任职时，爱护士兵，纪律严明，得到同事士卒的爱戴，为新上任的第四团团长陈济棠所赏识，香翰屏和陈济棠的密切关系由此开始。

1925年7月1日，粤军第一师扩编为国民革命军第四军，参加东征北伐，战功赫赫，号称铁军。自邓仲元师长以后，粤军第一师不断分裂，跟随陈炯明的在东征时被革命军打垮；跟随孙中山的，仍然用粤军第一师的番号，也就是铁四军的前身。四军基本分为陈铭枢、陈济棠、张发奎三大系统，张黄事变以后，张发奎部退出广东，中原大战后，陈铭枢部北上参战，省内只剩下陈济棠粤军。广东地盘实际上由陈济棠掌握了，开始了南天王时代。粤军第一师第二旅和师属补充团、工兵营扩编为国民革命军第四军第十一师。师长陈济棠、副师长徐景唐（后邓世增）、参谋长李扬敬，第三十一团团长余汉谋、第三十二团长邓世增（后香翰屏）、第三十三团团长黄镇球、炮兵营营长吴涛。
1926年7月9日第四军开始北伐时，陈济棠率部进驻广东钦廉灵防四属，师部在北海，没有参加北伐。同年秋冬，陈令香翰屏率部参加讨伐陈炯明叛军的第二次东征和南征战役。陈炯明余部邓本殷、申葆潘被香打败后，邓、申在败逃海南岛前，令其部属张瑞贵率残部潜藏于十万大山妄图养精蓄锐、卷土重来。香和邓世增各派出一员干将，成功劝说张瑞贵率部归顺。剿清陈炯明余部后的第二年（1927年），蒋介石叛变革命。同年秋，香翰屏奉命参加了阻击贺龙、叶挺率领的南昌起义失败后南下部队的汤坑之役。当时，两广当局为了配合蒋介石集团，调整广东军事，将陈济棠十一师移防广州。11月，正当香与贺、叶的起义军激战后，汪精卫以“护党救国”名义，策动张发奎、黄琪翔在广州发动兵变（即“张黄事变”），解除李济琛的军政大权，图谋以武力统一两广，以与南京国民政府抗衡。

“张黄事变”后，汪精卫、张发奎等因中共的“广州起义”而被迫退出广东。陈济棠看准时机，得升第四军军长，香翰屏升第十二师师长。第十二师师部驻江门时，开平马冈镇悍匪猖獗，开平海外华侨吴鼎新等10人从香港赶到江门，请求香派兵剿匪，香一口应允，马上派出李崇如营长率五个连兵力前往开平剿匪，终平定匪患，还开平一方安宁。
次年春，国民政府召开全国编谴会议，第四军缩编为广东编谴区第一师，香翰屏任该师第二旅旅长。是年2月，李济琛被蒋介石扣留于南京汤山，香等8个旅长主张“以武力救任公”（李济琛字任潮），拥徐景唐代第八路军总指挥出师讨蒋，后被陈济棠分化，陈继而取代李济琛掌握广东军权，与省主席陈铭枢分治广东。6月，陈济棠将粤军扩编为余汉谋、香翰屏、李扬敬、蒋光鼐、蔡廷锴5个师和2个独立旅，香任第六十二师师长。此后，香参与了陈济棠为巩固广东地盘而进行的历次重大战役。

1929年底至1930年初，香翰屏参加第二次粤桂战争。李宗仁、白崇禧的桂军第七军、第十五军联合粤系另一支反蒋部队张发奎部再次犯粤。蒋介石派第六路军朱绍良率3个师来粤支援陈济棠的第八路军，陈以合力在广东花县赤白坭、新街一带进行堵击，激战数日，终将张、桂军击退。接着，陈济棠命蒋光鼐为前敌指挥官，香的第六十二师与六十、六十一师协同作战，相持时间较长，粤军几乎无法支撑，后由香组织张瑞贵敢死队开赴第一线，才将战局转危为安，追击进至广西梧州。2月，张发奎率部再次犯粤，兵至高州、钦廉地区，被蒋光鼐击败。5月，陈济棠命蒋光鼐率六十、六十一、六十三师北上在衡阳第三次将张、桂军击败。当时正值中原大战，蒋介石不敌冯、阎联军，忙调蒋光的六十、六十一师增援津浦线，终把晋军打败，因此蒋介石特下令将两师改编为第十九路军。而同时，陈济棠却令香翰屏的六十二师移防东江“剿共”。

1931年2月28日，蒋介石在南京汤山囚禁胡汉民。陈济棠乘机壮大势力，驱走省主席陈铭枢，派香翰屏赴桂与李宗仁、白崇禧讲和，重修旧好，愿粤军回广东，联合反蒋。李、白对此表示欢迎。香翰屏还被派往赣州说服蒋光鼐、蔡廷锴勿为陈铭枢、蒋介石所利用，得到他们的同情和答允。4月30日，古应芬、邓泽如、肖佛成、林森联名通电弹劾蒋介石。5月3日，陈济棠领衔香翰屏、余汉谋等广东10名高级将领通电拥护。26日，陈济棠、李宗仁、白崇禧、张发奎、香翰屏、余汉谋等43名两广将领联衔通电，限蒋介石于48小时之内即行引退。于是，与蒋有矛盾的汪精卫的改组派、孙科的太子派、李宗仁的新桂系、古应芬和肖佛成的元老派、邹鲁的西山会议派等国民党各派政客及粤桂军阀麇集广州。5月15日，蒋介石密电香翰屏，谓陈济棠称兵反对中央，请香翰屏继陈济棠任第八路军总指挥之职。香本可顺蒋之意、反陈继总，但其却复“驳斥蒋中正之要电”公开发表于《二月军刊》上斥蒋“为国人共弃久矣”、“用心坚工，而计已拙矣”、“吾国民之道德，将被一人断送以尽矣……”。陈济棠随即任命香翰屏为惠州河源警备司令，实行军事戒备，以防陈铭枢的十九路军回粤。27日，反蒋派召开国民党中央执监委员会非常会议，发表反蒋宣言，另组国民政府，与南京的蒋政权相对抗，出现宁粤分裂的局面（后由陈铭枢出面鼎力调停）。香翰屏任广州国民政府军事委员会委员。陈济棠将第八路军扩编为第一集团军后，香翰屏任第一集团军第二军军长。10月10日，发生广州市“永汉路惨案”。14日，香接任陈庆云广州市公安局局长并兼戒严司令，香在广州西瓜园召开新闻界招待会，声言：“如果人心不安定，对于言论界之报纸，亦须检查”。12月，香在粤方国民党四全大会第十二次会议上当选为中央监察委员。是年，并兼任西南政务委员会委员。
1932年春，西南政务委员会作出决议，在广东省设置五个区的绥靖委员。香翰屏任广东中区绥靖委员，所属第二军在广州府属各县及恩平、开平一带布防，进行“防共”、“剿共”活动。3月13日，陈济棠、香翰屏、李宗仁、黄绍雄、徐景唐等举行重要会议，讨论“抗日剿共”办法。会后的8月，十九路军军长蔡廷锴约香翰屏（与香为好友）一起到东莞市南棚向蒋光鼐促驾成功。蔡廷锴在其自传认为，“此次再得他蒋光鼐回军，乃香君（翰屏）之力”，从此福建军政主持与策划有人，这是日后“闽变”主要关键之一。香翰屏支持“福建事变”，其实也在情理之中，陈铭枢（合浦人）是他的表哥、老乡，蔡廷锴和蒋光鼐则是他出生入死的兄弟，不帮也亏、帮了也亏，还不如顺水推舟，给个人情。

1933年3月，陈济棠召集香翰屏、余汉谋等开会，决定赣南二期“剿共”计划。6月，陈济棠在广州召开“剿共”南路军师长会议，香翰屏被任命为第二路纵队司令。4、5月间，蒋介石对中共中央苏区进行第五次“围剿”。9月，蒋介石调香翰屏部在闽赣南部“剿共”。
香翰屏一生中的最高顶峰即是在1931年、1932年、1933年这段时期，在粤系的地位“如日中天”，可以说出当时除了陈济棠外，加上陈对余汉谋的不信任，最大的实权人物即是香翰屏，有新粤系“二号人物”之称。陈的总兵力约二十万，先进的德国式武器装备，海陆空三军几乎可以和中央军匹敌，而香直属的兵力就达六七万。

其实，香翰屏也太书生气，自恃与陈济棠同属钦廉籍的关系很深，敢于进言议事，陈亦倚之为左右手。因此，香曾分别对陈的胞兄、两广盐运使陈维周和民政厅厅长林翼中及第三军军长李扬敬贪污、迷信等劣迹提出指责，劝陈不要对他们宠信过甚、致招物议。但陈反而偏信陈维周等的谗言，说香以儒将自居，爱与无聊文人往来，不管军务，且与陈铭枢、李济琛暗中勾结，图谋不轨。陈济棠以惩治贪官污吏为名，将香所介绍的阳山县长陈某逮捕枪决；不久，又将香的亲信第四师师长张枚新调离，香翰屏于1934年春经与余汉谋商谈后，再度向陈提出整顿官场、修明政治、逐步禁烟禁赌以除民害的建议，并要陈立即罢免陈维周、林翼中、李扬敬的职务以示决心，结果触犯陈怒。香见屡劝无效，便以“识浅量狭”为辞，提出辞去本兼各职。11月8日，西南政务委员会在陈济棠的授意下，准予香翰屏辞去经二军军长（陈济棠代）职务，仍保留广东中区绥靖委员一职。就香翰屏辞职这事上，陈济棠早就知道他暗中支持陈铭枢和李济琛“福建事变”，这也是后来陈铭枢在其《陈铭枢回忆录》里讲到陈济棠时说“尤其是我同李济琛都曾是他的老上司，他的部属中如香翰屏等许多人，同李和我都还存在有深浅不同的友谊，生怕我们对他的部下发生影响。”陈济棠的担心并不是多余的，已经下野的香翰屏实际成了福建事变和“二陈”矛盾的牺牲者。香于失望之余，回乡“休养”近达两年之久，并开始扩建他的乡居。

就在香翰屏“休养”阶段，1936年5月12日，西南抗日反蒋“导师”胡汉民突发脑溢血于广州逝世。两广军政首脑陈济棠和李宗仁、白崇禧获悉蒋介石南京国民政府准备“彻底解决西南”，以此为契机，联合要求南京政府对日宣战，并打出“北上抗日”旗帜，将粤桂军队命名为“抗日救国军”，出兵湖南。蒋介石运用离间计和收买伎俩，使广东空军40余人、粤军第一军军长余汉谋、广东东区绥靖委员李汉魂、粤军第二军军长张达（继任香翰屏之职）先后投蒋。“南天王”陈济棠众叛亲离，眼看大势已去，遂于18日被迫下野。蒋介石旋即任命余汉谋、香翰屏为广东绥靖主任、副主任和第四路军总司令、副总司令，余香从此接替陈济棠掌握广东军权。这就是震惊中外的“两广事变”。香即复出任职。10月28日，经蒋介石批准，国民政府授予香翰屏中将（后加上将军衔）。
1937年抗日战争全面爆发后，香翰屏任第三战区（司令长官蒋介石）中央军（总司令张治中、朱绍良继）第九集团军代总司令、副总司令，率部参加抗战史上规模最大、战斗最惨烈的淞沪会战，广东子弟兵再现“一·二八”的悲壮色彩。日军入侵山东后，蒋介石枪毙第三集团军总司令兼山东省政府主席韩复榘的同时，还公布了43名作战不利的军官处罚名单。地位显赫的有：第九集团军总司令香翰屏，因指挥失当，记大过一次；第三十九军军长刘和鼎作战不力，解职留任；第六十一军军长李服膺，购误战机，放弃守土，处死刑。蒋介石的这一举措，在国民党军中引起极大震动。香翰屏因徐州会战指挥失当，在很大程度上影响了他后来的仕途发展，但通过这次教训，香在后来的抗战中拼死杀敌，不能不说与此事有关。蒋介石是个猜忌心尤重的人，对眼中钉只有拔掉后快，香翰屏和蒋介石也有很深的矛盾，当年的“囚胡事件”还记忆犹新，我老蒋怎么能放了你香翰屏呢？可事实上，他蒋介石是有贼心没贼胆，为什么啊？说来话长，简单地说，香翰屏是粤系的代表人物之一，手中掌握着广东军权，而粤系军队历来战绩显赫，也是孙中山的起家部队，杀掉香翰屏一定会引起全体粤军的不满。所以，蒋介石不断分化粤军，而给香翰屏的记过，其实是在团结抗日下为了稳住粤系、巩固实力、欺骗民众。

不久，香翰屏回粤复任第四路军副总司令，组织训练民团，周旋于惠阳一带日军后方，开展游击战争，痛歼日军。次年，香兼任广东民众抗日自卫团统率委员会主任委员，领导人民群众抗日自卫、保家卫国。1939年，抗日群众运动蜂起，波及全国各地，出现一大批游击队和挺进军队，战斗于敌后和前线。国民政府为了便于统筹抗日大局，将第四路军撤销，香翰屏改任第九集团军副总司令兼第四战区挺进纵队东江指挥所主任；同年，任香港“广东文物展览会”筹备委员。香部在东江有力地拖住侵粤日军，使日军如陷泥潭不能自拔。蒋介石看见香部战斗力极强，为防止中共统战过去，遂于1940年把香部改为国民党正规军加以控制，同时调香翰屏任闽粤赣边区上将总司令，协调三省兵力部署作战和负责叛军的反正工作，直至抗日战争结束。

1945年5月，香翰屏连任中国国民党中央监察委员。抗战胜利后，香相继任广州行辕副主任、广州绥靖公署副主任。1946年7月27日，香翰屏正式退役。

1947年7月，香翰屏复任国民党、三青团合并后的中国国民党中央监察委员。1948年3月29日，国民政府召开第一次“国民大会”选举总统、副总统，香为粤方代表出席大会。国民政府南迁广州后，1949年2月12日，香任广东省政府委员；同年夏御任，全国解放在即，国民党大势已去，香即举家移居香港，后经商。

1954年、1960年、1966年、1972年台湾召开“国民大会”，均前往参加。1978年初，台湾“国大”举行第六次大会，香翰屏自港抵台出席，8月17日在香港病逝，享年89岁。