为了表明台湾仍旧属于中国，其独立只是权宜之计，唐景崧电奏清廷：“今之自主，为拒倭计，免其向中国饶舌；如有转机，自仍归中国。”
湘军宿将刘坤一对《马关条约》颇为不满，为了支持唐景崧和刘永福的抗战，派道员易顺鼎赶赴台湾联络，并邀请张之洞共同增援台湾。这时候，驻扎在台湾的湘军及退役留在台湾的湘籍军人还有一万多人，加入了台湾民众的武装抗争。刘坤一电令驻防台湾的湘军撤消番号改为义军，打击日军。驻扎台湾的湘军杨载云、罗树勋等部撤去清军番号，自己成立新楚军，在岛上的中央山脉坚持战斗。加上刘永福的黑旗军和徐骧等人的民团，总计兵力大约为七千多人。
日本一面催促清廷把台湾交出，一面派海军大将桦山资纪为台湾总督，统带海陆两军杀奔台湾。5月29日，日军在基隆东南海口沃底登陆，台军血战不敌，于6月3日失守基隆。败报传到台北，民主国政府里有一部分人，像副总统丘逢甲等，主张绝不屈服，抗战到底。怎奈大部分官绅看见日军势大，动摇了抗战意志，纷纷弃职逃走，连总统唐景崧也于6月6日乘船内渡厦门。于是台北在混乱状态中被日军攻陷，台湾民主国就此昙花一现，终告消灭。6月8日，台湾巨商李春生、辜显荣等将日军迎进台北城。