曾国藩虽然领了旨，但是，实实在在地说，他绝对是一个手无缚鸡之力的书生。摆在他面前的是，要钱没钱，要人没人。建什么样的军队，怎样建，需要的钱饷又从何而来……太多问题困扰着他了。面对重重困难，曾国藩在一步一步地前进。
他认为，清政府的八旗兵、绿营兵是已经腐化的没有战斗力的部队，自己训练的士兵应该有更大的战斗力，应该有独特的精神。办团初期，曾国藩的主要任务是镇压当地的农民起义。可是太平军很快就从广西打到湖南，从湖南打到湖北。
曾国藩想循序渐进，咸丰帝却已经急不可待，要曾国藩立即出兵攻打太平军。白手起家的曾国藩是不可能在短时间内训练出能征惯战的军队的，湘军刚刚建立，用这样的军队去与太平军作战，无异于以卵击石。出兵还是抗旨，对曾国藩来说，无疑是非常难办的。他多次上奏说：“事势所在，关系至重”，不能草率而出，并向朝廷建议“实行四省联防”。咸丰皇帝对此很不满，在曾国藩的奏折上批道：“近览你的奏章，简直以为数省军务一身承当，试问汝才力能乎否乎?平日矜诩自夸，以为天下人才没有超过自己的，及至临事，果能尽符其言甚好，若稍涉张皇，岂不贻笑天下!”
