孫權接了他大哥孫策的班後，在他下面，地位最高的是張昭，他待張昭以師傅之禮，就憑這一點，他已經抓住了打天下的要點了。古語說：「得師者王，得友者霸」，倘若無師無友，或目空一切，自以為天下無人可及，而不屑以任何人為師為友，那就不僅不能王，不能霸，可能會亡。
張昭被《三國演義》的作者描寫成一個腐儒。這便是演義體的書誤人之處。它為了烘托諸葛亮的膽大而聰明，就把張昭說得十分懦弱而糊塗。
實際上張昭這個人倒是頗有骨氣，也很有才幹的。他是徐州彭城國人，書讀得多，字寫得好。本州的東海郡人王朗，琅邪郡人趙昱，均是他的好友;廣陵郡人陳琳，也對他十分欽佩。彭城國的國相某人舉他為孝廉，他不就;徐州刺史陶謙選拔他為茂才，他也謝絕。陶謙生他的氣，把他關了起來;趙昱冒了生命的危險，把他救了出來(陶謙在當時還不曾升為州牧)。
恢復了自由以後，他遷居到江南，仍舊當老百姓，無牽無掛。孫策來了，對他十分尊敬，到他家裡「升堂拜母」，向他的母親跪拜行禮，弄得他不好意思不「出山」，屈就了孫策的「長史」(秘書長)兼「撫軍中郎將」。
孫策把行政方面大小的事務，都交給了他，他也確是賣力，辦得井井有條。北方有很多人寫信給他，說他能幹，也有若干封說他能幹的信，是寫給孫策，由他以「長史」的職位先行拆開的。他感覺到很為難：不向孫策報告，是蒙蔽;報告，怕引起孫策不滿，甚至猜疑。
孫策知道了這情形，就向他說：「以前齊桓公用管仲，把事情都交給了管仲，稱管仲為『仲父』。左右請示一件事，桓公說：『去問仲父』;左右再請示一件事，桓公又說，『去問仲父』。左右就發起牢騷來，說：『一則仲父，二則仲父，易哉為君。』桓公說：『我未得仲父以前，為君確是很難，既得仲父以後，為君怎麼會不易呢?』現在，北方人都說張昭能幹，張昭既然是我用的，這就等於說我能幹，能用張昭了。」
孫策之所以在臨死以前，把孫權托給張昭，可見不是沒有理由的。孫策而且向張昭說，「倘若孫權不足以擔任重任，你自己擔當好了。萬一事情不能順利，『緩步西歸，亦無所慮』。」所謂「緩步西歸」，便是慢慢地、從容地歸順曹操所主持的許縣朝廷。所謂「亦無所慮」，便是「也不必有什麼顧慮」(張昭後來於曹操席捲荊州之時，主張迎降，與孫策的這最後幾句話頗有關係。迎降的建議是否正確，為另一問題)。
孫策斷氣以後，張昭所做的第一件事，是勸孫權停止哀哭，趕緊辦公，而且扶了孫權上馬，帶了隊伍出巡一番，讓「眾心知有所歸」。
此後，他一直是孫權的第一幫手;到了孫權稱帝之時(在公元229年)才退休，以「婁侯」的爵位、一萬戶的食邑、「輔吳將軍」的名義，憂游歲月，並寫了兩部書，一部是《春秋左氏傳解》，另一部是《論語注》。
退休以前，他是「綏遠將軍、由拳侯」。婁侯的婁字，指婁縣;婁縣在今天是江蘇昆山東北的「婁縣村」。由拳侯的「由拳」，是(浙江嘉興之南的)由拳縣。
更前，在黃初二年孫權受曹丕封為「吳王」以前，孫權在建安十四年被劉備推舉為「車騎將軍」以後，張昭的名義是「車騎將軍師」。再前，他在名義上是「長史」兼「撫軍中郎將」，一如孫策之時。
張昭不僅在公務上對孫權竭忠盡能，在私生活上也常常對孫權「極言幾諫」。孫權喜歡打獵，而且有時候用拳頭揍野獸，張昭向孫權說：「如有一旦之患，奈天下笑何?」孫權紅著臉回答：「我年紀輕，考慮得不遠，很慚愧。」
孫權也喜歡喝酒，以灌醉陪他喝的人為樂。有一次，他和群臣宴會於武昌樊山的釣魚台，大喝了一頓，群臣醉倒了不少。他吩咐手下人用冷水灑他們，讓他們醒來，再喝。他下了一道命令：「今天要喝到醉倒在這釣魚台之中，才能停止。」張昭是在場的群臣之一，聽了這道命令，就離開宴席，出門到車子上坐。孫權叫人把他找回來，責備他：「無非是大家共同作樂而已。公(老太爺)為什麼生氣?」
孫權對張昭一向尊稱他為「公」，不敢以他的官職相稱;更不敢直呼其名。
張昭回答孫權：「當年商朝的紂王，把酒糟堆積成一座小山，把游泳池裝滿了酒，邀集群臣喝酒，喝到天亮，號稱『長夜之飲」，當時，他們也以為『無非是共同作樂而已』，不知道那是一件不好的事。」孫權答覆不出話來，沉默了一陣，吩咐人把筵席撤了。