據《論語》《禮記》等書記載，言偃在孔子處學習十分勤奮，遇到疑難問題常向孔子請教；孔子也視言偃為他所滿意的及門弟子之一，曾向言偃描繪過他心中的理想社會的美境。一次，言偃陪孔子參加臘祭(十二月時獵禽獸歲終祭先祖的一種活動)，祭祀儀式結束后，兩人走到宗廟外面高大的建筑物旁邊，孔子仰天長嘆。言偃覺得十分奇怪，就問道：老師為什么嘆氣？孔子說：我沒有趕上大道實行的時代和三代(夏、商、周)英明人主當政的時代，可心里總是很向往啊！接著他滔滔不絕地向言偃描述了"謀閉而不興，盜竊亂賊而不作，故外戶而不閉"的大同社會的景象。這在言偃的腦海里留下了深刻的印象。他后來在魯國當武城宰相時，遵照師訓，以禮樂教化人民，做出了成績。一次，孔子來到武城，聽到了處處有弦歌之聲，于是微笑著對迎接他的言偃說："割雞焉用牛刀？"意為治理這個地方還用得著小題大做，以禮樂來教育嗎。言偃恭敬地回答說：以前老師曾教導我，做官的學習了就會有仁愛之心，老百姓學習了就容易聽指揮，聽使喚，教育總是有用的啊！學生的回答使老師十分滿意。孔子對隨同他一起來的學生說，言偃的話是正確的，我剛才那話不過是與他開個玩笑罷了。這說明言偃對孔子的思想，不僅能深刻理解，而且做到了身體力行。接著，孔子又問言偃道：你在這里得到什么人才沒有?言偃回答說：有一個叫澹臺滅明的人，走路不抄小道，不是公事從不到我屋里來。言下之意是此人行為端正，不對上司拍馬奉承，是可以重用的一個人才。這說明言偃很能識別人才，當了官以后，不是專喜聽恭維話的。