在我国自古就有“君子于玉比德”的传统，所以“古之君子必佩玉”，“君子无故，玉不去身”（《礼记玉藻》）佩玉成了君子有德的象征。
君子又如何“比德于玉”呢？（《礼记聘义》）中记载了孔子的一段话，大概是有关这个问题最全面的回答。“昔者君子比德于玉焉。温润而泽，仁也。慎密以栗，知也。廉而不刿，义也。垂之如坠，礼也。叩之其声，清越以长，其终诎然，乐也。瑕不掩瑜，瑜不掩瑕，忠也。孚尹旁达，信也。气如白虹，天也。精神见于山川，地也。圭璋特达，德也。天下莫不贵者，道也。”
这段话从仁、知、义、礼、乐、忠、信、天、地、德、道一共11个方面对玉的道德内涵作了分析，虽未免玄了些，但它代表了古人对于玉的认识和看法，强调了玉的可在外在的美，而在其内涵与人的精神世界彼此相通并息息相关。
此外又有“五德”之说，也许是对上述认识的更为简要的概括。许慎（《说文解字》）中有：“玉乃石之美者，有五德：润泽以温，仁也。鲤理自外，可以知中，义也。其声舒扬远闻，智也，不挠而折，勇也。廉而不技，洁也。”大意与《礼记》所载大同小异。
玉不全被赋予如此丰富的道德内涵，因则君子必须佩带它，而且佩带以后，行走时玉佩发出声音，君子走路时就势必温文尔雅，没有丝毫的邪念。由于玉佩只有在不快不慢、富有节奏的步伐下，才会发出韵律、悦耳动听的声音，这声音不仅集中了君子的注意力，同时也告诉周围的人们：君子来去光明正大，从不偷看偷听别人的言谈举动，这便又成为君子行动光明磊落的标志。所以“古人君子必佩玉，右徵角，左宫羽，趋以采齐，行以肆夏，周还中规，折还中矩，进则揖之，退则扬之，然后玉锵鸣也。故君子在车则闻鸾和之声，行则鸣佩玉，是以非辟之心，无自入也。”（《礼记玉藻》）意思是君子出入进退俯仰之间，玉佩都会发出声音，因此“非辟之心，无自入也”。
今天，虽然德操以玉的风气大大淡化，佩玉者多数已说不出玉有那么多的道德内涵，但佩玉作为一种有道德修养和文化品位的象征，依然为一部分人所认同。特别是“君子于玉比德”的传统，在我们今天的日常生活中依然随处可见。
