玉器除了佩饰和代表等级名位之外，还往往用来表示某种意义，具有语言表达的功用。如玉?的“?”字，与“决”同音，所以每每用?表示决绝之意。先秦时期，玉器已广泛深入于社会生活之中，并为人们所熟悉、所使用，因而又对当时的语言以很深的影响。
玉器加工之不易，为人们所熟知，因此被借喻君子努力进修，精益求精。《诗经‧小雅‧鹤鸣》说：“它山之石，可以为错”、“它山之石，可以攻玉”，《礼记‧乐记》说：“玉不琢，不成器”，都是以治玉比喻德行、文章的砥砺、修饰。
玉的晶莹润泽，被喻为人品的高洁。成书于战国时代的《王度记》说：“玉者有象君子之德，燥不轻，湿不重，薄不浇，廉不伤，疵不掩，是以人君宝之。”玉上的疵点，使古人联想到人的缺点。
玉有超凡脱俗之美，因而几乎成了美的代名词。《诗经‧魏风‧汾沮洳》说：“彼其之子，美如玉。美如玉，殊异乎公族。”《诗经‧召南‧野有死?》说：“白茅纯束，有女如玉。”先秦时期，玉还是情人间相互赠送的信物。《诗经‧卫风‧木瓜》：“投我以木瓜，报之以琼琚，匪报也，永以为好也。”在外交或礼仪场合，玉字往往成为敬语字。《战国策‧越策四》触龙见赵太后时说：“……恐太后玉体有所郄也”，称太后身体为“玉体”，以示尊敬。称人行步为“玉步”；称人为保持气节而死为“玉碎”；称人之女为“玉女”；成人之美为“玉成”；祝人安好为“玉安”，不胜枚举。
玉是伦理道德的标志，我国先民把玉当做修身的标准和个人的品德，它成为一种具有社会道德含义的特殊物品。“孔子说：‘并不是因为珉多就轻视它，玉少就重视它。从前君子用玉来比喻人的德行，玉的温和润泽，像仁；质地缜密而花纹有条理，像智；有棱角而不割伤别的东西，像义；垂挂著如同下坠的样子，像谦卑有礼；敲击它发出清扬悠长的声音，临了又绝然而止，像乐；它的瑕疵遮掩不住美好的部分，美好的部分也遮掩不住瑕疵，像忠；色彩外露不隐，像诚；天下没有人不看重玉，像道。《诗》说：‘想念君子，温润如美玉’。”以玉比做君子的德行，最为贴切，且易理解。
人们喜欢金玉并论，是因为玉意味著财富。如“金玉满堂”、“堆金积玉”等，这里指的是玉的价值。汉文字中的“珍”“宝”等字，都与玉有关。而人们习惯上对金银是从价值、质地上着眼的，玉的真正价值，是玉器的雕琢美并由此产生的历史艺术价值。战国时期“和氏璧”的故事，说明玉的价值连城。
《说文解字》所收的玉部字多达117个，是同部首字字数最多的一个，玉字对语言的影响由此可见一斑。
