המילה גזורה מהמונח ”חָרֵד בְּדִבְרֵי אֱלֹהֵי יִשְׂרָאֵל“ (עזרא ט, פסוק ד) כלומר: הירא את ה' ושומר את מצוותיו. (כשהמילה "יראה" הוחלפה במילה נרדפת שלה – "חרדה").
מקור הכינוי נמצא בפסוק לעיל, בפסוק ”שִׁמְעוּ דְּבַר ה', הַחֲרֵדִים אֶל-דְּבָרוֹ“ (ישעיהו סו, פסוק ה) ובפסוק ”...בַּעֲצַת אֲדֹנָי וְהַחֲרֵדִים בְּמִצְוַת אֱלֹהֵינוּ וְכַתּוֹרָה יֵעָשֶׂה.“ (עזרא י, פסוק ג)