Корни этого автомата восходят к немецкому Stgw.45, созданному в Германии в конце Великой Отечественной. Конструкция с использованием запирания роликами в дальнейшем была развита испанской фирмой CETME , а затем стала визитной карточкой автоматического оружия фирмы Хеклер и Кох на многие годы.

G3 поступила на вооружение Бундесвера в 1957г, заменив состоявшую на вооружении под обозначением G2 бельгийскую FN FAL и до сих пор является основным стрелковым оружием не только в ФРГ, но и в более чем 20 других странах. До самого последнего времени ФРГ оставалась практически единственной развитой страной, имевшей на вооружении в качестве основной винтовки оружие калибра 7.62мм НАТО (большинство стран перешло на малоимпульсные патроны). Объясняется это главным образом тем, что Германия до начала 90х годов пыталась реализовать весьма амбициозный проект создания оружия под безгильзовый патрон калибра 4.7мм. В результате длительных разработок все же была создана винтовка ХК G11, однако из-за возникших технических и финансовых трудностей проект был приостановлен. Только в конце 90х годов, столкнувшись с необходимостью взаимодействия войск Бундесвера с другими армиями стран НАТО во время войны в Югославии, немцам пришлось срочно принять на частичное вооружение штурмовую винтовку калибра 5.56мм НАТО ХК G36.