Карен Демирчян родился 17 апреля 1932 года в Ереване. Отец и мать Карена были из Западной Армении, и им пришлось пережить все ужасы Геноцида 1915 года, потерю многих членов семьи. Чудом оставшись в живых, родители Карена в конце концов оказались в детском доме Александрополя (ныне Гюмри), где и познакомились. В 1949 году после окончания средней школы с медалью Демирчян поступает в Ереванский политехнический институт, который с отличием завершил в 1954 году, получив квалификацию инженера-механика. В том же году Демирчян переезжает в Ленинград, где проживал его старший брат Камо (впоследствии маститый ученый). Проработав инженером-конструктором в Ленинградском научно-исследовательском институте, он уже на следующий год возвращается в Ереван и поступает на работу на электротехнический завод. На этом предприятии, ставшем для Демирчяна родным, он прошел все ступени карьерного роста - от мастера, начальника цеха до главного инженера, а затем и директора.