Старший сын основателя династии Артемия Яковлевича Терещенко.
Образование Никола Терещенко получил лишь в Глуховском уездном училище. С юных лет помогал отцу в торговых делах.
В 1851 году он начал службу в Глуховском магистрате старшим бургомистром и избирался на эту должность три трёхлетних срока подряд, а затем 14 лет был городским головой.
Высочайшим императорским указом от 12 мая 1870 года его отец, Артемий Яковлевич Терещенко, был возведен со всем потомством по мужской линии в потомственное дворянство Российской империи.
Никола Артемьевич был директором Глуховского общества попечительства о тюрьмах, несколько раз избирался городским головой городов Глухова и Рыльска, мировым судьей.
Одновременно он выполнял обязанности главного губернатора земского собрания, члена земской управы Глухова; более 20-ти лет он стоял во главе глуховского самоуправления, что было свидетельством общего уважения земляков к его деятельности. Кроме этого он особое внимание уделял благотворительным делам — помощь детским приютам, городской больнице.
В Глухове на средства и пожертвования Н.А. Терещенко были построены: мужская и женская гимназии, ремесленное училище, пансион для гимназистов, детский приют, городское училище, городская больница, учительский институт со службами, уездный банк, Трех-Анастасиевский собор, ряд частных жилых домов.
21 сентября 1874 года состоялось официальное открытие учительского института, старейшего педагогического вуза на Украине, ныне — Педагогический университет имени А. Довженко.
В 1870—1875 годах Н.А. Терещенко жил в Москве.
В 1875 году он переехал в Киев, который со строительством железной дороги и открытием биржи превратился в настоящую «сахарную столицу».
Переехав в Киев, семья Терещенко поселилась в доме № 12 по Бибиковскому бульвару — особняк князя П.П. Демидова — Сан-Донато.
В Киеве Никола Артемьевич активнее начинает заниматься благотворительной деятельностью и инвестированием в строительство общественных зданий.
В 1881 году открывается училище для слепых, единственное в то время в России. В этом же году Никола Артемьевич выделяет 23 тысяч рублей на строительство Мариинского детского приюта.
На средства, выделенные Николой Артемиевичем, были построены 4-я гимназия (ныне Транспортная академия), 5-я гимназия по Большой Васильковской, приют-училище для глухонемых на Малодорогожицкой улице, колония для малолетних преступников, женская гимназия на Покровской улице, школа при Борисоглебской церкви, Троицкий народный дом (в настоящее время в здании находится театр оперетты), дом трудолюбия по Гоголевской улице, Покровская церковь на Соломенке, собор св. Николая в Покровском монастыре.
Значительные средства он выделил на строительство Владимирского собора, был одним из инвесторов строительства в Киеве Политехнического института, перечислив в фонд строительства около 150 тыс. рублей.
Н.А. Терещенко был награждён орденами Белого орла и французского Почётного легиона, св. Владимира II и III ст., св. Анны I степени, св. Станислава I и III ст.
Умер 1 февраля 1903 год (19 января по ст. ст) в Киеве. похоронен в Глухове.
В 2009 году в Киеве открыт памятник меценату и почетному гражданину Киева Николе Артемиевичу Терещенко. Памятник работы киевского скульптора Александра Михайлицкого установлен на территории Научно-практического центра детской кардиологии и кардиохирургии.