Гусейнгулу хан родился в Южном Азербайджане приблизительно в 1742 году. Он принадлежал к племени Гоюнлу/Гованлы Каджаров. Предполагается, что он родился в Казвине, поскольку использовал имя Казвини. Однако вполне вероятно, что использование этого прозвища связано с его победой над Садик ханом Шагаги под Казвином и его правлением там.

Его отец Мухаммад хан Каджар был известным полководцем. Место рождения неизвестно.

В исторических источниках имя Гусейнгулу хана впервые упоминается как член дворца в Ширазе, где он был гулларагасы. После вступления на трон Фатали шах щедро наградил Гусейнгулу хана за верность: назначил на важные посты, женился на его сестре, своего сына Аббаса Мирзу женил на его дочери, дал согласие на брак своей 29-летней дочери с Мухаммедгулу, сыном Гусейнгулу хана. Во время Первой русско-иранской войны (1804–1813 гг.) шаху требовался сильный и верный полководец для защиты Иреванской крепости от русских войск. В 1807 году Фатали шах назначил Гусейнгулу сардаром Иреванского хана и шахских войск. Годом позже в Иреван приезжает Гасан хан (брат Гусейнгулу хана), удостоенный за храбрость титула «Сер-Арслана» («предводитель львов»).

За время своего 20-летнего правления Гусейнгулу хан завоевал всеобщее уважение народа своей справедливой политикой. Иностранные путешественники называли его таким же могущественным правителем, как престолонаследник Аббас-Мирза.

Гусейнгулу хан имел право чеканить деньги. Большую часть доходов он использовал в оборонных целях. Гусейнгулу хан поощрял торговлю и установил стабильную управленческую систему. Армянские и российские источники подтверждают, что Гусейнгулу хан был милосердным, искренним, благородным, честным и справедливым ханом.

1 сентября 1827 года русские войска осадили крепость Сардарабад. Гусейнгулу хан хотел покинуть Иреванскую крепость, чтобы помочь своему внуку, охраняющему Сардарабадскую крепость, но российские войска не позволили ему это сделать. Он вынужден был отступить к ирано-турецкой границе. Защита Иреванской крепости ложится на плечи Гасан хана. 1 октября российские войска захватывают Иреванскую крепость. Гасан хан попадает в плен к русским и его отправляют в Петербург к императору Николаю I. По определённым причинам карета с Гасан ханом задерживается в пути в городе Екатеринограде на реке Терек. Однако о его дальнейшей судьбе информации нет. Фатали шах подарил Гасан хану меч Теймурленга, унаследованный им от Сефевидов, за его храбрость во время войн. Генерал-лейтенант Красовский отправил этот меч Гасан хана в подарок императору.

Согласно персидским источникам, Гусейнгулу хан умер в Иране в 1831 году.