Родился Яхонтов в Петербурге 28 июня 1820 года. Детские годы прошли в родовом имении на Псковщине, в селе Камно.

В 1838 году он окончил Лицей и был определен на службу в первый департамент министерства государственных имуществ в чине титулярного советника. В 1842 году вышел в отставку и несколько месяцев путешествовал по Германии.

В 1851 году он возвратился в Псков, где занял должность советника в палате государственных имуществ.

В 1861 году А. Н. Яхонтов вступил в брак с дочерью полковника Анной Николаевной Ильман.

В 1868-1870 и 1883-1885 годах избирался псковским уездным предводителем дворянства. Получил придворный чин камергера.