Александр Матвеевич Ершов родился в 1908 году в селе Славянка Северо-Казахстанской области в семье бедняка. Здесь окончил школу, работал в колхозе. Когда началась война, А. М. Ершов ушел на фронт. Был трижды ранен. Награжден орденом Красной Звезды и медалью «За победу над Германией».
За исключительную стойкость, мужество и геройство, проявленные при форсировании реки Неман, Указом Президиума Верховного Совета СССР от 24 марта 1945 года сержанту Ершову Александру Матвеевичу присвоено звание Героя Советского Союза.
Летом 1944 года советские войска приступили к освобождению Белоруссии. Части 3-го Белорусского фронта 23 июня 1944 года обошли с двух сторон витебскую группировку немцев и к 27 июня ликвидировали ее. Не снижая темпов наступления, войска этого фронта прошли с боями более 400 километров и 13 июля освободили столицу Советской Литвы — Вильнюс. После ликвидации здесь немецкого гарнизона войска 5-й армии 3-го Белорусского фронта продолжали движение на запад, стремясь с ходу форсировать Неман и захватить на его левом берегу плацдарм для последующего наступления.
17 июля 1944 года при форсировании реки Неман беззаветную храбрость, мужество и преданность Родине проявил в числе других командир отделения 371-й стрелковой дивизии 5-й армии сержант Александр Матвеевич Ершов.
Под сильным артиллерийским и пулеметным огнем, при массированном налете немецкой авиации он первым со своим отделением переправился на левый берег реки. Отражая натиск контратакующей немецкой роты, отделение А. М. Ершова подпустило солдат противника на близкое расстояние и в упор расстреляло их, были пущены в ход и гранаты. Кончались боеприпасы. Враг обрушил на горстку смельчаков огонь всех своих боевых средств.
Не колеблясь, командир отделения повел своих солдат в рукопашную схватку… Штыком и прикладом он лично уничтожил 12 фашистов, показывая пример мужества и геройства. Самоотверженно дрались советские бойцы. Враг не выдержал рукопашной схватки и отступил, оставив на поле боя до 100 трупов солдат и офицеров. Контратака немцев была отбита. Другие подразделения дивизии в это время переправились на левый берег Немана, перешли в наступление и захватили необходимый плацдарм.
Демобилизовавшись, А. М. Ершов возвратился в родные края, в совхоз Заградовский. Здесь он живет и работает сегодня.