Примерно прикинул логику работы: кнопка замыкает землю на P-канальном полевике (irf4905), полевик заводит + на ардуину (другим не владею совершенно), как только ардуина стартует, то даёт землю на 10 ногу, тем самым поддерживая себя во включенном состоянии. Тем временем 11 нога через толстый резистор прибивается к + и заводится через диод на кнопку. И мониторится в микрухе, как только там появляется земля - подаём + на 10 ногу, полевик гасится и всё обесточивается.
Вот схема:

Всё работало хорошо, пока не подключил через транзисторную сборку Дарлингтона (ULN2004APG) в нагрузку светодиоды. Как только начинаешь ими мигать - через некоторое время (0-5 секунд) вся схема вырубается сама собой. Кроме того, у схемы проблемы даже с запуском на вольтаже ниже 4 (питать планирую от литиевого аккумулятора 3.7V-4.3V).
А если отказаться от решения с тактовой кнопкой и поставить рубильник на разрыв + или земли, то всё работает как часы, схема запускается и при 3.5V без проблем, и, кстати, почему-то светодиоды поярче горят.
Что я делаю не так?