Ситуация нежелательная, но нормальная: любой предмет имеет собственную ёмкость, индуктивность, сопротивление. Иногда пренебрежимо малое, иногда не очень. В схеме не указано, но фактически есть. Ёмкость между кабелем и электродом и/или посудиной, в которой Вы меряете pH. 1 раз из 5, когда нет наводки - это вы выдернули кабель из розетки в момент перехода напряжения через ноль. Повезло.
Есть старая хорошая книга Дж. Барнс. Электронное конструирование. Методы борьбы с помехами. Всё, что я могу посоветовать, уже написано в ней
Фильтр я бы сделал так: вычисляется скользящее среднее, всё, что от него значительно отличается - игнорируется. Чем больше время усреднения, тем лучше. Быстродействия же не требуется?