Потому-что если настроить оптопару на то, чтобы она чувствовала "котофот" такой маленькой площади (да ещё, скорее всего, и не плоский), то луч будет так же отражаться просто от окружающих предметов в комнате, и стен.
Для начала надо бы попробовать то же самое, но в видимом свете. Берётся обычный красный светодиод, засвечивается в ванной комнате в темноте, там же располагается "котофот" - кусочек световозвращающей плёнки, результат оценивается на глаз.
Почему я считаю, что результат вполне может быть положительным? Я за рулём тридцать лет, мне довольно часто приходится ездить ночью, и то, как отражают световозвращающая плёнка и призменные катафоты, я прекрасно знаю; на мой взгляд, их никак нельзя сравнивать с чем-то ещё: их яркость намного превосходит яркость всего остального, прямо-таки бросается в глаза. Могут быть отдельные блики от удачно расположенных предметов, но с ними бороться понятно как - располагая осветитель с датчиком в правильном месте. А чувствительность котодетектора, разумеется, надо будет регулировать.
Подойдёт ли такая схема?
С небольшими доработками.
1. Верхние выводы резисторов R1, R2 соединить не с коллекторами транзисторов, а с плюсом питания.
2. Конденсаторы C3 и C4 не нужны.
3. Последовательно с резистором R4 включается ИК диод, анодом к плюсу питания.
4. Номинал резистора R4 выбирается такой, чтобы обеспечить требуемый ток ИК диода.
5. Базовые резисторы 200 кОм, ёмкости 100 пФ - с такими номиналами частота генерации будет около 36 кГц.
6. Питание подавайте на него 5 - 9 В, меньше не стоит.
7. Параллельно питанию, то есть между плюсом и минусом, включить конденсатор-электролит хотя бы 10 мкФ подходящего напряжения.
Как проверить? Так и проверить: TSOP должен сработать.
Осциллографы, кстати, есть и недорогие: DSO138 на али долларов за пятнадцать, это сколько... Тыща рублей. Ну, блин, если это - дорого...