Куда течет обратный ток для дифференциального сигнала?

Это зависит от физической геометрии линии передачи.

Я могу развести две дорожки на печатной плате, не слишком близко друг к другу, но совпадающие по длине, и использовать их как дифференциальную пару. В этом случае каждая из отдельных линий будет иметь собственный обратный ток на соседней заземляющей пластине.

Или я могу сделать тесно связанную пару дорожек на печатной плате с расстоянием между линиями меньше, чем расстояние между линиями и землей. В этом случае большая часть обратного тока будет в дополнительной линии, но, вероятно, будет некоторый обратный ток в заземляющем слое рядом с каждой линией.

Или я могу сделать чисто дифференциальную линию, например, неэкранированную витую пару, и почти единственный обратный ток для одной линии будет в другой, и наоборот.

Я буду использовать несколько иной подход к другим ответам и использовать в качестве примера дифференциальный трансформатор. Они распространены в балансных схемах микрофонов.

^{смоделируйте эту схему - схема, созданная с помощью CircuitLab}

Рис. 1. Сбалансированная схема микрофона, показывающая дифференциальный (зеленый) и синфазный (красный) сигналы.

Обратите внимание, что дифференциальные сигналы синфазны на первичной обмотке трансформатора и поэтому генерируют выходной сигнал на вторичной обмотке трансформатора. При этом синфазные сигналы не совпадают по фазе и компенсируются, не давая выходного сигнала на вторичной обмотке. Трансформатор отклоняет синфазный сигнал.

Насколько я понимаю, обратный ток течет по "минусовому" каналу для подключения дифференциального сигнала.

Это зависит исключительно от того, что вы берете в качестве эталона. Если вы начинаете с отрицательного или инвертирующего входа, то «обратный ток» находится на «положительном» или неинвертирующем входе.

Только если он плохо сбалансирован, может возникнуть нежелательный обратный ток на эталонной земле или плоскости питания.

Это было бы правдой. На рис. 1 это маловероятно, так как капсюль микрофона плавает относительно земли. На практике будет некоторая емкость относительно земли, а в других приложениях может использоваться выход дифференциального усилителя с прямым заземлением. Если, скажем, на двух половинах первичной обмотки трансформатора имеется нечетное количество витков, подавление синфазного сигнала уменьшится, а КОСС уменьшится.

Но некоторые говорят, что обратный путь как для положительного, так и для отрицательного всегда является опорной плоскостью, что меня смущает...

Если немного подумать, что произойдет, если два противофазных сигнала передаются по одному и тому же пути? Они отменяются. Только разница между двумя сигналами будет проходить через наземный тракт.

Правильно сбалансированная дифференциальная линия имеет одинаковое количество тока, протекающего в обоих направлениях. Правильно сбалансированная дифференциальная линия передачи не нуждается в опорной плоскости (существует много линий передачи, не имеющих опорных плоскостей, например все, что использует UTP или STP).

Конечно, если линии не уравновешены, ток будет течь по плоскости отсчета (или по экрану), но он будет минимальным, потому что неуравновешенная дифференциальная пара больше не функционирует как дифференциальная пара.

Эталонная плоскость изменяет волновое сопротивление дифференциальной пары, поэтому при трассировке необходимо учитывать опорные плоскости.

Любой дисбаланс паразитной емкости будет ограничивать CMRR для сигналов переменного тока.

Обратные токи будут протекать через любые кусочки металла, образующие 2-ю пластину паразитного конденсатора.

Ваша задача — идентифицировать все паразитические Эфилды и взять эти поля под свой контроль.