Почему шум Джонсона является гауссовым процессом?

Шумовые процессы в технике и физике часто принимают за гауссовы процессы . Это позволяет использовать удобные аналитические методы. Тогда возникает вопрос, почему естественные процессы являются гауссовыми. В частности, я хотел бы понять, почему электрический шум Джонсона является гауссовым процессом.


Возможная линия рассуждений

Одна линия, которую я обнаружил, состоит в том, что процесс Орнштейна-Уленбека является гауссовым и удовлетворяет уравнению Фоккера-Планка . Это может означать, что любой физический процесс, подчиняющийся уравнению Фоккера-Планка, является процессом Орнштейна-Уленбека и, следовательно, гауссовским процессом. Однако остается вопрос, почему шум Джонсона подчиняется уравнению Фоккера-Планка.

Очевидный связанный с этим вопрос заключается в том, является ли шум Джонсона процессом Орнштейна-Уленбека.

Аргумент, который я помню, взят из центральной предельной теоремы в том виде, что для большого числа событий распределение Пуассона имеет тенденцию соответствовать распределению Гаусса.
Пожалуйста, пусть моя гигантская пенопластовая рука с дикими жестами бросит в бой термины «некоррелированные излучатели» и «центральная предельная теорема». Но это очень хороший вопрос.
@ThePhoton Gaussian, распределенный в любой конкретный момент времени, - это не то же самое, что гауссов процесс. По крайней мере, я так не думаю. Я понимаю, что центральная предельная теорема объясняет, почему так много вещей в физике являются гауссовыми; любая переменная, которая является суммой многих других переменных, всегда является гауссовской, но опять же (я думаю), это не то же самое, что быть гауссовым процессом.
Из вики гауссовский процесс - это процесс, для которого «любая конечная линейная комбинация выборок имеет совместное гауссово распределение». Поскольку одна выборка представляет собой конечную линейную комбинацию выборок, это означает, что одна выборка из гауссовского процесса имеет гауссово распределение. (но не означает, что эти два понятия абсолютно идентичны)
@ThePhoton Обратное, я думаю, не всегда верно.
Вероятно, это не так. Но если вы также утверждаете/знаете/верите, что отдельные образцы распространяются независимо друг от друга, то это будет означать гауссовский процесс.
@ThePhoton В любой реальной системе спектральная плотность мощности не является плоской вплоть до бесконечной частоты, поэтому значения любой реализации процесса определенно не являются некоррелированными для произвольного времени. Возможно, бывают случаи, когда автокорреляция достаточно коротка, чтобы значения можно было рассматривать как независимые в некоторых практических случаях.
@DanielSank: ограничение полосы пропускания для хорошего источника шума Джонсона всегда будет определяться полосой пропускания системы дискретизации, используемой для измерения шума, поэтому функция автокорреляции принадлежит измерительному прибору, а не источнику шума. Я не думаю, что практические ограничения на ширину полосы измерения следует использовать в качестве физических критериев для определения гауссова шума.
@CuriousOne, когда вы действительно смотрите на шум Джонсона-Найквиста, это не плоский спектр до бесконечной частоты. Это будет иметь бесконечную силу! Полная формула включает планковское распределение, которое спадает с высокой частотой. Таким образом, даже без аналоговой фильтрации в системе шум Джонсона не имеет белой спектральной плотности.
@DanielSank: Ничто никогда не простирается до бесконечности, поэтому неразумно ожидать, что это произойдет. Вы должны выбрать определение, которое имеет незначительную корреляцию в пределах полосы пропускания выборки, и использовать его. Сказав это, ребята из RF могут указать вам методы создания широкополосных источников шума до десятков ГГц ... так что на самом деле не проблема создать физическую нормаль, которая удовлетворяет разумным требованиям к источнику белого гауссового шума. .
@CuriousOne Шум от резистора не белый, даже в практических пределах. Если я буду проводить эксперименты при 25 мК, то к тому времени, когда я доберусь до 1 ГГц, спектр абсолютно черного тела (что на самом деле представляет собой шум Джонсона) перестанет быть ровным с частотой.
@DanielSank: при 25 мК предположение о том, что корреляции в небольшой выборке не имеют значения, просто неверно, если я правильно помню свои давние уроки о фононах, поэтому я не уверен, почему вы вообще ожидаете получить шум Джонсона от такого холодный образец? Во всяком случае, шумовой спектр становится инструментом исследования физики образца. И нет, не все твердые тела производят шум Джонсона, поэтому я сказал: «Ребята из RF могут сказать вам, какие из них производят». Может быть, мы говорим об очень разных сценариях? Я все еще говорю о некоррелированных излучателях и центральной предельной теореме.

Ответы (1)

Я могу интерпретировать этот вопрос несколькими способами, поэтому мое основное внимание будет сосредоточено на автокорреляции процесса Орнштейна-Уленбека (OU). Так что же такое процесс OU и чем он отличается от обычной броуновской диффузии?

Броуновская диффузия

Стохастическое дифференциальное уравнение (СДУ) для броуновской диффузии частицы можно записать в виде

г Икс т знак равно г Вт т
куда Икс это смещение и г Вт стохастический процесс такой, что мы интегрируем обе стороны, Икс Т Икс 0 знак равно 0 Т г Вт т знак равно Н ( 0 , Т ) , распределение Гаусса со средним 0 и дисперсия Т . Немного больше физических обозначений было бы
г Икс г т знак равно η
куда η является гауссовой случайной величиной.

Таким образом, вы можете видеть мысленным взором, что, продолжая добавлять эти небольшие случайные смещения к случайным направлениям, вы в конечном итоге получите диффузию. Другим способом описания диффузии, более распространенным среди физиков, является дифференциальное уравнение в частных производных (уравнение Фоккера-Планка), где вы записываете распределение вероятности частицы как функцию времени и положения. Еще один способ записать это как интеграл по путям Винера (преобразование между этими представлениями происходит через уравнение Фейнмана-Каца).

Процессы Орнштейна-Уленбека

Наконец, переходя к уравнению OU:

г Икс т знак равно Икс т г т + г Вт т
или если вы предпочитаете
г Икс г т знак равно Икс + η
Как новый термин меняет поведение? Вместо того, чтобы рассеиваться до бесконечности, вы ограничиваете частицу линейной силой. Другими словами, у вас есть частица в гармоническом потенциале, и к положению добавлен некоторый шум. Решение состоит только в замене переменных: Икс т знак равно е т у т , поэтому по лемме Ито имеем:
е т г у т е т у т г т знак равно г Икс т знак равно е т у т г т + г Вт т
так
у Т у 0 знак равно 0 Т е с г Вт с
то есть
Икс Т знак равно Икс 0 е Т + 0 Т е ( с Т ) г Вт с знак равно Н ( Икс 0 е Т , 1 2 ( 1 е 2 Т ) )
где последний шаг просто следует из подстановки к определению ожидаемого значения и дисперсии.

Итак, что мы видим? Мы видим, что наше наблюдение Икс Т вовремя Т зависит от того, где мы в последний раз видели Икс . Но что эта зависимость (автокорреляция) угасает экспоненциально. Действительно, через бесконечное количество времени имеем Икс Т знак равно Н ( 0 , 1 ) . Обратите внимание, что мы не получили Икс Т знак равно Н ( 0 , Т ) , а скорее то, что наша гауссиана ограничена по размеру и будет достигать этого размера с экспоненциальной скоростью (по мере того, как эффект последнего наблюдения исчезает).

Шум Джонсона

Итак, у вас есть резистор последовательно с катушкой индуктивности при некотором напряжении, и вы пишете

л г я г т знак равно р я + В
Выглядит знакомо? Предположим, что напряжение близко к нулю, но, поскольку сами носители заряда подвергаются диффузии, это напряжение на самом деле является стохастическим. Это процесс OU. Теперь предположим, что вы измеряете ток в момент времени 0, а затем снова в момент времени Т . В каком смысле они гауссовы и независимы? Как обсуждалось в предыдущем разделе, если вы подождете достаточно долго, каждое измерение будет независимым друг от друга, и оба они будут брать одно и то же конечное распределение (в отличие от бесконечно расширяющегося распределения, которое мы видели в диффузии). Эта гауссовость и ее автокорреляция - это то, что, как я полагаю, вы искали. Наконец, давайте обратимся к тому, что, как мне кажется, вам не нужно, но, тем не менее, может показаться интересным.

Микроскопический шум от носителей заряда

Теперь почему В быть стохастическим, и почему он должен быть гауссовым? Это более длинная дискуссия, и я лишь очень качественно и кратко пройдусь по ней. Предположим, у нас есть некоторая простая система: частица в потенциале и большое количество связанных с ней гармонических осцилляторов (рекомендуется назвать их «тепловой баней»), так что мы можем записать гамильтониан (немного упрощенный из модели Калдейры Леггетт) как

ЧАС знак равно п 2 2 м + В ( д ) + я ( п я 2 2 м я + 1 2 м я ю я 2 Икс я 2 ) + д я Икс я

Оказывается, это можно превратить в обобщенное уравнение Ланжевена вида

г 2 д г т 2 знак равно г В г д 0 Т г т г д г т ξ ( Т т ) + р ( т )
где ядро ​​памяти ξ ( Т т ) и «случайная сила» р ( т ) обе являются некоторыми функциями вещества в гамильтониане. Что примечательно, так это то, что случайная сила, хотя и детерминированная, ведет себя точно так же, как если бы она была «настоящей» гауссовой тепловой силой (теорема о флуктуации-диссипации, ее корреляция с другими величинами и т. д.). Итак, мы просто собираемся сказать, что это случайно, и таким образом интегрировать некоторые степени свободы, которые нам не нужны.

Это можно сделать более строго для практически произвольных систем, описывающих некоторую эволюцию фазового пространства, используя теорию Мори-Цванцига. Там вы берете проекционный оператор, который проецирует на подпространство, содержащее интересующие степени свободы, а другие степени свободы ведут себя как термальная ванна. Во многих книгах это представляется чем-то очень сложным, но на самом деле это просто матричная (или на самом деле операторная) алгебра.

Дело в том, что если у вас есть система и вы в совершенстве знаете все фазовое пространство, то если вы упустите некоторые детали, эти детали во многих отношениях будут действовать так, как если бы система вращалась в термальной ванне Гаусса.

Существует ли достаточно удобоваримый источник, из которого физик может научиться читать и использовать стохастические дифференциальные уравнения?
@DanielSank Математика или физика? Что касается последнего, вероятно, вам лучше всего подойдет книга Ван Кампена « Стохастические процессы в физике и химии ». Это потрясающая книга: работает и как введение в предмет, и как справочник. Для вводного материала по математике (вещи с правильно определенными интегралами и с «правильной» записью) Стохастические дифференциальные уравнения Оксендала . В книгах по финансам также есть много SDE, и, поскольку они относятся к прикладному контексту, они также могут показаться вам забавными.
Это может быть полезной ссылкой.
Я хочу принять это, но я также хочу сначала убедиться, что понимаю это. Я думаю, что основное рассуждение таково: 1) Процесс OU является гауссовым. 2) Однополюсная цепь имеет то же уравнение движения, что и процесс ОУ (при условии, что напряжение источника равно г Вт , что бы это ни было). 3 ) Шум напряжения от резистора г Вт благодаря модели Калдейры-Легжетта.
@DanielSank Правильно. Я хочу, однако, подчеркнуть, что распределение, которое вы выбираете из процесса OU, является id (что, я думаю, вы имели в виду под «гауссовым»), только если вы делаете это «очень медленно»: время релаксации зависит от коэффициентов L и Р.
Я думал, что распределение для процесса OU всегда является гауссовым и имеет о а также мю зависит от того, как давно вы в последний раз пробовали и какое значение вы получили. Это неправильно?
@DanielSank Правильно, но очевидно, что ваше выборочное распределение не всегда будет iid, поскольку распределение для каждой случайной переменной зависит от предыдущего значения.
Хорошо, но поскольку «гауссовский процесс» определяется как совместно гауссовский, разве процесс OU не квалифицируется как «гауссовский процесс».
@DanielSank Я верю, что да. Однако совместное распределение будет иметь довольно сложную ковариационную матрицу.
Кажется, появились какие-то волшебные двойки. В процессе OU мы получаем Н ( Икс 0 опыт ( Т ) , ( 1 / 2 ) ( 1 опыт [ 2 Т ] ) . Это должно означать, что 0 Т опыт ( с т ) г Вт с знак равно ( 1 / 2 ) ( 1 опыт [ 2 Т ] ) . Это правильно? Если да, можете ли вы направить меня к ресурсу, объясняющему, почему, или просто мотивировать это интуитивно? Почему-то это просто размышление о том, что происходит, когда вы добавляете весовой коэффициент к интегралу по г Вт ...
@DanielSank Это неправильно. Вы интегрируете по броуновскому процессу, поэтому в итоге вы должны получить случайную величину. например Икс , Д нормальный некоррелированный, а Икс + б Д знак равно Н ( 0 , а 2 + б 2 ) . Вместо суммы имеем интеграл г Вт с нормальный некорр. например е с г Вт с знак равно Н ( 0 , е 2 с г с ) (Ито изометрия, но аналогия должна быть ясна). Обратите внимание, что в обоих случаях (сумме и интеграле) мы получаем случайную величину, а не константу.
О, я сделал действительно очевидную глупую ошибку в своем комментарии. Я не хотел сказать, что интеграл должен быть константой! В любом случае, я думаю, теперь это ясно.