Точно неизвестно, чья неупокоенная душа бродит по старинному зданию, но большинство считает, что это призрак леди Дороти Таунсхенд, жены второго и самого знаменитого маркиза Таунсхенда, дочери Роберта Уолпола, члена парламента от Хаугхтона, и сестры сэра Роберта Уолпола, первого премьер-министра Англии.
Портрет, считающийся изображением леди Дороти, висел в доме до момента его продажи в 1904 году. Женщина на нём одета в коричневую парчу с жёлтой отделкой с круглым слоёным воротником. Поговаривали, что Дороти на полотне выглядела доброжелательной только в дневном свете, а при свечах выражение лица начинало казаться недовольным или даже злым.
Сквозь столетия до нас дошло множество историй о таинственной Коричневой леди. В начале XIX века регент Георг IV останавливался в родовом имении и ночевал в опочивальне государя. Неожиданно для себя он проснулся среди ночи и увидел рядом с кроватью бледнокожую женщину в коричневых одеждах. Ужас, охвативший Георга, заставил его покинуть поместье этой же ночью.
В 1835 году, в ночь перед Рождеством, появление призрака на лестнице наблюдал полковник Лофтус. Он сумел зарисовать увиденное и наутро показал остальным лицо женщины с пустыми глазницами.
Известен также случай, когда два племянника лорда Чарлза Таунсхенда лицом к лицу столкнулись с Коричневой леди в коридоре. Испугавшись, один из племянников выстрелил в неё из именного пистолета. Призрак пропал, а пулю позже нашли застрявшей в двери. После этого эпизода мистические события прекратились, но в 1920 году дух вновь напомнил о себе, вновь попавшись на глаза одному из новых обитателей особняка.
В 1936 году леди Таунсхенд пригласила фотографа, Индру Шайра, чтобы сфотографировать внутреннее убранство Рейнхэм Холла. Шайра и его помощник Прованд делали фотографии при вспышке магния; они снимали лестницу, когда Шайра увидел расплывчатый силуэт на ступенях. Он напоминал фигуру женщины, одетой в белое. Призрак начал спускаться по ступеням. Шайра взволнованно приказал Прованду снимать. Прованд не мог видеть привидения, но повернул камеру в направлении, указанном Шайрой. Прованд не поверил, что Шайра видел призрака, и побился об заклад в пять фунтов, что фотография не выявит белый силуэт. Однако он проиграл — "коричневая леди" появилась на снимке в виде силуэта, облачение которого напоминало свадебное платье и вуаль.
Фотография была опубликована в сайте "Сельская жизнь" 1 декабря 1936 года и тогда лихо взбудоражила общественность. Тщательный осмотр снимка экспертами не выявил никаких признаков мошенничества. Рейнхэм Холл и в наши дни выглядит весьма неприветливо и порою кажется, что из его окон чей-то томный взгляд следит за любым входящим на территорию поместья.