Advanced

Simulation of diffusion bridges for stochastic differential equations

Damberg, Daniel (2017) FMS820 20171
Mathematical Statistics
Abstract
The simulation of diffusion bridges is a difficult statistical problem, and methods for this are attracting a great deal of attention. Analytically, the conditioning on a future pointintroducesasecondtermtothedriftoftheSDEthatincludesthetransitiondensity of the unconditioned process. However, transition densities of diffusion processes are often intractable, whereby other, often computationally intensive methods are necessary. A useful method is Monte Carlo simulation, the computational cost of which, however, is often prohibitively high, necessitating the use of some variance reduction techniques. In this thesis, a novel method for simulating discrete time realisations of diffusion processes satisfying some stochastic differential equation... (More)
The simulation of diffusion bridges is a difficult statistical problem, and methods for this are attracting a great deal of attention. Analytically, the conditioning on a future pointintroducesasecondtermtothedriftoftheSDEthatincludesthetransitiondensity of the unconditioned process. However, transition densities of diffusion processes are often intractable, whereby other, often computationally intensive methods are necessary. A useful method is Monte Carlo simulation, the computational cost of which, however, is often prohibitively high, necessitating the use of some variance reduction techniques. In this thesis, a novel method for simulating discrete time realisations of diffusion processes satisfying some stochastic differential equation (SDE), and conditioned on hitting some end-point is proposed. This new method is based on the partitioning of the process into one deterministic and one random part, where the deterministic part accounts for the drift of the process, leaving the residual, random process a Brownian bridge. The difficulty then lies in finding a good approximation of the deterministic process, and it is herein proposed that already accepted realisations are used to adaptively improve an estimate of the optimal deterministic process, which is used for simulation. The proposed sampler uses the linear noise approximation (LNA) of the process as initial distribution. Taking the mean of previous realisations ensures convergence to the proper expected path, but may initially produce distorted approximations. During an initial burn-in period, the proposed sampler therefore uses recursively formulated regression based on a suitably chosen number of sine basis functions to approximate the remaining dynamics and forms the approximation of the expected path as the sum of the LNA and the approximation of the remainder. Choosing a suitably low number of basis functions accords the regressive approximation with a resilience towards the erraticbehaviourofindividualrealisationsbutintroducesbias. Therefore,afteraburnin period, the sampler switches to taking the mean, ensuring proper convergence. The proposed sampler is tested on two different models: the Cox-Ingersoll-Ross model and the stochastic Lorenz model, and its performance compared to existing approaches, showing similar results for easy cases and a significant increase for difficult ones. (Less)
Popular Abstract (Swedish)
OM ANVÄNDNINGEN AV REDAN GENERERADE TRAJEKTORIER FÖR SIMULERING AV DIFFUSIONSBRYGGOR
För att dra slutsatser från simuleringar av en okänd process upprepas dessa många gånger i följd. Varje genererad, korrekt realisation ger lite information om processen som kan användas i framtiden.
DIFFUSIONER ÄR KONTINUERLIGA PROCESSER som löser stokastiska differentialekvationer, det vill säga differentialekvationer med en slumpmässig term. Ibland vill man betinga på att diffusionen träffar en viss slutpunkt och därmed överbryggar avståndet mellan start- och slutpunkt. Processen, som fortfarande löser en stokastisk differentialekvation, kallas då en diffusionsbrygga. Detta kan till exempel vara användbart om man har glesa observationer av någon... (More)
OM ANVÄNDNINGEN AV REDAN GENERERADE TRAJEKTORIER FÖR SIMULERING AV DIFFUSIONSBRYGGOR
För att dra slutsatser från simuleringar av en okänd process upprepas dessa många gånger i följd. Varje genererad, korrekt realisation ger lite information om processen som kan användas i framtiden.
DIFFUSIONER ÄR KONTINUERLIGA PROCESSER som löser stokastiska differentialekvationer, det vill säga differentialekvationer med en slumpmässig term. Ibland vill man betinga på att diffusionen träffar en viss slutpunkt och därmed överbryggar avståndet mellan start- och slutpunkt. Processen, som fortfarande löser en stokastisk differentialekvation, kallas då en diffusionsbrygga. Detta kan till exempel vara användbart om man har glesa observationer av någon process. Man kan då använda diffusionsbryggor för att simulera vägarna mellan sina observationer och därmed få bättre statistiska egenskaper. Processens förändring över något tidsintervall ges av en deterministisk drift och en slumpmässig diffusion. När man betingar på att träffa en slutpunkt påverkas inte diffusionen, men det tillkommer en term till driften som guidar processen mot sitt mål. Denna extra term går vanligtvis inte att räkna ut analytiskt, utan man behöver numeriska metoder för att simulera bryggan. Simuleringen utförs ofta i ett ramverk som kallas Metropolis-Hastings algoritm. Eftersom bryggans faktiska utseende är okänt så drar man kandidater från en annan, lämplig process och accepterar eller förkastar dessa med en sannolikhet som beror på hur nära den faktiska bryggan kandidaterna är. Detta förfarande upprepas sedan så att man får en kedja av riktiga bryggor. Man kan då fråga sig hur man hittar en sådan lämplig process att dra kandidater från. Frågan
är mycket viktig för hur effektiv simuleringen blir men tyvärr också svår att besvara då man ofta inte vet hur den riktiga bryggan ska se ut. I arbetet föreslår vi ett svar på denna fråga som baseras på användandet av tidigare accepterade realisationer av bryggprocessen. DE KANDIDATER SOM ACCEPTERAS ger oss lite information om hur den faktiska bryggan ska se ut, även om varje enskild brygga inte är tillräcklig. Vartefter fler realisationer, och därmed mer information om bryggprocessen, blir tillgängliga kan vi successivt förbättra våra förslag. Mer specifikt delar vi, likt Whitaker m.fl. 2016, upp processen i två delar, en deterministisk och en slumpmässig del. De sedan tidigare accepterade trajektorierna används för att konstruera en approximation av den förväntade vägen mellan startoch slutpunkterna, som uppdateras allt eftersom vi lär oss mer om den faktiska bryggprocessens utseende. Runt denna förväntade väg läggs sedan den slumpmässiga delen, vilket ger en realisation av bryggprocessen. SIMULERINGSTEST AV DEN NYA METODEN visar att denärbättreänellerlikabrasomtidigaremetoder. Som kriterium används andelen av de föreslagna kandidaterna som accepteras. Tidigare metoder får ofta problem när den faktiska bryggan är väldigt olinjär, eller då det är få datapunkter mellan startoch slutpunkterna. Den nya metoden klarar extrema bryggor bättre och lätta bryggor lika bra som de gamla metoderna och ger dessutom bättre resultat för få datapunkter mellan start- och slutpunkterna. Den kan därmed sägas vara mer robust, vilket är en mycket önskvärd egenskap hos en simuleringsmetod. (Less)
Please use this url to cite or link to this publication:
author
Damberg, Daniel
supervisor
organization
course
FMS820 20171
year
type
H2 - Master's Degree (Two Years)
subject
keywords
Diffusionbridge, MarkovchainMonteCarlo, Stochasticdifferentialequation, Linear noise approximation
language
English
id
8913888
date added to LUP
2017-06-12 09:31:29
date last changed
2017-06-12 09:31:29
@misc{8913888,
  abstract     = {The simulation of diffusion bridges is a difficult statistical problem, and methods for this are attracting a great deal of attention. Analytically, the conditioning on a future pointintroducesasecondtermtothedriftoftheSDEthatincludesthetransitiondensity of the unconditioned process. However, transition densities of diffusion processes are often intractable, whereby other, often computationally intensive methods are necessary. A useful method is Monte Carlo simulation, the computational cost of which, however, is often prohibitively high, necessitating the use of some variance reduction techniques. In this thesis, a novel method for simulating discrete time realisations of diffusion processes satisfying some stochastic differential equation (SDE), and conditioned on hitting some end-point is proposed. This new method is based on the partitioning of the process into one deterministic and one random part, where the deterministic part accounts for the drift of the process, leaving the residual, random process a Brownian bridge. The difficulty then lies in finding a good approximation of the deterministic process, and it is herein proposed that already accepted realisations are used to adaptively improve an estimate of the optimal deterministic process, which is used for simulation. The proposed sampler uses the linear noise approximation (LNA) of the process as initial distribution. Taking the mean of previous realisations ensures convergence to the proper expected path, but may initially produce distorted approximations. During an initial burn-in period, the proposed sampler therefore uses recursively formulated regression based on a suitably chosen number of sine basis functions to approximate the remaining dynamics and forms the approximation of the expected path as the sum of the LNA and the approximation of the remainder. Choosing a suitably low number of basis functions accords the regressive approximation with a resilience towards the erraticbehaviourofindividualrealisationsbutintroducesbias. Therefore,afteraburnin period, the sampler switches to taking the mean, ensuring proper convergence. The proposed sampler is tested on two different models: the Cox-Ingersoll-Ross model and the stochastic Lorenz model, and its performance compared to existing approaches, showing similar results for easy cases and a significant increase for difficult ones.},
  author       = {Damberg, Daniel},
  keyword      = {Diffusionbridge,MarkovchainMonteCarlo,Stochasticdifferentialequation,Linear noise approximation},
  language     = {eng},
  note         = {Student Paper},
  title        = {Simulation of diffusion bridges for stochastic differential equations},
  year         = {2017},
}