WindowsでCUDAを実行するときに、カーネル(Grid)の実行時間が一定(数秒)以上経過すると タイムアウトで終了してしまう。 タイムアウトの設定は下記レジストリの値を書き換える(大きくする)ことによって変更できます。

\HKEY_LOCAL_MACHINE\System\CurrentControlSet\Control\GraphicsDrivers\TdrDelay

OSのバージョン(XP,VISTA,7)によって名前が変わる(らしい)が、だいたいこのあたりに設定値があります。