Далеко не все задачи можно распоралелить, так что не стоит ждать что все программы станут в разы быстрее. К томуже всетаки CUDA закрытая технология нвидии, так что я думаю большенство будет ждать OpenCL или подобный стандарт. К томуже куда позволяет более удобно задействовать возможности графических карт в другой области, но многие уже давно делают это в ручную используя обчные графические API и шейдеры
