В таком случае, тоже непонятно, зачем делать параллельные расчёты - нарезать, чтобы просто потом по кусочкам всё посчитать, и в сумме должно выйти быстрее?

Не уверен, что у нас это будет реально. Это с тупым примером всё работает, а у меня с сотню разных операций, которые используют разные принципы. Каждая операция - примерно в таком вот духе, но рассчитывать на разумное использование кэша сложно даже если я оставлю всего одну строчку в матрице...