std::simd

std::simd<T> — тип, представляющий несколько значений типа T, обрабатываемых одной инструкцией процессора. std::simd<float> без явного размера использует "родную" ширину для целевой платформы и флагов компиляции (например, 8 float на AVX2), а std::simd<float, 8> — ширину, зафиксированную явно вне зависимости от платформы (с эмуляцией через несколько инструкций или скалярный fallback, если оборудование не поддерживает такую ширину нативно). Арифметические операторы (+, *, сравнения) перегружены так, что применяются поэлементно ко всем "полосам" (lanes) значения сразу, компилируясь в одну векторную инструкцию вместо цикла со скалярными.A std::simd<T> is a type representing several values of type T processed by a single CPU instruction. std::simd<float> with no explicit size uses the "native" width for the target platform and compilation flags (e.g. 8 floats on AVX2), while std::simd<float, 8> uses a width fixed explicitly regardless of platform (emulated via multiple instructions, or a scalar fallback, if the hardware has no native support for that width). Arithmetic operators (+, *, comparisons) are overloaded to apply elementwise across all "lanes" of the value at once, compiling down to a single vector instruction instead of a loop of scalar ones.

#include <immintrin.h>

// работает только на AVX2, отдельный путь нужен для NEON/AVX-512/SSE// works only on AVX2, a separate path is needed for NEON/AVX-512/SSE
void add_arrays(const float* a, const float* b, float* out, std::size_t n) {
    std::size_t i = 0;
    for (; i + 8 <= n; i += 8) {
        __m256 va = _mm256_loadu_ps(a + i);
        __m256 vb = _mm256_loadu_ps(b + i);
        _mm256_storeu_ps(out + i, _mm256_add_ps(va, vb));
    }
    for (; i < n; ++i) out[i] = a[i] + b[i];  // хвост вручную// the tail, handled by hand
}

void add_arrays(const float* a, const float* b, float* out, std::size_t n) {
    std::size_t width = std::simd<float>::size();
    std::size_t i = 0;
    for (; i + width <= n; i += width) {
        std::simd<float> va(a + i, std::element_aligned);
        std::simd<float> vb(b + i, std::element_aligned);
        (va + vb).copy_to(out + i, std::element_aligned);  // одна и та же ширина везде: SSE, AVX2, AVX-512, NEON// same width everywhere: SSE, AVX2, AVX-512, NEON
    }
    for (; i < n; ++i) out[i] = a[i] + b[i];  // хвост всё ещё нужен// a tail is still needed
}

До std::simd переносимая векторизация означала выбор из трёх неидеальных вариантов:Before std::simd, portable vectorization meant choosing among three imperfect options:

Базовый рабочий цикл: объявить std::simd<float>, загрузить данные из непрерывного диапазона, выполнить поэлементную арифметику, свернуть результат горизонтальной редукцией (std::reduce над simd-объектом или выделенная операция редукции), и, там где нужно условное поведение по полосам, использовать маскированную операцию (в духе where/select) вместо ветвления.The basic working cycle: declare a std::simd<float>, load data from a contiguous range, perform elementwise arithmetic, collapse the result with a horizontal reduction (std::reduce over a simd object, or a dedicated reduce operation), and, wherever per-lane conditional behavior is needed, use a masked operation (in the spirit of where/select) instead of branching.

#include <simd>

std::simd<float> a([](std::size_t i) { return static_cast<float>(i); });  // генератор-конструктор// generator constructor
std::simd<float> b(2.0f);  // широковещательный конструктор — все полосы равны 2.0f// broadcasting constructor — every lane equals 2.0f

std::simd<float> sum = a + b;
std::simd<float> product = a * b;

float total = std::reduce(product);  // горизонтальная редукция — одно скалярное число// a horizontal reduction — a single scalar number

// маскированная операция: по полосам, где a > 10, взять b, иначе a — без ветвления// a masked operation: for lanes where a > 10, take b, otherwise a — no branching
auto mask = a > std::simd<float>(10.0f);
std::simd<float> clamped = std::simd_select(mask, b, a);

Точная форма API (имена simd_select/where, точки настройки конструкторов) на момент написания ещё может измениться в финальной формулировке стандарта — в примерах ниже используется семантика предложения P1928, а не гарантированно окончательные имена функций.The exact shape of the API (the names simd_select/where, constructor customization points) may still shift in the final standard wording as of this writing — the examples below use the semantics of proposal P1928, not necessarily the final function names.

• WG21 P1928 — std::simd
• cppreference — std::experimental::simd (пока под experimental, до ратификации)cppreference — std::experimental::simd (still under experimental, pending ratification)